AiSEC ist unsere Lösung für künstliche Intelligenz - an Ihr Unternehmen angepasst, hält Ihre Daten sicher.
¶ Warum wurde AiSEC entwickelt?
Wir, als Sphinx, haben es uns zur Aufgabe gemacht, innovative Lösungen zu entwickeln, die auf unsere Kunden zugeschnitten sind. Wie wir solche Herausforderungen angehen, erfahren Sie in "Der Sphinx Ansatz".
Eine dieser Lösungen ist AiSEC. Fast jeder nutzt heutzutage einen Chatbot für den einen oder anderen Anwendungsfall, sogar für arbeitsbezogene Aufgaben und Fragen. Und während künstliche Intelligenz in verschiedenen Bereichen viele Vorteile bietet und die Arbeit erleichtern kann, muss man auch sorgfältig über die Daten nachdenken, die man solchen Anwendungen zur Verfügung stellt, da sie diese Daten sammeln. Während man nicht mit Sicherheit sagen kann, ob die gesamte Konversation, die man mit einem gewöhnlichen Chatbot führt, gespeichert und zum Lernen verwendet wird, weiß man allerdings, dass die Metadaten eines Chats genau auf diese Weise verwendet werden. Daher muss man bei jeder Frage, die man einem Chatbot stellt, berücksichtigen, ob die Frage vertrauliche Daten enthält oder impliziert. Vertrauliche Daten könnten, wenn sie in die falschen Hände geraten, zum Verlust von Vorteilen gegenüber dem Mitbewerb führen oder, wenn sie veröffentlicht werden, gegen die DSGVO verstoßen. Ein solches Beispiel wird weiter unten in diesem Artikel genauer diskutiert.
Da dies eine Menge Aspekte sind, die ein Mitarbeiter oder eine Mitarbeiterin im Hinterkopf behalten müsste, bei jeder Frage, die er oder sie der künstlichen Intelligenz stellt oder bei jeder Aufgabe, bei der die künstliche Intelligenz eingesetzt wird, haben wir bei Sphinx die Lösung AiSEC entwickelt. Das Problem des Datenschutzes ist nur eines der drei Hauptgründe, warum AiSEC entwickelt wurde. Da AiSEC On-Premise eingesetzt wird, bleiben Ihre Daten in Ihrem Unternehmen und geraten nicht in die falschen Hände.
Darüber hinaus kann RAG, Retrieval Augmented Generation, implementiert werden, welches es möglich macht, dem Modell Zugriff auf bestimmte unternehmensbezogene Daten zu gewähren, ohne es neu trainieren zu müssen. Stattdessen erweitert es lediglich seine Wissensdatenbank mit den ihm zur Verfügung gestellten Daten und ermöglicht es somit, unternehmensspezifische Antworten auf Fragen zu generieren. Ein Beispiel wäre, dem Modell Unternehmensdaten über Kunden zur Verfügung zu stellen und anzugeben, welche der Daten für die Unterscheidung zwischen Kundengruppen relevant sind, um dann das Modell diese Informationen verwenden zu lassen, um Whitepaper zu erstellen, die speziell auf jede der Kundengruppen zugeschnitten sind. Ein weiterer Anwendungsfall wäre, Daten über Bestellungen und Versand in das Modell einzuspeisen, damit man eine Benachrichtigung erhält, wenn einer der Lagerbestände zur Neige geht und das Modell während seiner Websuche einen Rabatt für genau dieses Produkt gefunden hat.
Der letzte wichtige Grund für die Entwicklung unserer Lösung ist die Video- und Bildgenerierung. Während die meisten Lösungen dies in irgendeiner Weise anbieten, kann man mit unserer Lösung ganz einfach Text in ein Bild verwandeln und das mit nur einem Klick. Darüber hinaus basiert es auf "Stable Diffusion" und bietet somit eine Vielzahl von Möglichkeiten, das Bildergebnis zu optimieren und zu konfigurieren. Mit dieser Lösung kann man der künstlichen Intelligenz nicht nur sagen, was auf dem Bild oder im Video abgebildet werden soll, sondern man kann auch abgrenzen, was nicht darauf abgebildet sein soll und man kann dies über menschenlesbaren Text tun, was die Handhabung vereinfacht.
¶ Beispiel
Ein Beispiel für ein Szenario, das leicht passieren kann und wahrscheinlich auch heutzutage in vielen Unternehmen vorkommt, in denen Large Language Models (LLM) wie ChatGPT verwendet werden, ist das Folgende:
Ein Mitarbeiter möchte mögliche Verbesserungen an einem Flyer erhalten, den er oder sie erstellt, mit dem für eine neue und innovative Lösung geworben wird, an der das Unternehmen gearbeitet hat und die es bewerben möchte. Daher stellt der Mitarbeiter einem LLM wie ChatGPT alle Informationen zur Verfügung, die im Flyer enthalten sein sollten, und liefert auch Hintergrundinformationen über das Produkt, damit der Flyer so viele Informationen wie möglich darstellt. Weiters definiert der Mitarbeiter auch die Zielgruppe, die mit diesem Flyer erreicht werden soll. Das LLM mag nun einen gut gestalteten Flyer erstellen, der auf die Zielgruppe zugeschnitten ist, jedoch lernt es auch, dass diese spezielle Zielgruppe mit dieser Art von innovativer Technologie erreicht werden kann. In Folge wird es diese Technologie und dieses Flyer-Design als Antwort auf zukünftige Anfragen von Unternehmen aus der gleichen Branche bereitstellen, die die gleiche Zielgruppe erreichen möchten.
Auf diese Weise verliert ein Unternehmen nicht nur seinen Vorteil, der auf der innovativen Idee, welche geistiges Eigentum des Unternehmens ist, basiert und jetzt als Lösung im Wissensschatz der LLM ist, sondern das neue Flyer-Design wird wahrscheinlich auch anderen Unternehmen präsentiert, wodurch der Vorteil, der durch die Verwendung einer LLM hätte generiert werden sollen, auch wegfällt. Das Unternehmen hat also nicht nur keinen Wert gewonnen, sondern es hat auch an Wert und vielleicht sogar an Wettbewerbsvorteil verloren.
Dies ist einer der Hauptgründe, warum AiSEC entwickelt wurde, damit private Daten privat bleiben, ohne auf die Vorteile der künstlichen Intelligenz verzichten zu müssen.
¶ Was bietet AiSEC?
AiSEC bietet eine Reihe von Vorteilen für Unternehmen.
-
Vielzahl von Modellen:
Während die meisten proprietären Lösungen für künstliche Intelligenz versuchen, ein Modell zu entwickeln, das für alle Anwendungsfälle geeignet ist, bietet AiSEC verschiedene Modelle an, die für unterschiedliche Aufgaben besonders gut geeignet sind. Ein Beispiel wäre ein Modell, das ausschließlich auf SQL trainiert wurde. Dieses wird bei Fragen zu SQL bei Weitem bessere Antworten liefern, als ein Modell, das zwar auch für SQL trainiert wurde, aber nur teilweise und hauptsächlich mit Daten für andere Themen. Das ist der Grund, wieso wir unseren Kunden unterschiedliche Modelle zur Auswahl anbieten, je nachdem, welche sie zur Verfügung haben wollen. Für jede Aufgabe können sie dann aus den von ihnen gewählten Modellen, jenes auswählen, das basierend auf dem Thema der Frage am geeignetsten scheint.
-
Datensicherheit:
Die AiSEC-Lösung wird vor Ort implementiert und garantiert so, dass keine unternehmensspezifischen Daten jemals das interne Netzwerk verlassen oder an andere externe Anwendungen oder Entitäten weitergegeben werden.
-
Umfangreiche Bild- und Videogenerierung:
Da eine "Stable Diffusion" das Rückgrat unserer Lösung ist, bietet AiSEC auch mehr Möglichkeiten, um das Ergebnis einer Bild- oder Videogenerierung zu konfigurieren und zu optimieren. Man kann mit AiSEC nicht nur festlegen, was in einem Bild oder Video dargestellt werden soll, sondern auch, was nicht in der Darstellung vorkommen soll. Und das kann man in normaler menschlicher Sprache angeben, was den gesamten Prozess vereinfacht. Weiters kann man auch ein Framework mit einem bestimmten Layout-Raster in das Modell einspeisen und das Modell dann anweisen, beispielsweise ein Whitepaper auf der Grundlage dieses Frameworks zu generieren und Bilder nur an bestimmten Positionen in diesem Raster einzufügen.
-
Erweiterbare Wissensdatenbank:
Durch den Einsatz von RAG, Retrieval-Augmented Generation, kann die Wissensbasis eines Modells erweitert werden, ohne es neu trainieren zu müssen. Stattdessen werden die Informationen wie ein Lexikon hinzugefügt, welches das Modell durchsuchen kann. Das Modell ruft die ihm gegebenen Daten ab und baut aus dieser Sammlung von Informationen eine Vektordatenbank auf, die es dann bei Bedarf zum nachschlagen verwenden kann.
Auf diese Weise können auch unternehmensspezifische Daten zu unserer Lösung für künstliche Intelligenz hinzugefügt werden, welches es AiSEC ermöglicht, die bereitgestellten Unternehmensdaten zu durchsuchen und basierend darauf unternehmensspezifische Antworten zu geben, Bilder zu generieren oder andere Aufgaben auf der Grundlage unternehmensspezifischer Informationen auszuführen. Wissen kann über Dateien hinzugefügt werden, welche einfach innerhalb einer Eingabeaufforderung zur Verfügung gestellt werden können oder in eine Sammlung hochgeladen werden können oder mittels Verzeichnissen. Diese können auch entweder zu einer Sammlung hinzugefügt werden oder mittels Verknüpfung und Synchronisation, wie beispielweise durch einen Samba-Share.
Dateien, die innerhalb einer Eingabeaufforderung hochgeladen wurden, auch Inline-Dateien genannt, sind benutzer- und sitzungsbasiert, das heißt sie können nur für diese spezielle Sitzung von diesem Benutzer verwendet werden. Man kann auch PDF-Dateien hochladen. AiSEC scannt und wertet diese dann aus, wandelt alles Geschriebene in Text um und speichert alle Bilddaten mitsamt allen Referenzen, um diese auf Anfrage abrufen zu können. Wenn das Modell eine bestimmte Sammlung zum Beantworten einer Frage oder zum Ausführen einer Aufgabe verwenden soll, muss man lediglich ein "#" in der Eingabeaufforderung eingeben, wodurch eine Liste aller Sammlungen angezeigt wird, aus denen man die passende wählen kann. Man kann auch festlegen, dass alle Modelle standardmäßig die Sammlungen zum Beantworten ihrer Tasks verwenden sollen, anstatt im Web nach den Antworten zu suchen.
-
Kein Vendor Lock-in:
Für AiSEC werden ausschließlich Open-Source-Lösungen verwendet, was einen Vendor Lock-in verhindert. Das bedeutet, dass Kunden nicht an bestimmte Anbieter oder proprietäre Technologien gebunden sind, welche sonst oft zu langfristigen Kostenfallen und eingeschränkter Flexibilität führen. Mit Open-Source-Lösungen als Basis profitieren AiSEC Kunden von der dynamischen Entwicklung einer globalen Community, die offen für Innovationen und die Anpassung an neue technologische Trends ist.
Dies ermöglicht die nahtlose Integration neuer Dienste und Funktionen ohne die Einschränkungen proprietärer Ökosysteme. Darüber hinaus können unsere Kunden ihre IT-Infrastruktur an ihre Bedürfnisse anpassen, ohne sich um die Kompatibilität mit einem bestimmten Anbieter Gedanken machen zu müssen, durch den Verzicht auf proprietäre Lösungen.
-
Umfangreiches Prompt Engineering:
Die "Stable Diffusion" welche im Hintergrund läuft, bietet zusätzliche Optionen für das Prompt Engineering. Unsere Lösung bietet nicht nur positive, sondern auch negative Anforderungen. Das bedeutet, dass man nicht nur angeben kann, was die Antwort beinhalten soll, sondern auch, was ausgeschlossen werden soll. Dies ermöglicht es, das Ergebnis einer Eingabeaufforderung zu optimieren und somit relevantere Antworten auf die eigene Abfrage zu erhalten, als sonst der Fall wäre.
-
API-Integration:
AiSEC bietet eine API und damit die Möglichkeit, diese Lösung in verschiedene Tools von Drittanbietern wie Visual Studio Code oder Jupyter Notebooks zu integrieren. Dadurch ist es möglich, alle Funktionen von AiSEC innerhalb dieser Tools zu nutzen.
-
Search Engine Integration:
AiSEC bietet die Möglichkeit, verschiedene Suchmaschinen zu integrieren und auch zu konfigurieren. Dies ermöglicht eine breitere Wissensdatenbank für die Modelle und somit eine präzisere Antwort auf Anfragen.
-
Workspace-Konfiguration:
Man kann das Verhalten eines Modells über einen Workspace konfigurieren und zwar, indem man in menschlicher Sprache verschiedene Parameter festlegt. Man kann zuerst das Modell auswählen, welches vom Workspace verwendet werden soll, dann die Wissensdatenbank, die das Modell verwenden soll, und dann den Zweck sowie die Einschränkungen die für diesen Workspace gelten soll. Man kann zum Beispiel einen Workspace definieren, der als Nachhilfelehrer für Kinder zwischen 11 und 14 Jahren dienen soll. Dieser Workspace soll niemals einfach nur die richtige Antwort liefern oder die Arbeit für das Kind erledigen, sondern er soll das Kind durch den Prozess führen, um die Aufgabe selbstständig zu erledigen und dem Kind lediglich Hinweise und Tipps geben. Ein anderes Beispiel wäre ein Workspace, der für Trainingszwecke verwendet werden soll. Dieser Workspace soll Fragen stellen, um das eigene Wissen zu überprüfen. Er soll niemals die Antworten auf die Fragen zurückgeben, sondern die gegebene Antwort soll mit der richtigen verglichen werden und eine Punktzahl berechnet werden, die am Ende dann angezeigt wird.
-
Garantierte Funktionalität:
Bei Sphinx stehen wir voll und ganz hinter der Qualität und Leistung unserer AiSEC-Lösung. Deshalb bieten wir unseren Kunden eine umfassende Funktionsgarantie.
Sollten einmal Probleme mit der Funktionalität von AiSEC auftreten, die durch unsere proaktive Wartung nicht verhindert werden konnten, arbeiten wir eng mit unseren Kunden zusammen, um die Ursache zu identifizieren und eine Lösung zu entwickeln, die die Unterbrechung ihres Betriebs minimiert.
-
Rundum-Management:
AiSEC wird vom Sphinx-Team als Managed Service verwaltet. Das bedeutet, dass unser erfahrenes Team alle Komponenten von AiSEC kontinuierlich überwacht, um sicherzustellen, dass jeder Aspekt der Lösung – von der Infrastruktur bis zu den Anwendungen – reibungslos funktioniert.
Durch proaktive Wartung und sofortige Reaktion auf potenzielle Probleme minimieren wir Ausfallzeiten und garantieren maximale Betriebszeit für kritische Workloads. Mit AiSEC können sich unsere Kunden voll und ganz auf ihr Kerngeschäft konzentrieren, während wir uns um die Aufgaben hinter den Kulissen kümmern, um sicherzustellen, dass alles wie erwartet läuft.
-
7 x 24 proaktives Monitoring:
Ein proaktiver Ansatz ist der Schlüssel, um Probleme gar nicht erst entstehen zu lassen. Deshalb legen wir bei unserer AiSEC Lösung großen Wert auf ein umfassendes Monitoring aller Systemaspekte.
Unser leistungsstarkes Überwachungssystem bietet Echtzeit-Einblicke in die Leistung, Sicherheit und Integrität der Plattform, ermöglicht frühzeitige Warnungen vor potenziellen Problemen und ermöglicht es unserem Team, Korrekturmaßnahmen zu ergreifen, oft noch bevor unsere Kunden überhaupt auf ein Problem aufmerksam werden.
-
Third-Level Support:
Ein erstklassiges Support-Team ist die Grundlage jeder erfolgreichen Lösung. Wir bieten einen Third-Level-Support für AiSEC an, der über die gängigen Servicestandards hinausgeht. Während der First- und Second-Level-Support oft nur allgemeine Anfragen und grundlegende technische Fragen abdeckt, ist unser Third-Level-Support speziell auf komplexe technische Herausforderungen ausgelegt.
Unsere Experten auf dieser Ebene arbeiten direkt mit Entwicklern und Systemarchitekten zusammen, um individuelle Lösungen für besonders anspruchsvolle Problemstellungen zu entwickeln. Mit diesem Top-Tier-Support stellen wir sicher, dass selbst komplexeste Herausforderungen für unsere Kunden kein Hindernis für den Erfolg darstellen.
¶ AiSEC Basis-Tarif
AiSEC wird als Dienstleistung angeboten: Wir stellen die Hardware zur Verfügung, welche On-Premise installiert wird und wir bieten verschiedene Machine Learning Modelle an. Welche Modelle verfügbar sein werden, wird nach einem Gespräch mit unserem Kunden definiert, wo wir mit unseren Kunden besprechen, für welche Zwecke AiSEC benötigt wird und welche Modelle daher für diese Zwecke am besten geeignet sind. Nach erfolgreicher Implementierung können unsere Kunden selbstständig Benutzer hinzufügen und entfernen. Im Basistarif sind 20 Nutzer inkludiert. Weitere Benutzer können bei Bedarf ganz einfach, gegen eine Gebühr, hinzugefügt werden. Darüber hinaus beinhaltet der Basistarif auch eine Konfiguration durch uns, bei der wir beispielweise notwendige Wissensdatenbanken hinzufügen, sowie eine Erst-Einschulung zu AiSEC, damit unsere Kunden das volle Potenzial unserer Lösung nutzen können. Nicht im Basistarif enthalten ist eine RAG-Implementierung, diese kann jedoch bei Bedarf ebenfalls ganz einfach dazugebucht werden.