Künstliche Intelligenz Compliance-konform im Unternehmen einsetzen

Organisationen fühlen sich zunehmend gezwungen, Anwendungen mit künstlicher Intelligenz (KI) zu implementieren, um wettbewerbsfähig zu bleiben. Seit dem Erfolg von ChatGPT stehen KI-Methoden wie Large Language Models (LLMs) besonders im Fokus. Deren Einsatz kann zwar viele Vorteile bringen, doch wie gut sind diese tatsächlich für den Einsatz geeignet und wie sieht es mit der Compliance aus?

Our Yearly Focus

Frei im Internet verfügbare KI-Tools bieten einen niedrigschwelligen Zugang und suggerieren damit eine einfache Nutzung auch im Arbeitsumfeld. Besonders beliebt sind derzeit Large Language Models (LLMs), auf Deutsch „große Sprachmodelle“, die menschliche Sprache verstehen und Texte oder Codezeilen generieren. Das wohl derzeit bekannteste LLM ist GPT von OpenAI, trainiert mit enormen Textmengen, erleichtert es bereits jetzt, bei der richtigen Fragestellung, den Arbeitsalltag.

 

Umgang mit Unternehmensdaten und Datenhalluzinationen

So verlockend es auch klingt, Mitarbeitende sollten bei der Nutzung von öffentlich-zugänglichen KI-Tools sehr vorsichtig sein, da oft unklar ist, wie die eingegebenen Daten verarbeitet, gespeichert oder weiterverwendet werden. Denn oft ist gar nicht bewusst, dass die verwendeten Daten eventuell vertrauliche Informationen enthalten und die Verwendung ohne Abklärung mit der IT- und Compliance-Abteilung auch rechtliche Folgen wie Bußgelder für das Unternehmen haben kann. Unternehmen sollten sich diesen Risiken bewusst sein, aktiv die Mitarbeitenden zu dem Thema sensibilisieren und Richtlinien für die Verwendung aufstellen.

Ein weiteres Risiko besteht darin, dass LLMs „Datenhalluzinationen“ erzeugen, also unwahre Aussagen, die überzeugend wirken. Da der Output auf Wahrscheinlichkeiten basiert, spiegelt er nicht immer die Wahrheit wider. Diese Falschaussagen können Mitarbeitende zu Fehlentscheidungen verleiten. Daher liegt es auch in der Verantwortung der Nutzer:innen, die Richtigkeit der generierten Antworten zu überprüfen. Eine schwierige Aufgabe, wenn die Quellen der Antworten nicht ersichtlich sind – ein häufiges Problem bei frei zugänglichen KI-Tools.

 

Valide KI-generierte Inhalte durch Insight Engines

Um trotz dieser Herausforderungen KI-Tools im professionellen Kontext einsetzen zu können, kombinieren Unternehmen idealerweise ein LLM mit einer Insight Engine, wie Mindbreeze InSpire. Eine Insight Engine ist eine intelligente Wissensmanagement-Lösung, die Informationen aus allen relevanten internen Datenquellen verknüpft und analysiert. Die Daten bleiben dabei stets an ihrem ursprünglichen Speicherort. Stellen Angestellte dem LLM eine Frage, extrahiert die Insight Engine automatisch im Hintergrund alle benötigten Informationen aus internen Datenquellen und übergibt diese an das Large Language Model. Dieses formuliert daraus textuelle Antworten unter Bezugnahme der Datenquelle. So erhalten Mitarbeiter:innen nicht nur generierte Inhalte, die wirklich relevant für ihre Arbeit sind, sondern können durch die Quellenangaben die Richtigkeit einfacher überprüfen. Dieser Vorgang ist auch unter Retrieval Augmented Generation (RAG) bekannt.

 

Schematische Darstellung von Retrievel Augmented Generation

 

360-Grad-Sicht auf Informationen

Doch eine Antwort in Textform ist nicht immer das Ergebnis, das Mitarbeitende bei der täglichen Arbeit benötigen. In manchen Fällen, wie bei der Suche nach ganz bestimmten Inhalten, ist es hilfreicher Informationen aus unterschiedlichen Datenquellen parallel zur Hand zu haben – also eine Gesamtsicht (auch 360-Grad-Sicht genannt) auf ein bestimmtes Thema. 360-Grad-Sichten sind auf fast alle Objekte im Unternehmen, wie Kunden, Produkte, Mitarbeitende oder Bauteile, möglich. Sie zeigen die relevanten Informationen übersichtlich in einem Dashboard an, aus dem bei Bedarf weitere Informationen zu dem Thema aufgerufen werden können.

Wie die von LLM generierten Antworten, sind auch die 360-Grad-Sichten auf die individuellen Bedürfnisse der Anwender:innen zugeschnitten. Eine Kundenansicht enthält beispielsweise allgemeine Kundendaten, Bestellhistorie, Supporttickets und Ansprechpartner. Im Bereich Einkauf liefern sie Informationen zu Lagerbestand, Lieferanten und zertifizierten Ersatzteilen. Im Engineering unterstützen sie bei der Sammlung relevanter Informationen zu Bauteilen oder Anlagen, einschließlich Handbüchern, Firmware-Updates und Produktlebenszyklus-Informationen. Dabei sehen Angestellte nur das, was sie auch sehen dürfen, denn die Rechte übernimmt Mindbreeze InSpire direkt aus dem Active Directory.

Der Mehrwert liegt nicht nur in der Darstellung von explizitem Wissen, sondern auch in der Ableitung von implizitem Wissen. Durch die ganzheitliche Betrachtung erkennen Benutzer:innen versteckte Zusammenhänge und Muster, was zur Optimierung von Prozessen und besseren Entscheidungen beiträgt.

Schematische Darstellung von Retrievel Augmented Generation 

 

Um einen besonders reibungslosen und schnellen Einsatz zu ermöglichen, passt sich Mindbreeze InSpire den IT- und Sicherheits-Anforderungen ihrer Kunden an. Die unterschiedlichen Deployment-Möglichkeiten der Insight Engine sind genau auf die individuellen Strukturen der Unternehmen abgestimmt:

Cloud – Diese Möglichkeit empfiehlt sich, wenn bereits große Datenmengen in Cloud-Lösungen verwaltet werden. Zusätzlich zu einer Mindbreeze gehosteten Cloud ist Mindbreeze InSpire auf dem AWS Marketplace, Microsoft Azure und Google Cloud Marketplace verfügbar. Mindbreeze InSpire indiziert bei diesen Diensten Daten direkt aus verschiedenen Cloud-Anwendungen, wodurch keine Transferkosten für die Datenübertragung von anderen Diensten entstehen.

On-Premises-Appliance – Für Organisationen, die besonders Wert auf Datenschutz und Datensicherheit legen, bietet Mindbreeze eine Bereitstellung vor Ort, die sicher in das Rechenzentrum des Unternehmens integriert ist.

Hybrides Modell – Das hybride Modell kombiniert die Vorteile von On-Premises- und Cloud-Suchfunktionen und ermöglicht es, sowohl Cloud- als auch On-Premises-Daten zu indizieren.

 

Fazit

Insight Engines, wie Mindbreeze InSpire, stellen die ideale Lösung für Unternehmen dar, die die Vorteile von KI-Technologien nutzen möchten, ohne dabei auf Datenschutz und Datensicherheit zu verzichten. Durch die Kombination von Insight Engines mit Large Language Models (LLMs) werden zwei zentrale Herausforderungen von generativen KI-Tools gleichzeitig bewältigt: Reduktion von Datenhalluzinationen und Einhaltung von Compliance-Richtlinien.

Darüber hinaus bieten Insight Engines durch die Generierung von 360-Grad-Sichten auf Informationen einen erheblichen Mehrwert. Diese interaktiven Sichten ermöglichen eine umfassende Betrachtung von Kunden, Produkten oder Bauteilen und unterstützen fundierte Entscheidungen durch die Darstellung sowohl expliziten als auch impliziten Wissens. Insight Engines sind vielseitig einsetzbar und bringen einen echten Mehrwert für die Mitarbeitenden und für die Unternehmen.

 

Zur Person

Gerald Martinetz arbeitet als Head of Presales bei der Mindbreeze GmbH in Linz 

Von: Gerald Martinetz
Veröffentlicht: 11.07.2024