Kreativität und Restriktionen: Ein Konzept für verantwortungsvolle generative KI

Generative KI verändert die Art und Weise, wie Unternehmen arbeiten. Wie alle Technologien ist sie jedoch nicht unfehlbar. Für Führungskräfte in Unternehmen ist es von entscheidender Bedeutung, zu zeigen, dass KI-Praktiken Transparenz, Fairness und Verantwortlichkeit in den Vordergrund stellen - vor allem, wenn die Technologie zum Mainstream wird.

Die Entwicklung einer Strategie für verantwortungsvolle KI ist jedoch nicht einfach. Sie müssen sich durch ein Labyrinth aus ethischen, urheberrechtlichen und urheberrechtlichen Komplikationen bewegen. Durch die Schaffung eines verantwortungsvollen Rahmens für generative KI können Unternehmen ihren Ruf wahren, indem sie:

• Schutz von geistigem Eigentum, Datensicherheit und generativen KI-Modellen
• Verstehen, wie sich verantwortungsvolle KI je nach Region und Branche unterscheidet
• eine verantwortungsvolle Entscheidungsfindung ermöglichen

Schon jetzt sehen wir die Konsequenzen, wenn verantwortungsvolle KI falsch eingesetzt wird. Ob Samsung-Mitarbeiter, die versehentlich sensible Daten an ChatGPT weitergeben, oder Zoom, das öffentliche Kritik einstecken muss, weil es Nutzergespräche in die Trainingsdaten für große Sprachmodelle (LLMs) einfließen lässt - noch nie stand so viel auf dem Spiel.

Lesen Sie weiter, um zu erfahren, wie Sie verantwortungsvolle KI-Lösungen entwickeln und skalieren können.

Eine aktuelle Studie des MIT Sloan Management Review und der Boston Consulting Group ergab, dass 63 % der KI-Praktiker nicht auf die Risiken neuer generativer KI-Tools vorbereitet sind. Während die grundlegenden Prinzipien der Entwicklung künstlicher Intelligenz weiterhin gelten, schafft die generative KI neue Herausforderungen. Durch die starke Abhängigkeit von visuellen und textuellen Daten, die meist aus dem Internet stammen, gibt es viele ethische Implikationen und potenzielle Verzerrungen zu überwinden.

Hier sind einige Aspekte, die Anlass zur Sorge sein könnten:

• Undurchsichtigkeit der LLM und Zugänglichkeit der Daten: KI-Entwickler greifen in der Regel über Anwendungsprogrammierschnittstellen (APIs) auf LLMs zu, die den heutigen generativen KI-Tools zugrunde liegen. Die meisten Modelle sind proprietär, so dass der Zugriff auf die Trainingsdaten fast unmöglich ist. Wenn ein Unternehmen ein LLM eines Drittanbieters verwendet, können die Softwareentwickler daher oft nicht auf ethische Probleme wie potenzielle Verzerrungen prüfen.
• Unklare Funktionen bei den Trainingsdaten: Vorgeschulte LLMs sind sehr benutzerfreundlich und auch für Personen ohne Informatikkenntnisse zugänglich. Mit ein paar YouTube-Tutorials können Mitarbeiter zum Beispiel virtuelle Assistenten erstellen. Dies bedeutet, dass die Akzeptanz in die Höhe schießen kann, während gleichzeitig die Grenzen zwischen Entwicklern und Endnutzern verschwimmen. Folglich muss der Umfang verantwortungsvoller KI-Programme weit über eine kleine Gruppe von IT-Spezialisten hinausgehen.
• Unangebrachtes Vertrauen in die Fähigkeiten der KI: Da LLMs in der Lage sind, eine menschenähnliche Sprache zu erzeugen und sich auf ihre Antworten zu verlassen, können Endbenutzer ihre Ergebnisse fälschlicherweise als Fakten interpretieren und ihnen zu leicht vertrauen.
• Fehlende Kontrolle: Der organisatorische Druck, KI-Piloten schnell in die Produktion zu überführen, hält KI-Praktiker oft davon ab, von Anfang an robuste Governance-Rahmenwerke zu schaffen.

In Anbetracht unzähliger anderer Herausforderungen - wie Rechte an geistigem Eigentum, Sicherheit und Datenschutz - nehmen Unternehmensleiter in allen Branchen einen Schritt zurück, um ihre verantwortungsvollen KI-Strategien neu zu bewerten.

Die meisten Unternehmen haben Schwierigkeiten, geeignete Mitarbeiter für generative KI-Pilotprojekte zu finden. Das bedeutet, dass die Auseinandersetzung mit ethischen Risiken - die zwar notwendig ist - oft auf der Strecke bleibt.

Um unsere eigenen KI-Initiativen zu optimieren, haben wir einen verantwortungsvollen Ansatz für generative KI entwickelt (siehe Abbildung). Dieser umfasst die vier Phasen einer jeden generativen KI-Lösung: Daten, Basismodell, Aufforderungsvorlagen und die Anwendung oder das System.

Der Ansatz umfasst auch die sechs Elemente, die für eine verantwortungsvolle generative KI erforderlich sind. Schauen wir sie uns genauer an:

1. Branchenspezifische Bewertung von Geschäftskennzahlen: Die Abstimmung zwischen Geschäfts- und Technologiestrategie ist entscheidend für den Erfolg jedes generativen KI-Projekts. Unser Rahmenwerk verbindet nahtlos Geschäftsmetriken mit KI-Leistungsmetriken, was es den Beteiligten ermöglicht, Lösungen mit Vertrauen zu implementieren, da sie wissen, dass sie den Erfolg messen und darüber berichten können
2. Abschwächung der Datendrift: Um die Datendrift - die Veränderung der statistischen Eigenschaften von Daten im Laufe der Zeit - zu minimieren, haben wir Fachexperten aus der Branche mit der Festlegung von Metriken für Datenqualität, Anonymisierung und Gesamtleistung beauftragt.
3. Verlässlichkeit und Sicherheit: Weit verbreitete KI-Halluzinationen sind ein Albtraum für Unternehmen. Wir geben daher Hinweise zur Auswahl eines Modells und zu dessen Feinabstimmung, um konsistente und zuverlässige Ergebnisse zu erzielen.
4. Datenschutz und Sicherheit: Wir verwenden Privacy-by-Default-Frameworks, die es Unternehmen ermöglichen, eine Due-Diligence-Prüfung durchzuführen und die Transparenz zu erhöhen. Unser Ansatz schützt KI-Systeme, -Anwendungen und -Benutzer und beschleunigt das Tempo und den Umfang der Softwareentwicklung.
5. Erklärbarkeit und Nachvollziehbarkeit: Wir führen Prüfmechanismen zur Validierung und Überwachung von gen-AI prompt engineering während der gesamten User Journey ein. Dies bedeutet, dass die Ergebnisse leicht zu erklären und nachzuvollziehen sind.
6. Fairness und Rechtskonformität: Die Leitplanken in unserem Rahmenwerk vermindern die Risiken von Verzerrungen in vortrainierten Modellen. Zum Beispiel stellt unser Robustheitstest für Fairness sicher, dass KI-generierte Antworten eine Reihe von Compliance-Maßnahmen erfüllen, seien es interne Standards oder neue Regierungsrichtlinien wie das von der Europäischen Union eingeführte AI-Gesetz.

Die Erstellung von Kreditpaketen und jährlichen Kreditprüfungen ist aufwändig, zeitraubend und kostspielig. Bankanalysten müssen nicht nur riesige Datensätze zusammenstellen und analysieren, sondern auch eine Vielzahl von regulatorischen Vorgaben einhalten.

Um diese Herausforderung zu meistern, haben unsere KI-Spezialisten ein generatives, KI-gestütztes Tool für die Kreditvergabe und -überwachung entwickelt, das große Mengen von Dokumenten zusammenfasst. Mithilfe umfangreicher Sprachmodelle erleichtert unsere Lösung die Datenextraktion und Textsegmentierung für eine kontextbezogene Datenanalyse und -zusammenfassung.

Darauf aufbauend legte unser Team den Schwerpunkt auf die Erklärbarkeit. Da die Lösung so viele sensible Daten verarbeitet, brauchten wir eine Möglichkeit, die Herkunft der Informationen bis hin zu bestimmten Abschnitten der Dokumente genau zu bestimmen. Also entwickelten wir eine Methode zur Zuordnung von Informationen, um die Genauigkeit und das Vertrauen zu erhöhen.

Darüber hinaus haben wir ein verantwortungsbewusstes KI-Framework für die Gen-AI-Sofortüberwachung mit 25 Beschleunigern wie einer KI-Governance-Matrix, einem Prüfer für die Zuverlässigkeit des maschinellen Lernens, einem Datenschutzprüfer und mehr entwickelt.

Mit einem robusten Prozess können Bankanalysten und andere Stakeholder nun sicher und effizient fundierte Entscheidungen treffen.

Eine verantwortungsvolle generative KI-Strategie braucht mehr als einen Rahmen. Führungskräfte in Unternehmen müssen verantwortungsvolle KI zu einem Teil ihrer Unternehmenskultur machen.

So wird es gelingen:

• Fördern Sie das Bewusstsein für verantwortungsvolle generative KI: Wenn Ihr Rahmenwerk eine Datei auf dem Computer eines Mitarbeiters bleibt und nicht im gesamten Unternehmen verbreitet wird, um Teil der Unternehmenskultur zu werden, wird es nichts nützen. Teil Ihres Rahmenwerks muss ein Plan für die Kommunikation und Durchsetzung verantwortungsvoller KI im gesamten Unternehmen sein
• Bereiten Sie sich im Voraus vor: Bevor Sie eine KI-Lösung einsetzen, sollten Sie genau ermitteln, welche Prozesse davon betroffen sind. Entwickeln Sie dann Maßnahmen zur Entschärfung rechtlicher, sicherheitstechnischer oder ethischer Bedenken, die in diesen Arbeitsabläufen auftreten könnten.
• Versammeln Sie sich um gemeinsame Vorteile: Die Einführung von generativer KI erfordert einzigartige Transparenzüberlegungen innerhalb und außerhalb Ihres Unternehmens. Konzentrieren Sie sich auf die Vorteile, die Ihre Stakeholder vereinen, und kommunizieren Sie transparent und authentisch.
• Priorisieren Sie die Erklärbarkeit: Wenn generative KI-Tools nicht zugänglich sind, werden Sie es schwer haben, das Vertrauen Ihrer Stakeholder zu gewinnen. Die Einbindung der richtigen Ressourcen, Bibliotheken und Frameworks, die zeigen, wie ein generatives KI-Programm zu seinem Ergebnis kommt, ist entscheidend.
• Integrieren Sie Zuverlässigkeitsmetriken: Formulieren Sie Vertrauenswerte für die Ergebnisse generativer KI-Tools und unterziehen Sie sie einer menschlichen Bewertung. Durch die Beteiligung von Menschen können Sie deren Fachwissen einbeziehen, Algorithmen feinabstimmen und die Genauigkeit verbessern. Dieser Ansatz fördert auch das Vertrauen in Ihre KI-Lösungen.

Die rasanten Entwicklungen im Bereich der generativen KI haben viele Unternehmensleiter überrascht. Und das Innovationstempo lässt keine Anzeichen einer Verlangsamung erkennen. In dem Maße, in dem neue Tools auf den Markt kommen, werden die ethischen Bedenken weiter zunehmen.

Aber lassen Sie sich von diesen Bedenken nicht aufhalten. Denken Sie daran, dass jede Herausforderung auch eine Chance ist.

Verlassen Sie sich auf die Technologiepartner, die Sie auf Ihrem Weg in eine profitablere, nachhaltigere und widerstandsfähigere Zukunft verantwortungsvoll mit generativer KI unterstützen können.