Was Unternehmen beim Umgang mit generativen KI-Anwendungen beachten sollten

Als "generative KI" bezeichnet man Systeme, die auf der Grundlage vorhandener Daten neue Inhalte wie Texte, Bilder, Audio oder Codes erstellen. Die derzeit wohl bekannteste Anwendung ist ChatGPT, daneben existieren viele weitere generative KI-Anwendungen. Was aus Unternehmenssicht bei der Nutzung von generativen KI-Tools zu berücksichtigen ist, hat die DIHK hier zusammengefasst.

Die Datenverarbeitung von ChatGPT ist bislang recht intransparent. Es ist nicht klar, auf welcher Rechtgrundlage personenbezogene Daten in die USA übermittelt werden. Ebenso wenig gibt es eine Rechtsgrundlage für die Verarbeitung und Speicherung personenbezogener Daten auf Servern in den USA. Aus diesem Grund sollte beim Einsatz generativer KI-Systeme stets geprüft werden, wo die Datenverarbeitung stattfindet. Auf die Eingabe und Nutzung von personenbezogenen und auch anderen sensiblen beziehungsweise vertraulichen Daten sollte bei der Anwendung generativer KI-Systeme generell verzichtet werden. Das Gleiche gilt für Daten Dritter, die in anderen Zusammenhängen bezogen und/oder verarbeitet wurden. Insgesamt ist Nutzenden zu empfehlen, sorgfältig abzuwägen, welche Informationen in die Systeme eingespeist werden, da sie genutzt werden können, um die KI zu trainieren und zu verbessern. Seit Kurzem können ChatGPT-Nutzende über eine Opting-out Funktion entscheiden, dass ihre Daten nicht mehr zum Trainieren der KI eingesetzt werden.

Arbeitsergebnisse von KI-Tools hängen stark von der Qualität, der Quantität und Gewichtung der einzelnen Datensätze ab, mit denen sie trainiert werden. Generative KI kann möglicherweise ungenaue, irreführende oder nicht aktuelle Aussagen generieren. Bei vielen generativen KI-Systemen ist nicht transparent, welche Datenquellen genutzt werden und welcher Meinungsschwerpunkt dabei repräsentiert wird. Inhalte und Antworten können einem Bias unterliegen. Die Zuverlässigkeit und Objektivität des Outputs zum aktuellen Zeitpunkt sollten daher stets hinterfragt werden.

Daten, mit denen die KI gefüttert wurde, können urheberrechtlich geschützt sein – zum Beispiel Textbausteine, Begriffe oder Bilder. Dadurch stellt der KI-generierte Output unter Umständen eine Urheberrechtsverletzung dar. Die Vervielfältigung kann strafbar sein. Insofern ist bei von KI generiertem Output Vorsicht geboten. Die Verwendung dieses Outputs für die Kommunikation nach außen ist dabei besonders riskant.

Unternehmen wird empfohlen, ihren Einsatz von generativen KI-Modellen transparent zu machen, einschließlich der Information, in welchen Abläufen sie zum Einsatz kommen. Dies kann dazu beitragen, Vertrauen bei Kunden, Mitarbeitenden und anderen Stakeholdern zu stärken.

Unternehmen sollten mögliche rechtliche und finanzielle Risiken im Zusammenhang mit dem Einsatz von generativer KI berücksichtigen. Dazu gehört auch die Klärung der Haftungsfrage im Falle von Fehlern oder Schäden, die durch die Nutzung der KI verursacht werden.

Unternehmen sollten sicherstellen, dass KI-generierte Inhalte von einem Menschen überprüft werden– insbesondere in Situationen, in denen eine Fehlaussage schwerwiegende Folgen haben könnten.

Es ist wichtig, dass Mitarbeitende sensibilisiert werden, wie generative KI-Anwendungen funktionieren und wie sie diese in die Arbeit integriert werden können. Dabei sollten auch rechtliche Themen wie Datenschutz sowie ethische Aspekte diskutiert werden, damit Mitarbeitende die Anwendungen auf verantwortungsvolle Weise nutzen. Aufgrund der rasanten technologischen Entwicklungsgeschwindigkeit sollten Schulungen regelmäßig aktualisiert werden, um sicherzustellen, dass die Mitarbeitenden auf dem neuesten Stand sind.

Unternehmen sollten die potenziellen Auswirkungen ihres Einsatzes von generativer KI auf verschiedene Stakeholder wie Kunden, Mitarbeitende und die Gesellschaft als Ganzes berücksichtigen. Es sollte sichergestellt werden, dass die Nutzung im Einklang mit den ethischen Prinzipien des Unternehmens steht.

Falls Unternehmen generative KI im Bereich Programmierung und Coding einsetzen, sollten sie sich zuvor mit der Syntax und den Befehlen des Tools vertraut machen und die Erklärungen gründlich lesen. Fehler im Code können sich auf die Performance, Funktionalität und Sicherheit der Anwendungen auswirken.

Seit Anfang April ermöglicht das hinter ChatGPT stehende Unternehmen OpenAI über neue Plugins die direkte Einbindung von ChatGPT in Unternehmenssysteme. So können beispielsweise (Echtzeit-)Datensätze von Unternehmen über Schnittstellen gezielt durchsucht werden oder Aufgaben von der KI wahrgenommen werden, zum Beispiel die Buchung von Reisen. Zwar sind die Plugin-Features aktuell noch sehr begrenzt, KI-Experten rechnen jedoch damit, dass mittelfristig ein eigenes Ökosystem ähnlich dem Apple App-Store entstehen könnte. Auch bei der Nutzung von KI über solche Plugins sollten sich interessierte Unternehmen unbedingt intensiv mit Fragen zu Datenschutz, Urheberrecht und Datensicherheit auseinandersetzen.

Es gibt auf Länder- und Bundesebene eine Vielzahl von neutralen Kompetenzzentren, Hilfestellungen und Förderprogramme, die Unternehmen beim Einsatz von Künstlicher Intelligenz zur Seite stehen, unter anderem: