06.11.2023
Leitfaden für den Umgang mit generativen KI-Anwendungen wie ChatGPT
Neue Chancen, aber auch Herausforderungen und Risiken für die Anwender
Generative KI bezieht sich auf Systeme, die mithilfe vorhandener Daten neue Inhalte wie Texte, Bilder, Audio oder Codes erstellen können. Ein bekanntes Beispiel für generative KI ist ChatGPT. Die DIHK hat einen Leitfaden entwickelt, der Unternehmen dabei unterstützen soll, generative KI-Anwendungen, insbesondere ChatGPT, verantwortungsvoll und effektiv zu nutzen.
Der auf der Homepage der DIHK zur Verfügunggestellte Leitfaden richtet sich an Unternehmen, die generative KI in ihren Geschäftsprozessen einsetzen möchten, und erörtert wichtige Aspekte und Herausforderungen bei der Verwendung solcher Technologien.
Kurzfassung des Leitfadens:
- Datenschutz: Die Datenverarbeitung von ChatGPT ist intransparent, und die Übermittlung personenbezogener Daten in die USA ist unklar. Unternehmen sollten daher genau prüfen, wo die Datenverarbeitung stattfindet und sensible Datenverwendung vermeiden.
- Datenqualität: Die Qualität der Trainingsdaten beeinflusst die KI-Ergebnisse. Generative KI kann ungenaue oder irreführende Informationen generieren, und die Datenquellen sind oft nicht transparent.
- Geistiges Eigentum: KI generierte Outputs könnten Urheberrechtsverletzungen darstellen, da die trainierten Daten urheberrechtlich geschützt sein könnten.
- Transparenz: Unternehmen sollten ihren Einsatz von generativen KI-Modellen transparent gestalten, um Vertrauen bei Kunden und Mitarbeitenden aufzubauen.
- Haftung und Risikomanagement: Unternehmen müssen rechtliche und finanzielle Risiken im Zusammenhang mit der KI-Nutzung klären, einschließlich der Haftung für Fehler oder Schäden.
- Menschliche Überprüfung: KI-generierte Inhalte sollten von Menschen überprüft werden, insbesondere in kritischen Situationen.
- Mitarbeitende schulen: Schulungen sollten Mitarbeiter sensibilisieren und sie über Datenschutz und ethische Aspekte von generativen KI-Anwendungen informieren.
- Ethische Überlegungen: Unternehmen sollten die ethischen Auswirkungen der KI-Nutzung auf Kunden, Mitarbeiter und die Gesellschaft berücksichtigen.
- Coding: Unternehmen, die generative KI für Programmierung und Coding nutzen, sollten sich mit der Syntax und den Befehlen des Tools vertraut machen, um Fehler zu vermeiden.
- Plugins: OpenAI ermöglicht die Einbindung von ChatGPT in Unternehmenssysteme über Plugins. Unternehmen sollten sich bei der Nutzung von KI über Plugins mit Fragen zu Datenschutz, Urheberrecht und Datensicherheit auseinandersetzen.