Bevor Sie mit KI anfangen, sollten Sie sich vergewissern, ob KI der richtige Ansatz für das Problem ist, das Sie lösen möchten. KI wird aktuell gehyped und muss nicht die beste Lösung für Ihre Aufgabenstellung sein. Eine ehrliche Antwort auf diese Frage vermeidet unter Umständen, dass Sie mit „Kanonen auf Spatzen schießen“, sowie unnötige Arbeit.
KI-Halluzination
Wenn dieser Test bestanden ist, dann müssen Sie beim Einsatz einer KI damit leben können, dass diese immer wieder falsche Antworten produziert. Man spricht hier von KI-Halluzination. Das liegt daran, dass zum Beispiel generative Text-KIs immer nur das wahrscheinlichste nächste Wort aus einer Unmenge an Daten prognostizieren. Es kann aber sein, dass dieses prognostizierte nächste Wort in Ihrem besonderen Kontext falsch ist. Ähnlich verhält es sich mit bilderzeugenden KIs, was in den Anfängen dazu führte, dass abgebildete Personen gerne einmal sieben Finger an einer Hand hatten.
Zudem kann es passieren, dass einem Bot aufgetragen wird, zehn Seiten Inhalt zu füllen, aber die Datenbasis, mit der er trainiert wurde, dafür nicht genügend Material liefert. Im Ergebnis fängt er u. U. dann ab einem gewissen Punkt an, nur noch Unsinn zu verfassen, nur um die geforderte Menge an Textzeichen zu erreichen. Das Produzieren von Fehlern mag für interne Büroaufgaben, in denen ein Mensch jederzeit die Chance hat, das Ergebnis vor einer Veröffentlichung zu prüfen, unproblematisch erscheinen. In diesen Einsatzgebieten überwiegen die Vorteile des KI-Einsatzes diesen Nachteil regelmäßig und deutlich. Wenn Sie aber einen Chat-Bot auf Ihrer Webseite unüberwacht auf Ihre Kunden loslassen, könnte es Ihnen ergehen wie Air Canada: Hier hatte der Bot einem Kunden einen Rabatt versprochen, den es gar nicht gab. Als der Kunde diesen einklagte und den Chatverlauf als Beweis vorlegte, musste die Fluglinie zahlen.
"Machen Sie Ihren Mitarbeitern die Risiken von KI und die daraus resultierenden Regeln in regelmäßigen Schulungen verständlich."
Dr. Jörg von Steinaecker
Vorsicht bei der Eingabe von sensiblen Daten in den Prompt
Wenn es sich bei den Daten, die Sie in den Prompt der KI eingeben, um persönliche Daten handelt, müssen Sie vorher das Einverständnis desjenigen eingeholt haben, den diese Daten betreffen. Wenn dies nicht vorliegt, verbietet es die DSGVO, seine Daten auf eine Reise durch Serverlandschaften außerhalb der EU zu schicken. Da diese Technologie recht neu ist, ist davon auszugehen, dass Ihre bislang von Kunden und Mitarbeitern eingeholten Datenschutzerklärungen die Weiterleitung von personenbezogenen Daten an Künstliche Intelligenzen nicht abdeckt und damit nicht erteilt wurde.
Wenn es sich bei den Daten um Betriebsgeheimnisse von Ihnen oder Ihren Geschäftspartnern handelt, dann kann es für Sie sehr ungemütlich werden, wenn herauskommt, dass Sie diese Daten den KI-Betreibern über den Prompt zur Kenntnis weitergeleitet haben. Werden sie sogar durch Training oder Erweiterung des Sprachraumes im Sprachmodell der KI abgelegt, können sie in einer späteren Antwort der KI an einen anderen Benutzer enthalten sein.
Es wäre also nicht unbedingt eine gute Idee, beispielsweise den neuen Händlervertrag des Herstellers einer KI zu übergeben, damit diese einem das Juristendeutsch zusammenfasst und verständlich macht. Denken Sie auch an die ungezählten Verschwiegenheitsvereinbarungen, die Sie in Ihrem Geschäftsleben unterzeichnet haben, und gegen welche Sie verstoßen könnten. Sie können diese Risiken auf zwei Arten reduzieren: Hosten Sie die KI selbst oder zumindest bei einem Hoster in der EU, mit dem Sie eine Auftragsdatenverarbeitung abgeschlossen haben. Ja, das ist möglich und noch nicht einmal sonderlich schwierig. Vermeiden Sie zusätzlich die Eingabe von personenbezogenen Daten und Betriebsgeheimnissen in den Prompt der KI.
Rechtliche Unsicherheiten
Für das Training der meisten Basismodelle generativer KIs (GPT-4, LaMDA, LLaMA, PaLM, Midjourney etc.) wurde alles, was im Internet greifbar war, ungefragt verwendet. Ob jemand (Urheber-)Rechte an diesen Inhalten hält oder der Rechteinhaber gar die Verwendung der Inhalte für solche Zwecke verboten hat, hat OpenAI & Co. nicht wirklich interessiert. Nach „guter Start-up-Manier“ folgte man auch hier dem Ansatz „erst mal machen, entschuldigen können wir uns später immer noch“. Mit einer einfachen Entschuldigung wird es jedoch in diesem Fall nicht getan sein, wenn man die Menge der Klagen sieht, mit der Künstler, Verlage, Autoren und deren Interessensvertreter die KI-Anbieter aktuell überziehen.
Das Risiko für Sie ist, dass Sie sich an einen KI-Anbieter gebunden haben, der diese Klagewelle nicht überlebt. Sich vor diesem Risiko zu schützen, ist aber nicht einfach. Zunächst muss man eingestehen, dass die heutige Leistungsfähigkeit der generativen KIs nicht denkbar wäre, ohne das Internet rücksichtslos zu plündern. Im Ergebnis ist also jeder Anbieter einer nur halbwegs leistungsfähigen KI von diesem Risiko betroffen. Man ist aber gut beraten, genauer hinzuschauen, welche Basismodelle einer generativen KI eines bestimmten Anbieters zugrunde liegen.
Ohne Regeln geht es nicht
Wegen der vorgenannten Risiken und Nebenwirkungen erlassen Unternehmen sogenannte KI-Richtlinien, die Mitarbeitern und Geschäftspartnern Hilfestellungen beim Einsatz von Künstlicher Intelligenz geben. Diese Richtlinien adressieren unter anderem die folgenden Themen:
