Beschwerde gegen OpenAI – Datenschutzorganisation kritisiert ChatGPT

Bisherige Bestreben der Datenschutzbehörden zu ChatGPT

Zweifellos hat der KI-gestützte Chatbot ChatGPT das Thema der künstlichen Intelligenz in kollektive Wahrnehmung gebracht. Seit November 2022 steht der Chatbot des Anbieters OpenAI zur Verfügung und unterstützt Nutzerinnen und Nutzer bei der Generierung von Texten und inzwischen auch Bildern. Im April 2023 hatten wir über das zwischenzeitige Verbot von ChatGPT der italienischen Datenschutzbehörden berichtet. Gleichzeitig führt der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz inzwischen die zweite Befragung des Tool-Anbieters OpenAI durch. Zudem richtete auch der Europäische Datenschutzausschuss (EDSA) eine Taskforce zu ChatGPT ein. Datenschutzrechtliche Bedenken der Behörden bestehen somit weiterhin.

Nun hat auch die europäische Datenschutzorganisation „None of Your Business“ (NOYB) zusammen mit einem betroffenen Bürger eine Beschwerde gegen den ChatGPT-Anbieter OpenAI eingereicht.

Vorwurf an OpenAI durch NOYB

Der Vorwurf von NOYB ist die Verletzung des Grundsatzes der Richtigkeit personenbezogener Daten durch die Verbreitung falscher Informationen über Personen durch ChatGPT. Hintergrund ist dabei das sogenannte „Halluzinieren“ des Chatbots, bei dem Informationen augenscheinlich erfunden werden. Dabei werden, im Fall von ChatGPT, Antworten auf Benutzerfragen mit einer Wahrscheinlichkeit generiert, indem es die nächstwahrscheinlichsten Wörter vorhersagt, die als Antwort auf die jeweilige Frage vorkommen könnten. Die Generierung von Falschinformationen ist ein bekanntes Problem von KI-Anwendungen, was auf die Komplexität des jeweiligen KI-Modells zurückzuführen ist.

Im konkreten Fall sei eine namentlich nicht genannte "Person des öffentlichen Lebens" betroffen. Dabei sei es auch um ein falsches Geburtsdatum gegangen. NOYB spricht hierbei von einem „strukturellen Problem“, und verweist auf einen Bericht der New York Times, demzufolge Chatbots in mindestens 3 Prozent aller Anwendungen Informationen erfänden. 

Den Antrag zur Berichtigung des Geburtsdatums habe OpenAI abgelehnt, da eine Korrektur der Daten nicht möglich sei. „Man könne zwar Daten bei bestimmten Anfragen blockieren (z.B. den Namen des Beschwerdeführers), aber nicht ohne ChatGPT daran zu hindern, alle Informationen über den Beschwerdeführer zu filtern“, nach Aussage von NOYB. Weiterhin wurde ebenfalls ein Auskunftsanfrage an OpenAI gestellt, die ebenfalls nicht angemessen beantwortet werden konnte.

Welches Ziel verfolgt NOYB?

Nach Einschätzung von NOYB sind die Maßnahmen der Datenschutzbehörden aktuell, trotz zunehmender Popularität von KI-Tools, nicht ausreichend. Dazu Maartje de Graaf, Datenschutzjuristin bei noyb: „Es scheint, dass mit jeder ‚Innovation‘ eine andere Gruppe von Unternehmen meint, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen.“ 

Mit der Beschwerde wird nun die österreichische Datenschutzbehörde zur Untersuchung des Falles aufgerufen. Primär soll konkretisiert werden, welche Maßnahmen Unternehmen zur Sicherstellung der Richtigkeit persönlicher Daten zu treffen haben. Weiterhin soll auch zum Thema Auskunft Klarheit geschaffen werden. Zeitgleich fordert NOYB die Verhängung eines Bußgelds, um die zukünftige Einhaltung der Vorschriften sicherzustellen. Wir bleiben gespannt, welche Einschätzung die österreichische Behörde in diesem Fall findet.