Die italienische Datenschutzbehörde hat den auf Künstlicher Intelligenz basierenden Chatbot ChatGPT gesperrt, weil er nach ihren Angaben gegen Datenschutz- und Jugendschutzregeln verstößt. Der Herausgeber der Applikation, das Unternehmen Open AI, wurde von der Behörde angewiesen, den Dienst „mit sofortiger Wirkung“ in Italien nicht mehr anzubieten, wie die Datenschutzbehörde am Freitag erklärte.Die „Garante per la protezione dei dati personali“ gilt als die erste Behörde der Welt, die die Nutzung von ChatGPT auf der Grundlage von Datenschutzbestimmungen blockiert.
Nach Angaben der Behörde war es bei ChatGPT am 20. März zu einem „Datenverlust“ und damit einer Datenschutzverletzung gekommen. Er betraf Unterhaltungen der Nutzer mit der Anwendung sowie Informationen über die Bezahlung der Abonnenten des kostenpflichtigen Dienstes.
[–>
Die Nutzer wurden demnach nicht darüber informiert, wie die von ihnen abgegebenen Daten von ChatGPT verarbeitet werden. Open AI sammele und speichere „massiv“ personenbezogene Daten, beispielsweise aus „Unterhaltungen“ der Nutzer mit dem System, um damit seine Algorithmen zu „trainieren“. Dafür gebe es keine Rechtsgrundlage, und darüber seien die Nutzer nicht informiert worden, heißt es in einer Erklärung der Datenschutzbehörde. Guido Scorza, ein Vertreter der Behörde, erklärte gegenüber der Fachpublikation „Wired“: „Wer medizinische Forschung betreibt, muss die Zustimmung für Experimente einholen. Diejenigen, die mit neuen Technologien experimentieren, müssen den Prozess ebenfalls transparent machen”, so Scorza. Auch weil ChatGPT zudem häufig fehlerhafte Antworten liefere, liegt nach Ansicht der Behörde “eine unzulässige Verarbeitung personenbezogener Daten” vor.
[–>[–>
Überprüfungen hätten obendrein ergeben, dass Jugendliche nicht ausreichend geschützt seien. Open AI richte sich nach eigenen Angaben nur an Personen über 13 Jahre, doch „das Fehlen eines Filters zur Überprüfung des Alters der Nutzer führt dazu, dass Minderjährige Antworten erhalten, die für ihren Entwicklungsstand und ihr Selbstbewusstsein völlig ungeeignet sind“.
[–>[–>
Strafe bis zu 20 Millionen Euro
[–>
Nach Angaben einer Sprecherin der Datenschutzbehörde muss Open AI nun sein Angebot in Italien vorläufig einstellen. Innerhalb von 20 Tagen muss das Unternehmen zudem mitteilen, welche Korrekturmaßnahmen es ergriffen hat. Ansonsten drohe eine Strafe von bis zu 20 Millionen Euro oder bis zu 4 Prozent des globalen Jahresumsatzes, teilt die Behörde mit. Eine Sprecherin erklärte auf Anfrage, Open AI könne Widerspruch einlegen, das Unternehmen müsse der Anweisung der Behörde aber zunächst nachkommen.
[–>
Die italienische Datenschutzbehörde handelt nach eigenen Angaben unabhängig und braucht keine Zustimmung der italienischen Regierung. Sie hat auch eine tiefergehende Untersuchung eingeleitet
“Maddeningly humble communicator. Hardcore creator. General booze addict. Typical zombie advocate.”
