LAB51 logo
Menu
Subscribe

FTC vs. ChatGPT: Der Kampf um KI-Ethik und Konsumentenrechte

FTC
By Eleni Murru
Eleni Murru

6 Min

Juli 14, 2023
Teilen

Die Federal Trade Commission (FTC) der Vereinigten Staaten ermittelt gegen OpenAI, das Unternehmen hinter dem beliebten Chatbot ChatGPT. Die Behörde will wissen, ob die Produkte des Unternehmens mit künstlicher Intelligenz falsche und schädliche Inhalte erzeugen, die gegen Konsumentenschutzgesetze verstossen und die Nutzerrechte gefährden.

FTC stellt Daten und Praktiken von OpenAI in Frage

In dieser Woche hat die FTC eine 20-seitige Untersuchungsaufforderung an OpenAI gerichtet. Sie stellte dem Unternehmen Dutzende von Fragen darüber, wie es seine grossen Sprachmodelle mit Daten trainiert und wie ChatGPT falsche, irreführende oder abfällige Aussagen über reale Personen machen kann. Die Washington Post berichtete am Donnerstag zum ersten Mal über das Dokument, und eine zuverlässige Quelle sagte CNN, dass es wahr sei. Weder OpenAI noch die FTC haben sich bisher dazu geäussert. 

Die FTC nennt zahlreiche Beispiele für die Missetaten von ChatGPT. Im März 2023 legte OpenAI eines davon offen und erklärte, dass es den Nutzern freistehe, die Chats und Zahlungsinformationen anderer Nutzer einzusehen. Die Behörde fordert OpenAI ausserdem auf, alle Beschwerden über "falsche, irreführende, herabsetzende oder schädliche" Aussagen über seine Produkte detailliert aufzuführen.

Eines der auffälligsten Beispiele ist die Behauptung von ChatGPT, ein Anwalt habe eine Schülerin auf einem Schulausflug sexuell belästigt, wobei er einen Artikel zitierte, der angeblich in der Washington Post erschienen war. Es gab jedoch keinen solchen Artikel, die Reise fand nie statt, und der Anwalt bestritt, jemals einen der Schüler belästigt zu haben.

Die US-Behörde hat den Hersteller von ChatGPT, Sam Altman, dazu aufgefordert, die genutzten Trainingsdaten für seine Produkte zu erläutern. Zudem soll er erklären, wie er das Auftreten von sogenannten "Halluzinationen" vermeidet, bei denen die Antworten des Chatbots zwar wohlgeformt, aber inhaltlich völlig falsch sind.

Wie antwortet OpenAI und wie steht es um die Debatte über KI-Ethik und -Regeln?

OpenAI hat sich nicht offiziell zu der FTC-Untersuchung geäussert, aber Sam Altman drückte auf Twitter seine Enttäuschung und Zuversicht aus: "Es ist sehr enttäuschend zu sehen, dass die Anfrage der FTC mit einer undichten Stelle beginnt und nicht dazu beiträgt, Vertrauen aufzubauen. Dennoch ist es für uns sehr wichtig, dass unsere Technologie sicher und Pro-Consumer ist, und wir sind zuversichtlich, dass wir uns an das Gesetz halten. Natürlich werden wir mit der FTC zusammenarbeiten."

Zur Verteidigung der Daten-, Datenschutz- und Sicherheitspraktiken des Unternehmens twitterte Altman: "Wir haben GPT-4 auf der Grundlage jahrelanger Sicherheitsforschung entwickelt und mehr als 6 Monate damit verbracht, es sicherer und besser abgestimmt zu machen, bevor wir es veröffentlicht haben. Wir schützen die Privatsphäre der Nutzer und entwickeln unsere Systeme so, dass sie etwas über die Welt lernen, nicht über Einzelpersonen." 

Und er wies auch darauf hin: "Wir sind transparent, was die Grenzen unserer Technologie angeht, vor allem wenn wir versagen. Und unsere Struktur der Gewinnbegrenzung bedeutet, dass wir keinen Anreiz haben, unbegrenzte Renditen zu erzielen."

Seine Tweets lösten eine Debatte über KI-Regulierung und Ethik aus. Einige lobten die Innovation und Transparenz von OpenAI, während andere den Mangel an Rechenschaftspflicht und Aufsicht kritisierten. Einige stellten auch die Befugnis und den Ansatz der FTC zur Regulierung von KI im Rahmen der bestehenden Konsumentenschutzgesetze in Frage.

Die Bedenken der FTC-Vorsitzenden Lina Khan über KI-Risiken

Die Untersuchung ist nicht überraschend, da die FTC-Vorsitzende Lina Khan bereits früher Bedenken über KI und ihre potenziellen Auswirkungen auf die Gesellschaft geäussert hat. Im Juni sagte sie, dass die Behörden bei transformativen Werkzeugen wie KI "von Anfang an auf der Hut sein müssen". Sie sagte auch, dass die FTC untersucht, wie KI den Wettbewerb, den Konsumentenschutz und die Privatsphäre beeinflussen könnte.

Khan ist mit ihren Sorgen nicht allein. Elon Musk schloss sich vor einigen Monaten einer Gruppe von Unternehmern und Wissenschaftlern an, die vor den möglichen Folgen der KI warnten und eine sechsmonatige Aussetzung von "Systemen, die leistungsfähiger sind als GPT-4" forderten.

In his recent trip to Europe, after his earlier comments about potentially ceasing operations, Altman tweeted: “very productive week of conversations in Europe about how to best regulate AI,” adding that the OpenAI team was excited to continue to operate here and has no plans to leave. In May, he testified before the U.S. Congress and said that lawmakers should create strong safety rules for advanced AI systems. “If AI goes wrong, it can go quite wrong,” Altman said.

Auf seiner jüngsten Europareise twitterte Altman nach seinen früheren Aussagen über eine mögliche Einstellung des Betriebs: "Sehr produktive Woche mit Gesprächen in Europa darüber, wie man KI am besten regulieren kann", und fügte hinzu, dass das OpenAI-Team begeistert sei, hier weiterhin tätig zu sein. Im Mai sagte er vor dem US-Kongress aus und forderte, dass der Gesetzgeber strenge Sicherheitsvorschriften für fortschrittliche KI-Systeme schaffen sollte. "Wenn KI fehlschlägt, kann sie ziemlich fehlschlagen", sagte Altman.

OpenAI steht auch in Europa auf dem Prüfstand

ChatGPT's FTC investigation is not OpenAI's first setback. In March, the Italian Data Protection Authority ordered ChatGPT's immediate blocking for violating consumer data protection laws. Spain and France followed, investigating ChatGPT for privacy issues and complaints.

Die FTC-Untersuchung von ChatGPT ist nicht der erste Rückschlag für OpenAI. Im März ordnete die italienische Datenschutzbehörde die sofortige Sperrung von ChatGPT an, weil es gegen die Gesetze zum Schutz der Konsumentendaten verstossen hatte. Spanien und Frankreich folgten und untersuchten ChatGPT wegen Datenschutzproblemen und Beschwerden.

Die europäischen KI-Vorschriften werden 2024 in Kraft treten. Laut Brüssel besteht das Hauptziel darin, die Risiken, die durch die verschiedenen Arten des Einsatzes von KI entstehen, durch "eine Reihe ergänzender, verhältnismässiger und flexibler Regeln" zu bewältigen.

FTC gegen OpenAI: Der Kampf um die Integrität von KI

Die Untersuchung der FTC zu OpenAI erfolgt, nachdem die Behörde zuvor vor übertriebenen KI-Behauptungen und diskriminierendem Einsatz der Technologie gewarnt hatte. In Blogbeiträgen und öffentlichen Kommentaren hat die FTC erklärt, dass Unternehmen, die KI einsetzen, für alle unlauteren oder irreführenden Praktiken zur Verantwortung gezogen werden. Als oberste Konsumentenschutzbehörde kann die FTC Verstösse gegen den Datenschutz, irreführendes Marketing und anderes schädliches Verhalten strafrechtlich verfolgen. 

Lina Khan sagte, der Kongress habe der Behörde genug Macht gegeben, um den KI-Missbrauch zu stoppen. In einem Artikel der New York Times erklärte sie ausserdem, dass diese Tools zwar neu sind, aber dennoch den bestehenden Regeln entsprechen müssen, und dass sich die FTC in diesem neuen Markt stark auf sie verlassen wird.

OpenAI ist sich des Risikos unsinniger oder unwahrer Inhalte und der Diskriminierung gefährdeter Gruppen bewusst und ergreift daher proaktive Massnahmen.

OpenAI steht wegen seiner umstrittenen KI-Produkte unter Beschuss der FTC. Der Konflikt zwischen ethischen Grundsätzen und Konsumentenrechten spitzt sich zu. Wie kann OpenAI seine Ansprüche rechtfertigen und Diskriminierung vermeiden? Wie kann die FTC die faire und sichere Nutzung von KI gewährleisten? Die Antworten werden die Zukunft der KI-Governance prägen und die Standards für eine ehrlichere und verantwortungsvollere Branche setzen. Verpasse nicht diesen historischen Showdown, der die nächste Ära der Technologie definieren wird.

magnifiercrossmenuchevron-down