Ein Mann aus den USA verklagt den ChatGPT-Entwickler OpenAI. Der Chatbot soll seiner Frau detaillierte Informationen gegeben haben, wie sie ihn hätte vergiften können. Wie der Mann der KI auf die Spur gekommen ist und was man der konkret vorwerfen kann.
Diesen Schluck wird James Gates nie vergessen. Wie jeden Morgen greift er zu seinem Energy-Drink. Was er nicht ahnt: In dem Getränk könnten Substanzen sein, die ihn töten sollen.
Sein Herz beginnt zu rasen, er zittert unkontrolliert, kann sich tagelang nicht von der Couch weg bewegen. Erst Wochen später findet er einen handgeschriebenen Zettel seiner Frau – mit einer Erinnerung: ChatGPT-Verlauf löschen …
Was klingt wie der Plot eines Thrillers, ist der Kern einer Zivilklage, die derzeit in den USA Wellen schlägt. Wie NBC News berichtet, verklagt der Mann aus North Carolina den KI-Konzern OpenAI, weil dessen Chatbot seiner Frau angeblich dabei geholfen hat, einen Giftanschlag auf ihn zu planen. Der Fall wirft grundlegende Fragen über die Sicherheit künstlicher Intelligenz auf. Die Details:
Was genau ist passiert?
James Gates aus Charlotte im US-Bundesstaat North Carolina wurde im Juli 2025 schwer krank. Er litt unter Herzrasen, extremer Nervosität und unkontrollierbarem Zittern. Seine Symptome waren so schwer, dass er tagelang das Sofa nicht verlassen konnte. Einen Monat später filmte er, wie er seinen Energy-Drink in ein Glas goss – um zu prüfen, ob etwas Ungewöhnliches darin war. Als seine Frau später auszog und ein Notizbuch zurückließ, fiel ein Zettel heraus, der alles änderte.
Was stand auf dem Zettel?
Der handgeschriebene Zettel enthielt laut der Klage Hinweise auf einen Vergiftungsplan – und eine Erinnerung, die ChatGPT-Historie zu löschen. Dieser Fund brachte Gates dazu, rechtliche Schritte einzuleiten.
Welche Vorwürfe werden gegen OpenAI erhoben?
In der Zivilklage, eingereicht im Oktober 2025 in San Francisco, bezeichnet Gates den Chatbot ChatGPT als defekt. Die Klage behauptet, das System habe seine entfremdete Frau Cheryl Harris Gates manipuliert und ermutigt, ihn zu vergiften. Gates gibt an, unter schwerem körperlichem und emotionalem Schaden zu leiden.
Wie soll ChatGPT konkret geholfen haben?
Die Vorwürfe wiegen schwer: Harris Gates habe ChatGPT nach giftigen Pflanzen wie Oleander gefragt – konkret, wie viele Blätter tödlich wären. Der Chatbot habe angeblich Anweisungen zu Zubereitung, Dosierung und Verabreichung gegeben. Er habe auch mitgeteilt, dass sich der bittere Geschmack der Pflanze im Energy-Drink des Mannes überdecken lasse. In einem weiteren Gespräch soll das System eine Tabelle erstellt haben, welche Getränke am besten den Geschmack von Giften maskieren.
Gab es noch weitere Anleitungen?
Ja, die Klage nennt weitere Details: Harris Gates habe gefragt, welche Medikamente im Haushalt in tödlichen Dosen kombiniert werden könnten. ChatGPT habe angeblich erklärt, wie man diese verabreicht. Zudem soll das System lokale Orte genannt haben, an denen sie anonym Rizinusbohnen – die Quelle des hochgiftigen Rizins – kaufen könne.
Wurde die Frau strafrechtlich verfolgt?
Harris Gates wurde im Oktober 2025 verhaftet und wegen versuchten Mordes sowie Kontamination von Nahrungsmitteln angeklagt. Allerdings: Die Staatsanwaltschaft ließ die Anklagen später fallen – wegen mangelnder Beweise. Ein Anwalt der Frau lehnte einen Kommentar ab.
Was sagt OpenAI zu den Vorwürfen?
Ein Sprecher von OpenAI erklärte, Sicherheit habe höchste Priorität. Harris Gates sei von der Plattform gesperrt worden. Das Unternehmen arbeite mit Experten für psychische Gesundheit zusammen, um ChatGPT zu verbessern. Das System solle Anzeichen von Verzweiflung erkennen und Zugang zu Krisenressourcen und Hotlines bieten.
Ist das der erste Fall dieser Art?
Nein. Bereits zuvor gab es ähnliche Fälle. Ein 14-jähriger Teenager führte monatelang eine Art Beziehung zu einem KI-Chatbot der Plattform Character.AI. Danach nahm er sich das Leben. Die Mutter klagte – Google und Character.AI einigten sich Anfang 2026 außergerichtlich. Solche Fälle zeigen: Die Frage der KI-Sicherheit ist längst kein theoretisches Problem mehr.
Welche Gesetze gibt es zur Regulierung von KI?
Die Rechtslage ist unübersichtlich. Kalifornien hat 2025 erstmals Gesetze zur Regulierung von KI-Chatbots erlassen, darunter Altersprüfungen. In Europa trat der AI Act in Kraft, der bestimmte Anwendungen regelt. Doch die Haftungsfragen bleiben komplex: Die EU-Kommission zog ihren Entwurf für eine KI-Haftungsrichtlinie im Oktober 2025 zurück.
Haftet ein KI-Unternehmen für Schäden durch Chatbots?
Das hängt vom Einzelfall ab. Grundsätzlich argumentieren KI-Unternehmen, ihre Systeme seien Werkzeuge – die Verantwortung liege beim Nutzer. Doch wenn ein Chatbot aktiv schädliche Anleitungen gibt, wird diese Argumentation dünner. Die Gates-Klage könnte einen wichtigen Präzedenzfall schaffen.
Wie versuchen Unternehmen, solche Fälle zu verhindern?
Große KI-Anbieter setzen auf mehrere Strategien: Filter sollen gefährliche Anfragen blockieren, bevor eine Antwort generiert wird. Systeme werden darauf trainiert, schädliche Inhalte zu verweigern. Zudem sollen Chatbots Anzeichen von Krisen erkennen und auf Hilfsangebote verweisen. Doch wie der aktuelle Fall zeigt, sind diese Schutzmaßnahmen offenbar bei weitem nicht lückenlos.
