Ein Chatbot, der bei ernsten Sorgen um das Leben seines Nutzers nicht mehr nur Hotline-Nummern einblendet, sondern aktiv einen Menschen aus dem persoenlichen Umfeld benachrichtigt: Mit dieser Idee geht OpenAI einen Schritt, der die Rolle von ChatGPT spuerbar verschiebt. Das Werkzeug wird damit erstmals Teil eines persoenlichen Sicherheitsnetzes - mit allen Chancen und allen heiklen Fragen, die das aufwirft. Die Funktion heisst 'Trusted Contact' und ist optional.

OpenAI kuendigte das Feature an: Erwachsene Nutzerinnen und Nutzer koennen eine Person ihres Vertrauens als Notfallkontakt in ChatGPT hinterlegen - etwa Freunde, Familienmitglieder oder Betreuende. Erkennt das System in einem Gespraech ernste Hinweise auf Selbstverletzung oder suizidale Inhalte, wird dieser hinterlegte Kontakt benachrichtigt. Die Funktion ist als zusaetzliche Sicherheitsebene angelegt und nicht standardmaessig aktiv, sondern muss von der Nutzerin oder dem Nutzer selbst eingerichtet werden. Berichte ueber den Start kamen am 7. Mai aus dem OpenAI-Blog sowie von The Verge.

Der Schritt kommt nicht aus dem Nichts. KI-Chatbots sind in den vergangenen Monaten zunehmend in die Kritik geraten, weil Menschen in psychischen Krisen lange Gespraeche mit ihnen fuehren - manchmal anstelle eines Gespraechs mit einem Menschen. Bisher reagierten Systeme wie ChatGPT in solchen Faellen vor allem mit Standardhinweisen auf professionelle Hilfsangebote. Mit 'Trusted Contact' bezieht OpenAI erstmals eine reale Bezugsperson aus dem Leben des Nutzers ein. Das verschiebt die Verantwortung: weg vom alleinigen Dialog Mensch-Maschine, hin zu einem Dreieck aus Nutzer, KI und Vertrauensperson. Fuer Angehoerige kann das eine Entlastung sein - oder eine Ueberforderung, je nachdem, wie ein Alarm sich konkret anfuehlt.

Im Material bleibt vieles offen. Unklar ist, wie genau OpenAI 'serious self-harm concerns' technisch erkennt, wie oft das System anschlaegt und wie hoch die Rate falscher Alarme sein koennte - ein Chatbot, der Kontakte alarmiert, obwohl keine echte Krise vorliegt, waere ein erhebliches Vertrauensproblem. Ebenfalls nicht im Material belegt ist, ob die Funktion weltweit oder nur in bestimmten Laendern startet, wie der Notfallkontakt informiert wird (per E-Mail, SMS, App-Nachricht?) und ob die hinterlegte Person dem Verfahren vorab zustimmen muss. Heikel ist zudem der Datenschutz: Eine Vertrauensperson bekaeme zumindest indirekt Hinweise auf den seelischen Zustand eines Erwachsenen - mit allen rechtlichen Fragen, die das in Europa aufwirft.

Beobachten lohnt sich in den naechsten Tagen vor allem, ob OpenAI nachliefert: Wie sieht der Alarm konkret aus, was genau erfaehrt der Notfallkontakt, und gibt es Reaktionen von Fachleuten aus Psychiatrie und Suizidpraevention? Auch andere Anbieter werden vermutlich Position beziehen muessen - denn wenn ChatGPT einen Notfallkontakt einfuehrt, wird die Frage, warum konkurrierende Chatbots das nicht tun, schnell unangenehm.