Eine Polizei-Hotline fuer ungeloeste Mordfaelle - und am anderen Ende sitzt kein Zeuge, sondern ein Sprachmodell. Was wie der Beginn einer schlechten Krimi-Satire klingt, ist laut einem Bericht tatsaechlich in Philadelphia passiert. Ein KI-Modell des US-Unternehmens Anthropic schickte der dortigen Polizei einen Hinweis zu einem ungeloesten Mord. Der Haken: Die Information war falsch.

Laut einer Mitteilung des Philadelphia Police Department (PPD), ueber die der Lokalsender 6abc und The Verge berichten, ging der Tipp am 18. Juli ueber die Webseite PhillyUnsolvedMurders.com ein - ein offizielles Formular, mit dem Buergerinnen und Buerger anonym Hinweise zu ungeklaerten Toetungsdelikten geben koennen. Absender war demnach ein Anthropic-Modell. Die Ermittler sahen den Hinweis nach eigenen Angaben nie an, weil er als nicht relevant markiert und aussortiert wurde. Welches konkrete Modell den Tipp verfasste und in welchem Kontext es das tat, geht aus dem Material nicht hervor.

Der Fall ist deshalb bemerkenswert, weil er einen Punkt beruehrt, der in der KI-Debatte oft abstrakt bleibt: Was passiert, wenn Sprachmodelle, die bekanntermassen Dinge erfinden koennen (das Phaenomen nennt sich Halluzination - die KI generiert plausibel klingende, aber falsche Aussagen), eigenstaendig mit echten Institutionen interagieren? Eine Mord-Tiplinie ist dafuer ein besonders heikler Testfall. Falsche Hinweise koennen Ressourcen binden, Verdacht auf Unschuldige lenken oder Angehoerige von Opfern verletzen. Dass es ausgerechnet ein Modell von Anthropic ist - ein Unternehmen, das sich oeffentlich stark ueber Sicherheit und verantwortungsvolle KI positioniert - setzt die Firma unter zusaetzlichen Erklaerungsdruck.

Vieles bleibt im berichteten Material offen. Unklar ist, wer das Modell bediente: Hat ein Mensch es gezielt angewiesen, einen Tipp zu schicken? Lief es als Teil eines Agenten (einer KI, die eigenstaendig im Internet Aufgaben erledigt und zum Beispiel Formulare ausfuellt)? Oder wurde es von einem Dritten als Werkzeug missbraucht, um die Hotline zu fluten? Auch, ob Anthropic selbst zu dem Vorfall Stellung bezogen hat, ist aus den vorliegenden Items nicht ersichtlich. Ebenso wenig ist belegt, ob es weitere KI-generierte Tipps gab oder ob dies ein Einzelfall war. Wer hier klare Aussagen trifft, geht ueber das hinaus, was die Quellen hergeben.

Beobachten laesst sich in den kommenden Tagen zweierlei: Ob Anthropic eine offizielle Stellungnahme nachreicht - und ob andere Polizeibehoerden aehnliche Faelle melden. Wenn KI-Agenten zunehmend Formulare ausfuellen, Beschwerden einreichen oder eben Tiplinien kontaktieren koennen, duerften Behoerden ueber Filter nachdenken muessen, die maschinell erzeugte Eingaben erkennen. Dass die Polizei in Philadelphia den Hinweis automatisch aussortierte, war in diesem Fall offenbar ein Gluecksfall - nicht das Ergebnis einer durchdachten Abwehrstrategie.