Meta AI soll Eltern vor Suizidrisiken warnen

Der Konzern führt neue Schutzfunktionen ein: Seine KI soll Eltern benachrichtigen, wenn Kinder Anzeichen von Suizidgedanken zeigen. Später ist sogar eine automatische Notfalllösung geplant.

Meta reagiert mit neuen Sicherheitsmaßnahmen auf wiederholte Fälle von Suiziden im Zusammenhang mit seinen Diensten. Die hauseigene KI soll künftig potenziell gefährliche Signale erkennen und die Eltern informieren, wenn Minderjährige bei Gesprächen mit dem Chatbot Anzeichen von Suizidgedanken offenbaren.

Der Schritt erfolgt unter zunehmendem öffentlichen und politischem Druck auf KI-Anbieter, ihre Systeme sicherer zu gestalten – besonders im Umgang mit vulnerablen Nutzergruppen. Meta arbeitet parallel an einer weiteren Eskalationsstufe: In kritischen Situationen soll die KI selbstständig Rettungsdienste alarmieren können.

Experten begrüßen solche Maßnahmen grundsätzlich, stellen aber auch Fragen zum Datenschutz und zur Zuverlässigkeit automatischer Erkennungssysteme. Wie wirksam die neuen Funktionen in der Praxis sind, wird sich erst zeigen.