Natürlich muss niemand Facebook nutzen und über Facebook kommunizieren. Falls Jemand wirklich unentdeckt seine Depressionen und Suizid-Phantasien ausleben möchte, kann er sich schließlich von Facebook fernhalten. Von daher erscheint es doch wirklich eine Errungenschaft zu sein, wenn selbstmordgefährdete Menschen, die in Facebook-Postings Warnsignale senden, von Künstlicher Intelligenz erkannt werden und anschließend von Facebook kontaktiert? Sind diese Posts nicht ein klares Hilfeschrei-Signal und wünschen sich die Menschen dahinter nicht Aufmerksamkeit und Zuwendung?
Anfang März 2017 gibt der Konzern in einer Pressemitteilung bekannt, dass gerade dieses neue KI-System getestet wird. 
Gefährdete Nutzer sollen über Algorithmen und Künstliche Intelligenz (also Auswertung von Warnsignalen) identifiziert und begleitet werden können.
Zur Pressemitteilung von Facebook
Springt das System auf Warnsignale an, prüfen – so die Facebook Pressemitteilung – menschliche Mitarbeiter, ob der Verdacht sich bestätigt. Daraufhin wird ein Programm zur Suizid-Prävention gestartet, das es schon seit einiger Zeit gibt bei Facebook. Nur dass bisher keine KI tätig wurde, sondern Facebook-Nutzer aufgerufen wurden, andere Nutzer zu melden, wenn eine Selbsttötungsabsicht vermutet wird.
Wie wird es wohl weitergehen? Wird die KI erkennen, ob ein Facebook-Nutzer suchtgefährdet ist? Zu Gewalt neigt? Sich mit extremistischem Gedankengut beschäftigt? Burnout-gefährdet ist? Sexuelle Perversionen praktiziert? Sich mit anderem abweichendem Verhalten aus dem Üblichen entfernt?
Wie gesagt, niemand zwingt uns Menschen, Mitglied bei Facebook zu werden. Falls diese Programme beschränkt bleiben auf das soziale Netzwerk (und mitgliedsmäßig größte Land der Welt) kann es jederzeit sein, dass sich die Menschen abwenden, weil ihnen die soziale Kontrolle zu viel wird. Doch unser Internetverhalten loszulassen, wird nur sehr wenigen Menschen möglich sein – zu umfassend ist die Digitalisierung fortgeschritten und nimmt weiter zu, wenn das Internet der Dinge immer selbstverständlicher unseren Alltag bestimmt.
Verstehen kann ich nicht, was das Suizid-Präventions-Programm von Facebook bewirken soll. Schließlich können mitfühlende Bekannte, Verwandte und Kollegen wirksamer auf Traurigkeiten und Selbstmord-Phantasien reagieren als einen Maschine, die ein automatisiertes Programm starten lässt, in dem Tipps und Adressen von Beratungsstellen an den Gefährdeten gesendet werden. Klingt eher bedrohlich als hilfreich – so nach dem Motto „Wir haben Dich erkannt – Du stehst unter Beobachtung“.
Ich drücke die Daumen, dass diese Künstliche Intelligenz Tests auf Facebook beschränkt bleiben und nicht unser komplettes verhalten im Web erfassen. Die Vorstellung, dass mein Computer mit der Botschaft aufploppt, dass ich mich auf einem riskanten, unerwünschtem Weg befinde, ist wirklich gruselig. Man wird sehen – ich sage immer „Der Krug geht so lange zum Brunnen, bis er bricht“
