Roko´s Basilisk – Wenn Gedanken töten können - Den digitalen Wandel ergreifen für Business, Beruf, Persönlichkeit

Gastbeitrag von Dr. phil. Johannes Lierfeld, Köln: Im Jahr 2010 begann die Geschichte eines phänomenalen Internet-Spuks, der vom Wirkprinzip her – Kontamination mit gefährlichen Gedanken führt ins Verhängnis – an mediale Horrorfilme á la „The Ring“ erinnert und bis heute nichts von seiner Strahlkraft eingebüßt hat, wird „Roko´s Basilisk“ doch aktuell von Journalisten als „most terrifying thought experiment on the internet“ bezeichnet.

Das erschreckendste Gedankenexperiment des Internet wurde dabei ausgerechnet im „lesswrong“-Forum, einem Rationalitätsblog von Eliezer Yudkowsky, dem Gründer des „Machine Intelligence Research Institute“ (M.I.R.I.), geboren. Der User „Roko“ baute einen selbstimmunisierenden Mindfuck von Gedankenexperiment, indem er davon ausging, eine künftige künstliche Intelligenz würde all jene bestrafen, die nicht aktiv geholfen haben, sie zu entwickeln. Und dies würde die KI nicht etwa aus niederträchtigen Motiven tun, sondern aus dem Impetus, existenzielle Risiken zu minimieren. Denn wäre die KI früher ins Leben gerufen worden, hätte sie mehr Menschen helfen oder diese retten können. Indem man nun von dieser Theorie erfahren hat, wird man gewissermaßen mitschuldig, wenn man sich nicht an der Entwicklung jener künftigen Superintelligenz beteiligt, und zwar – hier liegt ein besonderer Clou – im Sinne eines von M.I.R.I. angestrebten effektiven Altruismus.

Die Auswirkungen des Gedankenexperiments waren verheerend: rund 50 User des „lesswrong“-Forums waren suizidgefährdet, nachdem ihr Geist mit dem „gefährlichen“ Gedankengut kontaminiert worden war. Yudkowsky, seines Zeichens KI-Ethik-Pionier und eigentlich Visionär genug, um es besser zu wissen, nahm die Diskussionen um „Roko´s Basilisk“ aus dem Internet – und schuf damit einen Wiedergänger, vor dem es kein Entkommen gab. Das Internet vergisst nicht, und dementsprechend kehrte der Basilisk über diverse andere Foren umso machtvoller ins Internet zurück. Seine abschreckende Faszination ist derart ungebrochen, dass noch heute User von „lesswrong“ versuchen, ihre Daten von der Plattform zu löschen. Diese persönlichen Daten braucht der Basilisk nämlich, um in der Zukunft eine Simulation der zu bestrafenden Personen erstellen zu können.

Bei Licht besehen ist die Wahrscheinlichkeit, von einer solchermaßen entarteten KI simuliert und bestraft zu werden, freilich gleich Null. Dies liegt zum einen an der selbstimmunisierenden Konstruktion des Gedankenexperiments; wie eine Verschwörungstheorie fordert „Roko´s Basilisk“ unser kritisches Denken heraus und stellt uns vor die Wahl, zu glauben oder zu zweifeln. Aber die beschriebene KI, die auf effektiven Altruismus hin und zur Vermeidung existenzieller Risiken programmiert wurde, müßte alleine schon aufgrund der gigantischen Ressourcenverschwendung auf jede Form retrokausaler Sanktion verzichten. Insofern zeigt der durchschlagende Verstörungsgrad des Basilisken lediglich unsere Lücken in Rationalität und kritischem Denken auf – ironischerweise ausgehend vom Rationalitätsblog „lesswrong“.

Weitere Gastbeiträge von Dr. Johannes Lierfeld in den SteadyNews: