Gastbeitrag von Dr. phil. Johannes Lierfeld, Köln: Spätestens seit der britischen Science-Fiction-Serie „Black Mirror“ treten mögliche Bezüge zwischen Errungenschaften von künstlicher Intelligenz und Kriminologie auch für die breite Masse der Medienmenschen sichtbar hervor. Ersichtlich wird dabei auch, wenngleich bislang nur in Andeutungen, das Potenzial für „mind crimes“, also Verbrechen an virtuellen Bewusstseinsformen mit Hilfe von KI, insbesondere von Simulationstechnologie.
Nick Bostrom unterscheidet in seinem Standardwerk „Superintelligenz“ zwischen drei Formen von fatalem KI-Scheitern:
- „perverse Instantiation“ („paperclip“- Szenario; „brennendes Haus“-Szenario): fatales Mißverständnis seitens einer KI, bei der menschliche Kernwerte zwar implementiert wurden, die diese aber nicht in unserem gemeinten Sinne interpretiert und umsetzt
- „treacherous turn“: Selbst wenn eine KI vollständig in unserem Sinne handelt, tut sie dies lediglich aus instrumentellen Gründen (und nicht etwa, weil sie intrinsisch dazu motiviert oder davon überzeugt wäre). Im Hinblick auf eine sichere Erreichung des finalen Ziels erscheint der KI ein angemessenes Verhalten zieladäquat, aber nicht auf eine Art bindend, wie Menschen beispielsweise einen moralischen Code (im Kontrast zum Strafgesetzbuch) bindend empfinden.
- „infrastructure profusion“: Hier handelt es sich um eine spezifische Form der perversen Umsetzung – KI entwickelt überproportionale Infrastruktur zur Erreichung eines bestimmten Ziels und agiert zirkulär („reward circuit control“)
Eine vierte Kategorie fatalen Scheiterns könnte in „mind crimes“ begründet liegen.
pixabay_geralt
Ein „mind crime“ läge beispielsweise vor, wenn das Bewusstsein eines Mordopfers via „Whole Brain Emulation“ simuliert werden würde, nur um dabei die eigene Ermordung wieder und wieder zu durchleben, bis der Täter identifiziert werden konnte. Es ist also ein ethischer Imperativ, sicherzustellen, dass solche Bewusstseinsfragmente – emuliert oder nicht – keinerlei Innerlichkeit entwickeln können.
Unvorstellbare Grausamkeiten wären denkbar in der virtuellen Umgebung, in der ein Körper trotz heftigster Zerstörung und entsprechend codierter „Schmerzinformation“ nicht kaputt geht – und demnach potenziell Jahrhunderte Folter durchleben könnte.
Eine superintelligente KI könnte aus einem Missverständnis heraus hochgeladene Bewusstseinsformen bestrafen, quälen oder löschen. Dies könnte emulierte Gehirne, via Neuralink mit der KI verknüpfte Hirne oder komplett frei simulierte Entitäten betreffen. Hans Moravec nannte diese kommende Kaste der „Ex-Humanen“ schlicht EXES. Exes bedürfen eines neuen moralischen Codes und einer komplett reformierten Ethik. Da simulierte Welten völlig neue, zeitlich potenziell unbegrenzte Formen von Leid möglich machen, müssen Bewusstseinsformen, die in diesen virtuellen Umgebungen existieren, vor „mind crimes“ geschützt werden.
Wie muss eine Cyberethik beschaffen sein, die mind crimes vorbeugt und gleichzeitig möglichst viele Potenziale der Virtualität nutzbar macht?
