Yvonne Hofstetter gründete gemeinsam mit ihrem Partner Christian Brandhuber schon im Jahr 2009 das Technologieunternehmen Teramark Technologies, spezialisiert auf Künstliche Intelligenz und lernende Maschinen. Trotz dieser Geschäftsausrichtung ist Yvonne Hofstetter in Deutschland wohl die führende Kritikerin in Bezug auf die Digitalisierung der Welt. Als Expertin weiß sie, welche Gefahren darin liegen, wenn selbstlernende Maschinen Menschen an Leistungsfähigkeit übertreffen – und wenn die Überwachung des individuellen menschlichen Verhaltens dazu führt, dass von Computern Stimuli gesetzt und nachgesteuert werden, um erwünschtes menschliches Verhalten zu produzieren und zu kontrollieren.
Zwei Bücher veröffentlichte Yvonne Hofstetter in den letzten Jahren, um auf die Gefahren der Digitalisierung aufmerksam zu machen. In ihrem ersten Buch geht es um die Konsequenzen der lückenlosen Überwachung des menschlichen Verhaltens, im zweiten Buch um die Konsequenzen, wenn nicht mehr der Mensch im Mittelpunkt der politischen Entscheidungen steht – sondern Steuerungssysteme.
Hier ein Überblick über die Ansichten und Kritikpunkte von Yvonne Hofstetter in Bezug auf Künstliche Intelligenz
Was ist Digitalisierung?
Digitalisierung bedeutet, dass wir die Welt umwandeln in einen „riesigen Computer“. In der ersten Phase wurden Daten aus der 
Industrie erhoben, verarbeitet und in Steuerungs- und Lenkungssysteme überführt. Nun, in der zweiten Phase, werden menschliche Daten erhoben, verarbeitet und zu komplexen Verhaltensprofilen umgewandelt. So können Stimuli gesetzt werden, die den Menschen in seinem zukünftigen Verhalten (als Konsument, Bürger, Mitarbeiter) lenken und steuern. Bei der Digitalisierung der Welt geht es darum, die Welt dank maschineller Intelligenz optimal zu steuern und zu kontrollieren.
Zur Zeit passiert das in Europa ohne politische und soziale Kontrolle, da Politiker sich der rasend schnellen Technologie unterlegen fühlen, und nationale Eingriffe nicht möglich sind. Silicon Valley und die Vereinigten Staaten haben riesige Geldmengen in die digitale Technologie investiert, und die europäische Kultur hat bisher akzeptiert, dass sie abhängig sind von den US-Technologien – von Silicon Valley und den großen Fünf: GAFAM (Google, Apple, Facebook, Amazon und Microsoft) bestimmen umfassend die Entwicklung der digitalen Welt, ohne dass Europa etwas entgegensetzen könnte. Das einzige international erfolgreiche digitale Unternehmen ist Zalando – eine Art Kopie von Amazon.
Warum ist die Überwachung des Menschen so riskant?
„Ich habe nichts zu verbergen“ und „Sollen sie doch meine Daten haben!“ sind die beiden Aussagen, die am häufigsten zur Überwachung unseres menschlichen Verhaltens vorgebracht werden. Das beruht auf unserem alten Denken, dass wir als frei entscheidende Menschen mit Menschenwürde nur dann etwas zu befürchten haben, wenn wir uns gegen politische Systeme auflehnen oder kriminell sind. Doch die Erstellung und Verarbeitung menschlicher Verhaltensprofile ist unabhängig von Persönlichkeit und politischer Ausrichtung deshalb so gravierend, weil anhand der Charakterprofile laufend Stimuli gesetzt werden, um unser zukünftiges Verhalten zu beeinflussen. Zwischenzeitlich ist es kaum noch möglich, durch persönliches Verhalten (zum Beispiel die Verweigerung von sozialen Netzwerken) Einfluss zu nehmen. Unsere webbasierten Verhaltensprofile werden von riesigen Datenbrokern gespeichert, ausgewertet und an Unternehmen und Organisationen verkauft.
Digitalisierung als Kulturleistung entfremdet uns von der Natur
Yvonne Hofstetter ist davon überzeugt, dass jede Kulturleistung zu einer neuen Künstlichkeit führt. Der Mensch trägt das Bedürfnis in sich, die Natur zu überwinden. Man verfolgt es sehr deutlich an der Industrialisierung der Welt. Digitalisierung bedeutet nun eine ganz neue, nie dagewesene Kulturleistung, die nicht mehr mit Automatisierung gleichgesetzt werden kann. Menschen erkennen zunehmend, dass Maschinen ihnen überlegen sind. Menschen werden zunehmend mit dem Blick auf Maschinen bewertet, sie werden vermessen und optimiert wie das Klima.
Dadurch, dass wir Künstliche Intelligenz als Persönlichkeit erfahren, entwickeln wir Beziehungen zu den Maschinen und entfernen uns weiter von der Natur. Während einem KI-Wissenschaftler die Persönlichkeit der von ihm entwickelten Maschine vertraut erscheint, verwirrt ihn die Natur „da draußen“. Diesen Effekt hat Yvonne Hofstetter an sich selbst erlebt und sehr nachdenklich gemacht. Die Realität der Zukunft wird wahrscheinlich so aussehen, dass uns die computergesteuerten Geräte und Assistenten natürlicher und vertrauter erscheinen als die Natur.
Menschliche Charaktereigenschaften bei Datenbrokern
Anhand unseres Verhaltens im Internet (Facebook und Social Media, Google Suchverhalten, Kommunikation, Tagesabläufe, Kaufverhalten, Bewegungsprofile etc.) werden von professionellen Datenhändlern Verhaltensprofile angefertigt, die auf psychische Dispositionen, Kreditwürdigkeit, Innovationskraft, Arbeitsverhalten etc. schließen lassen. Es gibt diese „Akten“ bei Datenbrokern zum Beispiel von rund 46 Millionen Deutschen – mit jeweils bis zu 3.000 Charaktereigenschaften. Als Beispiel nennt Hofstetter den Studenten, der häufig spätabends mit seiner Mutter telefoniert. Daraus wird geschlossen, dass eine starke Selbstmordtendenz vorliegt. Die Aktensätze werden an kommerzielle Anbieter, Organisationen und Unternehmen verkauft, so dass Konsument, Bürger und Mitarbeiter charakterlich klassifiziert werden können.
Kein politischer Einfluss in Europa auf die Digitalisierung
In Europa beruhen die politischen Systeme auf einem grundsätzlich anderem Menschenbild als in den Vereinigten Staaten. Während in Europa die Würde des Menschen im Vordergrund steht – mit einem Staat, der die Rahmenbedingungen für diese Würde gewährleisten soll, ist in der Verfassung der USA der Leitgedanke, dass jeder Mensch sich ohne Eingriff des Staates frei bewegen können soll. Der Staat soll sich weitgehend aus der Wirtschaft und dem sozialen Gefüge heraushalten. Überwachung, Steuern und Lenken des Menschen ist ok, da es den ökonomischen Interessen der Unternehmen dient.
Dadurch, dass die Digitalisierung als Technologie so schwer zu erfassen ist und dass in den USA von privaten Investoren Unmengen an Geld in die Entwicklung der Künstlichen Intelligenz gesteckt wird, ist Europa abhängig von US-Unternehmen und konsumiert die Technologie der GAFAM und des Silicon Valley. Politische Kontrolle kann nicht stattfinden, solange diese Abhängigkeit besteht. China hat diese Gefahr schon 2010 erkannt und eine eigene digitale Technologie und digitale Infrastruktur aufgebaut – sich losgelöst von den USA. Man erkennt an den digitalen Technologien Chinas sehr gut das Menschenbild, das dort verankert ist: Kontrolle und autoritäre Lenkung durch den Staat.
Europa müsste ebenfalls eine eigene digitale Technologie entwickeln, um das Menschenbild der „Würde des Menschen“ und die Aufgabe des Staates „Rahmenbedingungen für die Würde des Einzelnen gewährleisten“ zu erhalten. Das würde Hunderte von Milliarden an Investitionen erfordern – und eine begleitende demokratische Diskussion in der Gesellschaft. Stattdessen sind wir im Moment unmündig, da wir keinen Zugriff auf die digitale US-Technologie haben und ihr durch Unkenntnis ausgeliefert sind.
Kybernetik und Komplexitätsforschung: Steuern und Regeln
Seit den fünfziger Jahren werden neuronale Netzwerke und künstliche Intelligenz erforscht. Doch erst jetzt, dank der Masse an Daten, werden „Selbstlernende Maschinen“ zu praktikablen Werkzeugen. Dinge werden digitale zunehmend vernetzt und kommunizieren miteinander – selbst T-Shirts liefern laufend Daten von ihrem „Verhalten“. Je mehr Verbindungen und Abhängigkeiten entstehen, desto mehr Interaktionen gibt es in unserer digitalisierten Welt. Damit ist verbunden, dass sich diese komplexen Systeme mehr und mehr dem Chaos annähern. Um diesem Chaos zu entkommen, nutzen Wissenschaftler und Organisationen Erkenntnisse aus der Komplexitätsforschung und der Kybernetik.
Es geht in der Kybernetik darum, komplexe Systeme zu erkennen, ihre Muster zu identifizieren, anhand von vorliegenden Daten und Experimenten Wahrscheinlichkeiten und Konsequenzen zu berechnen (wie bei dem selbstmordgefährdeten Studenten). So entwickelt das System eine Kontrollstrategie, KI-basierte Computer lenken und steuern sowohl einzelne Menschen, als auch gesellschaftliche Systeme und Organisationen. Steuern und Regeln ist der Schlüssel zum Verständnis von dem, was durch KI-basierte Führung zunehmend passiert.
Der Wert der Arbeit und des Menschen im digitalen Zeitalter
Schon heute sind uns selbstlernende Maschinen in einigen Bereichen wie der Finanzwirtschaft überlegen. Maschinen treffen in Währungssystemen zuverlässigere und bessere Entscheidungen als jeder Mensch. Fällt die Maschine durch eine Störung aus, gerät auch der erfahrenste Datenanalyst in Panik. So werden bald auch Ärzte, Richter, Architekten, Stadtplaner etc. abhängig sein von den Steuerungs- und Lenkungssystemen von Maschinen, die aufgrund von KI immer besser werden. Smart City mit Sensoren, die den kompletten Bewegungsverlauf einer Stadt verarbeiten, sind sowohl für das Individuum als auch für die Gesellschaft mit Umbrüchen verbunden. Lenken und Steuern werden auch hier zum Grundsatz der Zukunft.
KI hält Einzug in den Dienstleistungssektor und in den Bereich der „Wissensarbeiter“. Menschen werden immer weniger gebraucht, da Maschinen effektiver, zuverlässiger, kostengünstiger, innovativer und objektiver arbeiten. Ganze Berufsbilder verschwinden. Alte Geschäftsmodelle wie die klassischen Banken werden komplett verschwinden. Der Mensch bewegt sich zunehmend in einem „geschlossenen Regelkreis“, ist ohne die Führung der intelligenten Maschinen hilflos. Yvonne Hofstetter spricht von einer modernen Form des Menschenhandels, dem sich der Einzelne immer weniger entziehen kann.
Mit dieser Kritik an der Künstlichen Intelligenz und der Digitalisierung der Welt endet die Serie in den SteadyNews. Ohne politische Diskussion und politische Handlungsfähigkeit ist es wohl unmöglich, dem „wildgewordenen technologiebasierten Kapitalismus“ nach US-amerikanischem libertärem Menschenbild bzw. der chinesischen, staatlichen Kontrollideologie etwas entgegenzusetzen. Ob sich hier mal wieder zwei Supermächte die Welt aufteilen? Ob Europa und die restliche Welt etwas entgegensetzen werden? Ob Demokratie ein Auslaufmodell sein wird in einer Digitalen Welt, in der Computer unser Verhalten steuern und regeln? Ich bin gespannt!
Yvonne Hofstetter am 4. November 2016 bei ARD-Alpha – 45 Minuten Interview zu ihrem neuen Buch „Das Ende der Demokratie“
Künstliche Intelligenz: Serie in den SteadyNews
