Uih! Facebook musste zwei KI Bots abschalten, weil sie eine Geheimsprache entwickelten

Wie wir wissen, experimentieren die Digital-Giganten Google, Amazon, Facebook und Apple intensiv zum Thema „Artifical Intelligence“ – also zu Künstlicher Intelligenz. In den letzten Tagen haben sich Elon Musk und Mark Zuckerberg medienwirksam darüber auseinandergesetzt, ob KI eine ernsthafte Bedrohung für die Menschheit werden könnte. Da kommt ein Zwischenfall aus dem Facebook-Labor gerade recht: Tatsächlich musste Facebook zwei KI Bots abschalten, da „Bob“ und „Alice“ eine Geheimsprache entwickelten, die für ihre Entwickler unverständlich ist. Klang zwar wie englisch, war es aber nicht…

Bob: „I can can I I everything else.” – Alice: „Balls have zero to me to me to me to me to me to me to me to me to.”

Oje, was werden sich die beiden Maschinen da wohl anvertraut haben? Klar ist, dass es sich um einen selbst entwickelten Code handelt, welcher irgendeinen Sinn ergibt, den die Entwickler nicht verstehen. In Zukunft wollen die Facebook-Entwickler eine solche Panne unterbinden, indem sie den Bots den Befehl geben, in englisch zu kommunizieren.
Quelle: Welt.de vom 28.7.17

Der Unterschied von „Deep Learning“ zu „Maschine Learning“ ist, dass beim Deep Learning der Computer aus einer Masse an unstrukturierten Daten Auswertungen vornehmen kann. In rasender Geschwindigkeit werden diese Informationen (zum Beispiel Texte, Bilder, Videos) anhand von Mustern entschlüsselt, analysiert – und in Reaktionen umgesetzt.

Unternehmen und ihre Social Media Manager wünschen sich so ein Zaubertool, um die Masse an Gesprächen und Publikationen im Web in Windeseile so gut zu verstehen, dass sie daraus Strategien und virale Kampagnen entwickeln können: Die Zielgruppe interessiert sich gerade für ein bestimmtest Thema; die Zielgruppe bewertet ein Ereignis nach gewissen ethischen Grundsätzen; die Zielgruppe liebt leidenschaftlich dies und das und jenes. Die Zielgruppe engagiert sich besonders intensiv, wenn man so und so das und das formuliert bzw. visualisiert.

Wir spüren, dass unsere Sprachassistenten bei Apple, Google, Amazon und Co immer menschlicher werden. Wir können immer freier plaudern, ohne missverstanden zu werden. Sie lernen uns immer besser kennen und wissen manchmal schon, wie unsere Stimmlage mit unseren Emotionen zusammenhängt. Schon sehr komfortabel nicht wahr?

Na dann wollen wir mal die Daumen drücken, dass diese intelligenten Bots nicht untereinander eine eigene Kommunikation entwickeln, die ihre Schöpfer ausschließt. Muss ja nicht sein, dass die Vision von Skynet aus „Terminator“ wahr wird. Aber spannend ist es schon, vor Allem, weil dieser Wettstreit der Giganten dem Thema eine unglaubliche Geschwindigkeit verpasst.

Das legendäre 3-tägige Marathon-Match Mensch gegen Computer bei der US-Spielshow „Jeopardy“ im Jahr 2011 ist uns sicher noch in bester Erinnerung – was alles ist in den letzten sechs Jahren weiter passiert? Sicher eine ganze Menge…