EU-Gesetzesentwurf: Algorithmen bewerten und entscheiden – Schutz für Betroffene möglich?

Algorithmen und KI-Systeme greifen immer weiter in das Leben der EU-Bürger ein: Die Kreditwürdigkeit wird durch Software ermittelt, Stellen-Bewerbungen werden von KI-Systemen gefiltert, das Fahrverhalten von Autofahrern wird ausgewertet, das Konsumentenverhalten entscheidet über die Auswahl bei Suchanfragen…, nun will die EU ein Gesetz auf den Weg bringen, das Betroffenen die Möglichkeit gibt, Schadensersatz zu verlangen, wenn sie durch ein KI-System geschädigt bzw. diskriminiert worden sind. Das „Artificial Intelligence Acts“ (AI Act) könnte frühestens Anfang nächsten Jahres in Kraft treten.

Black Box‘-KI-Systeme

Bild von Gerd Altmann auf Pixabay 

Das Problem ist, dass Unternehmen, die Algorithmen und KI-Systeme entwickeln, anwenden, vertreiben und nutzen, nicht bereit sind, ihre Geschäftsgeheimnisse offenzulegen. Ist es möglich, zum Beispiel Meta (Facebook) zu zwingen, die Funktionsweise der Algorithmen offen zu lesen, weil ein Facebook-Nutzer begründet vermutete, dass er aufgrund seiner ethnischen Herkunft bestimmte Jobangebote nicht gezeigt bekommt? Oder dass eine Bewerberin einen Arbeitgeber verklagen kann, weil sie davon ausgeht, dass eine KI ihre Bewerbung aufgrund des Geschlechts aussortiert hat?

Die EU will Anbieter zwingen, bei Schäden ihre Daten und Protokolle offenzulegen. Dabei sollen Geschäftsgeheimnisse jedoch geschützt bleiben. Wichtig ist, dass eine sogenannte Kausalitätsvermutung den Betroffenen davon entlastet, zunächst begründete Beweise vorlegen zu müssen, wenn er eine Diskriminierung bzw. eine ungerechtfertigte Entscheidung durch ein KI-System vermutet, die ihm Schaden zugefügt hat. Es geht also um Haftungsrecht und Verbraucherschutz – und darum, dass das Vertrauen der EU-Bürger in Künstliche Intelligenz gestärkt werden soll.

Quelle Der Standard vom 2. Oktober 2022: EU will gegen digitale Diskriminierung vorgehen

Seit fast zwanzig Jahren auf der "freien Wildbahn" hat Eva Ihnenfeldt sowohl 2004 eine eingetragene Genossenschaft für Existenzgründer gegründet als auch 2011 eine Akademie für die Ausbildung von Social Media Unternehmenden. Lange Zeit war sie Dozentin und Trainerin für Marketing, Kommunikation und Social Media. Heute arbeitet sie als Coach für Menschen im beruflichen Wandel. Ihre Stärke ist es, IST-Situationen zu akzeptieren, Visionen zu erkennen und gemeinsam mit ihren Klienten Strategien zu entwickeln, die sich auch in der Praxis bewähren. Mobil: 0176 80528749 - E-Mail: [email protected]

steadynews.de

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht.