Verbotene KI-Anwendungen nach dem AI Act: Ein Überblick
Seit dem 2. Februar 2025 sind die ersten Bestimmungen des EU AI Act in Kraft, darunter auch Artikel 5, der verbotene KI-Praktiken regelt. Zwei Tage später veröffentlichte die EU-Kommission die mit Spannung erwarteten Leitlinien zu diesen Verboten – ein 140-seitiges Dokument, das wichtige Klarstellungen liefert.
Diese verbotenen Praktiken sollten allen, die mit KI arbeiten, bekannt sein, denn Verstöße können zu drastischen Sanktionen führen: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes eines Unternehmens – je nachdem, welcher Betrag höher ist.
Was regelt Artikel 5 des AI Act?
Der AI Act verbietet bestimmte KI-Praktiken, weil sie ein inakzeptables Risiko für Grundrechte, Sicherheit oder demokratische Werte darstellen. Die wichtigsten Verbote umfassen:
1. Manipulative und täuschende KI-Techniken (Artikel 5(1)(a))
Verboten sind KI-Systeme, die unterbewusst oder gezielt manipulative oder täuschende Techniken einsetzen, um das Verhalten von Menschen erheblich zu beeinflussen – insbesondere dann, wenn dies zu einer Entscheidung führt, die die betroffene Person ohne den KI-Einfluss nicht getroffen hätte und die erheblichen Schaden verursacht.
Beispiele:
-
Subliminale Techniken: Unterschwellige visuelle oder auditive Signale, die das Verhalten beeinflussen.
-
Personalisierte Manipulation: KI-Systeme, die auf Basis persönlicher Daten gezielt übermäßig überzeugende Botschaften generieren.
-
Täuschung durch KI-Chatbots: Systeme, die falsche oder irreführende Informationen verbreiten oder sich als echte Personen ausgeben.
2. Ausnutzung von Schwächen (Artikel 5(1)(b))
Verboten ist der Einsatz von KI-Systemen, die gezielt die Schwächen bestimmter Gruppen ausnutzen – z. B. aufgrund von Alter, Behinderung oder sozialer Benachteiligung –, wenn dadurch erheblich schädliche Entscheidungen herbeigeführt werden.
Beispiele:
-
Suchtverstärkende Algorithmen für Kinder und Jugendliche.
-
Anthropomorphe KI in Form von menschenähnlichen Chatbots oder Robotern, die emotionale Bindungen von Kindern ausnutzen.
3. Sozialbewertung und Scoring-Systeme (Artikel 5(1)(c))
KI-gestützte Systeme zur Bewertung oder Klassifizierung von Personen über längere Zeiträume sind verboten, wenn sie zu ungerechtfertigten oder unverhältnismäßigen Nachteilen führen.
Beispiele:
-
Kreditbewertungen auf Basis irrelevanter persönlicher Merkmale.
-
Scoring-Modelle für Sozialverhalten, die in unzusammenhängenden Kontexten negative Folgen haben.
4. KI-basierte Vorhersage von Straftaten (Artikel 5(1)(d))
KI-Systeme, die ausschließlich auf Basis von Persönlichkeitsmerkmalen oder Profiling vorhersagen, ob eine Person eine Straftat begehen könnte, sind verboten.
Ausnahmen:
-
KI-Systeme, die Menschen bei der Analyse objektiver, verifizierbarer Fakten unterstützen.
-
Geodaten-basierte Kriminalitätsprognosen, die sich nicht auf einzelne Personen beziehen.
5. Biometrische Massenüberwachung & emotionale KI (Artikel 5(1)(e)–(h))
Weitere Verbote betreffen:
-
Massenhafte Erfassung von Gesichtsbildern aus dem Internet oder aus Überwachungskameras zur Erstellung von Gesichtserkennungsdatenbanken.
-
KI-gestützte Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen (außer zu medizinischen oder sicherheitsrelevanten Zwecken).
-
KI-gestützte biometrische Kategorisierung zur Ableitung sensibler Merkmale wie ethnische Zugehörigkeit oder politische Ansichten.
-
Echtzeit-Gesichtserkennung in öffentlichen Räumen für Strafverfolgungszwecke – mit wenigen Ausnahmen, etwa zur Terrorabwehr oder zur Suche nach vermissten Personen.
Fazit
Die neuen Verbote des AI Act markieren einen entscheidenden Schritt hin zu einem sichereren und ethischeren Umgang mit Künstlicher Intelligenz in der EU. Dennoch bleibt abzuwarten, wie die nationalen Behörden und Gerichte diese Regeln in der Praxis interpretieren und durchsetzen. Unternehmen und Organisationen sollten sich frühzeitig mit den neuen Vorgaben auseinandersetzen, um Verstöße und hohe Strafen zu vermeiden.
Für alle, die sich intensiver mit KI-Regulierung und Compliance beschäftigen möchten: Bitkom Consult bietet KI-Schulungen und Seminare zum Thema KI an.
