|
Brüssel/Duisburg, 30. Januar 2025
- Die Europäische Union geht als weltweit Erster
gegen missbräuchliche Anwendungen Künstlicher
Intelligenz (KI) vor. Mit dem 2024 verabschiedeten
KI-Gesetz („AI Act“) schafft die EU
verbindliche Regeln für den Einsatz von KI-Systemen.
Diese wirken sich mittlerweile auf viele
Lebensbereiche aus. Am 2. Februar treten erste
Regelungen in Kraft.
Das Europäische Verbraucherzentrum Deutschland (EVZ)
erklärt, was nun verboten ist.
KI-Gesetz: Worum geht es?
Bereits seit 2018 schützt die
Datenschutz-Grundverordnung (DSGVO) die Privatsphäre
von Verbraucherinnen und Verbrauchern in der EU.
Doch der Einsatz ausgefeilter Künstlicher
Intelligenz hat die Karten neu gemischt. KI-Systeme
analysieren heute Internet-Suchen, Kaufverhalten und
persönliche Daten, oft in Echtzeit, und häufig ohne
das Wissen der Betroffenen. Die anstehende
Bundestagswahl gab Anlass zur Warnung vor
KI-generierten Desinformationskampagnen und
Deepfakes. Also zum Beispiel echt wirkende Videos,
in denen bekannten Politikern Sätze in den Mund
gelegt werden, die sie nie sagen würden.
Aber auch andere bekannte Personen des öffentlichen
Lebens, wie Sänger oder Schauspielerinnen, werben in
künstlich erstellten Werbeclips im Internet für
verschiedenste Produkte.
Für die europäischen Gesetzgeber besteht die
Herausforderung darin, Verbraucherrechte zu
schützen, ohne den technischen Fortschritt und die
Wettbewerbsfähigkeit Europas zu stark
einzuschränken. 2024 wurde das EU Gesetz zur
künstlichen Intelligenz („AI Act“) verabschiedet. Es
gilt unmittelbar in allen Mitgliedstaaten und wird
bis 2026 schrittweise umgesetzt. Die Regelungen
betreffen alle Unternehmen weltweit, die KI-Systeme
in der EU entwickeln, verkaufen oder nutzen. Sie
schützen somit alle Verbraucherinnen und Verbraucher
in Europa.
Verbotene KI-Anwendungen ab dem 2. Februar
Das sogenannte „Social Scoring“ („soziale
Bewertung“) wird ab dem 2. Februar verboten.
Ein Beispiel: Wer eine Ferienwohnung in Rom mieten
möchte, könnte von einer Buchungsplattform aufgrund
seines Social-Media-Verhaltens als „unzuverlässig“
eingestuft werden – etwa, weil frühere Beiträge auf
wilde Partys hinweisen. Den Zuschlag für die Wohnung
bekommt dann ein anderer Nutzer. Unternehmen dürfen
Verbraucherinnen und Verbraucher aber nicht aufgrund
ihres sozialen oder wirtschaftlichen Verhaltens
benachteiligen.
Weitere missbräuchliche KI-Praktiken, die ab
sofort untersagt sind:
Manipulative Systeme, die Verbraucher beeinflussen,
um sie zu finanziellen Verpflichtungen zu verleiten
(z. B. gefälschte KI-generierte Videos, die zu
riskanten Investitionen animieren). KI-Systeme, die
gezielt Kinder oder andere besonders
schutzbedürftige Gruppen ausnutzen, etwa durch
psychologische Tricks, um In-App-Käufe zu fördern.
Alexander Wahl, Jurist im
Europäischen
Verbraucherzentrum Deutschland (EVZ) begrüßt das
Inkrafttreten des Gesetzes: „Der AI Act der EU
schützt Verbraucher vor missbräuchlicher Nutzung von
KI, indem er manipulative und diskriminierende
Praktiken verbietet. Verbraucher müssen künstlicher
Intelligenz (KI) vertrauen können. Es braucht aber
nicht nur klare Regeln, sondern auch eine starke
Kontrolle. Nur so kann KI sicher und fair für alle
sein.“
KI-Kennzeichnungspflicht ab 2026
Ab dem 2. August 2026 wird das KI-Gesetz
weiter verschärft. Dann gilt eine
Kennzeichnungspflicht für KI-generierte Inhalte –
egal ob Video, Audio, Bild oder Text.
Verbraucherinnen und Verbraucher müssen es klar
erkennen können, wenn Inhalte durch KI erstellt oder
manipuliert wurden, beispielsweise durch ein
Wasserzeichen auf Videos. Unternehmen, die sich
nicht an die neuen Regeln halten, drohen Strafen von
bis zu 35 Millionen Euro oder 7 Prozent ihres
weltweiten Jahresumsatzes .
|
