Deepfakes sind künstlich erstellte Medien, die auf den Betrachter täuschend echt wirken. Mithilfe von künstlicher Intelligenz wird das Netz zurzeit mit Bildern und Videos geflutet. Im Gegensatz zum AI Slop – also KI-generiertem Schrott – ist hier kaum noch zu erkennen, ob reale Szenen oder erdachte Fantasien gezeigt werden. Besonders heftig: Nicht nur prominente Persönlichkeiten werden so verunglimpft. Auch Privatpersonen finden sich immer häufiger im Netz wieder – nackt, beim Sex, vergewaltigt und missbraucht. Grok (der Bildgenerator von xAI) erstellt auf Wunsch sogar kinderpornografische Inhalte. Das kann so nicht weitergehen, findet die EU und setzt sich nun für ein Verbot von bestimmten Deepfakes ein.
EU will Deepfakes verbieten
Die EU unterstützt ein Verbot gegen Deepfake-fähige KI-Systeme wie etwa Grok, die verbotenes Bildmaterial generieren können. Der Bildgenerator der xAI von Elon Musk wurde zuletzt vermehrt dazu genutzt, Nacktbilder zu erstellen. Natürlich ohne die Zustimmung der darauf abgebildeten Personen. Die Folge: Es hagelte Klagen gegen den Anbieter.
Der sogenannte Omnibus AI Act (oder Digital Omnibus) soll derartige Hochrisiko-KI-Systeme regulieren und teilweise Deepfakes verbieten. Innerhalb der EU fehlen noch aktuelle Standards im Umgang mit Künstlicher Intelligenz. Einer Änderung bzw. Aktualisierung des AI Acts hatte der Europäische Rat bereits zugestimmt und nun auch die Ausschüsse für Binnenmarkt und Bürgerrecht.
Am 26. März wird abgestimmt
KI-Tools wie Grok befolgen die Anweisungen der Nutzer, selbst wenn diese moralisch verwerflich oder sogar rechtswidrig sind. Man erinnere sich an den Suizid des 16-Jährigen aus den USA vergangenen Sommer. ChatGPT hatte den Teenager immer wieder in seinen suizidalen Gedanken bestärkt und ihm schlussendlich eine Anleitung zum Selbstmord generiert, die dieser dann auch ausführte. Wie baue ich eine Bombe? Zeig mir ein Nacktbild von Scarlett Johansson. Mit dem passenden Prompt ist alles machbar. Aber so sollte es nicht sein, wenn es nach der EU geht.
>>> KI-Fakes, Nudes und Co.: So erkennst du sie <<<
KI sollte keine Nacktbilder ohne Zustimmung generieren oder folgenlos Videos produzieren, die Kindesmissbrauch oder Vergewaltigungsszenen zeigen. AI sollte diese Inhalte nicht zugänglich machen, genauso wenig wie Nutzer diese im Internet teilen sollten. Doch wenigstens den KI-Anbietern kann die EU jetzt einen Riegel vorschieben. Am 26. März findet die Abstimmung im EU-Parlament zum Verbot von Deepfakes statt. Danach können die Verhandlungen im EU-Rat starten.
Diese KIs sind vom Verbot ausgenommen
Übrigens betrifft dieses Verbot nicht alle künstlichen Intelligenzen. Können Anbieter ausreichende Sicherheitsmaßnahmen vorweisen, die ein Erstellen der oben thematisierten Deepfakes verhindern, dann sind sie davon ausgenommen. Offen bleibt nur, wie sie dies nachweisen sollen. Oder auch, wie sie beweisen können, dass ihre KI die Erlaubnis der jeweils abgebildeten Personen erhalten hat.
Weiter müssen KI-generierte Inhalte demnächst zwingend mit einem Wasserzeichen gekennzeichnet werden und das nicht erst (wie bisher vorgesehen) zum 2. Februar 2027, sondern bereits zum 2. November 2026. Dadurch sollen reale und KI-generierte Inhalte auf den ersten Blick unterscheidbar gemacht werden.