Deepfakes: KI gegen KI
Seite 2: Einfluss auf Politik, Gesellschaft und Wirtschaft
Während Deepfakes in der Unterhaltungsindustrie aufregende realistische Effekte in Filmen und Spielen erzeugen, erschaffen sie in den Nachrichtenmedien Falschinformationen oder diffamieren gezielt Personen. In der breiten Öffentlichkeit wurde das russische Komiker-Duo Vovan und Lexus bekannt, das Videogespräche mit mehreren europäischen Bürgermeistern führte, darunter mit Franziska Giffey, der damaligen Regierenden Bürgermeisterin von Berlin.
Im Gespräch, das die Komiker in russischen sozialen Medien verbreiteten, gab sich eine Person als Kiews Bürgermeister Vitali Klitschko aus und sprach mit dessen Stimme, was Giffey eine Zeit lang glaubte. In ähnlicher Weise täuschten die Komiker die Bürgermeister von Wien, Madrid, Budapest und Warschau.
Fälschungen dieser Art streuen verdrehte politische Informationen und erschüttern das Vertrauen der Bürger in demokratische Prozesse sowie die Legitimität von Wahlen und der gewählten Vertreter. Deepfakes eröffnen zudem neue Möglichkeiten für Cyberkriminelle, um sich beispielsweise in Phishing-Angriffen als vertrauenswürdige Personen auszugeben. Getäuschte Angestellte leiten sensible Informationen oder Geld an die Täter weiter, die sie fälschlicherweise für Vorgesetzte halten. Ein weiteres Risiko der Deepfake-Technik ist das Täuschen biometrischer Sicherheitssysteme, etwa einer Videoauthentifizierung bei einer Online-Bank.
Immer mehr Politiker und Forscher fordern deshalb Regulierungen und Verhaltensrichtlinien im Umgang mit Deepfakes.
Regeln im Spiel der Täuschung
Die EU bringt derzeit den Artificial Intelligence Act (AI Act) auf den Weg, der einige der oben genannten Risiken minimieren soll. Der Verordnungsentwurf stuft Deepfakes jedoch nur als begrenztes Risiko ein. Das bedeutet, dass nur minimale Transparenzanforderungen wie die Kennzeichnungen als Deepfakes erfüllt werden müssen. Forderungen nach einer höheren Risikoeinstufung und deutlicheren Kennzeichnungspflicht spiegeln auch die öffentliche Meinung wider. Eine Bitkom-Studie zeigt, dass eine überwiegende Mehrheit von 84 Prozent der Befragten für eine verpflichtende Kennzeichnung von Deepfakes plädiert, während 60 Prozent sogar ein völliges Verbot befürworten. Trotz Kennzeichnungspflicht ist es jedoch wahrscheinlich, dass Kriminelle Regeln dieser Art missachten.
