Manipulation mit Künstlicher Intelligenz und Deep Fakes

Tags: #<Tag:0x00007f1318877080> #<Tag:0x00007f1318876f68>

Ein Unbekannter soll sich in mehreren Videokonferenzen als Leonid Wolkow ausgegeben haben – per Deep Fake. Niederländische Politiker berichten von einem Gespräch via Zoom mit dem Vertrauten des Kreml-Kritikers Alexei Nawalny. Auch Politiker in Großbritannien, den baltischen Staaten und der Ukraine sollen ähnliche Konferenzen gehabt haben.

Deep Fakes mittels KI sind nun also so gut das damit ganze Videokonferenzen in Echtzeit gefaked werden können. Das dürfte dann in absehbarer Zeit zu ganz neuen Möglichkeiten zur Generierung von Fake News und Falschinformationen führen. Nicht nur für Politische Dinge, sondern evtl auch für Scam. wie Kann irgendein Senior erkennen das der Typ im WhatsAPP Videochat nicht der echte Enkel ist ?

Welche Technischen Möglichkeiten könnte es denn geben um das zumindest zu erschweren ?

z.B. den Videooutput von Kameras mit GPG oder ähnlichem signieren damit ein Fake eher auffällt ? Signieren von Streams mittels digitalen Personalausweis oder anderen Identitätsprofilen ?
Was wiederum die Anonymität massiv untergraben würde und somit ebenfalls massive Nachteile hätte.

Hat von euch vielleicht jemand eine Idee wie man solche Probleme lösen könnte ?

2 Likes

Ich rate im Allgemeinen dazu, die Aufklärung, dass Videokonferenzen in den meisten Fällen eine schlechte Idee sind (Datenschutz), voranzutreiben. Warum muss man immer alle Gesichter sehen - weil es geht?

Davon völlig unabhängig: Das ist kein technisches Problem und daher nicht mit Technik zu lösen.