KI für Webcams: Darum wird es noch schwieriger Deepfakes zu erkennen

Ein neues KI-Projekt mit dem Namen Deep-Live-Cam hat kürzlich im Internet für Aufsehen gesorgt, weil es Deepfakes auf Webcams anwenden kann. Gleichzeitig hat es Diskussionen über die möglichen Sicherheitsrisiken und ethischen Implikationen ausgelöst.

Wie sich Deep-Live-Cam von anderen Deepfake-Programmen unterscheidet

Im Wesentlichen nutzt Deep-Live-Cam fortschrittliche KI-Algorithmen, die ein einzelnes Ausgangsfoto nehmen und das Gesicht bei Live-Videogesprächen, z. B. über Webcams, auf eine Zielperson übertragen können. Das Projekt befindet sich zwar noch in der Entwicklung, aber die ersten Tests zeigen bereits sowohl beunruhigende als auch beeindruckende Ergebnisse.

Wie auf Ars Technica näher beschrieben, liest und erkennt die Anwendung zunächst die Gesichter einer Quelle und eines Zielobjekts. Anschließend werden die Gesichter mithilfe eines Inswapper-Modells in Echtzeit ausgetauscht, während ein anderes Modell die Qualität der Gesichter verbessert und Effekte hinzufügt, die sich an wechselnde Lichtverhältnisse und Gesichtsausdrücke anpassen. Dieser ausgeklügelte Prozess stellt sicher, dass das Endprodukt sehr realistisch ist und nicht leicht als Fälschung erkannt werden kann.

Einer der Clips, die ein Entwickler geteilt hat, zeigt zum Beispiel eine realistische Fusion des Gesichts von Teslas CEO Elon Musk mit einem Motiv. Der Deepfake enthielt sogar eine Überlagerung mit einer Brille und den Haaren der Person, was ihn unglaublich überzeugend machte. Ein weiteres Beispiel war das Gesicht des US-Vizepräsidentschaftskandidaten JD Vance und von Mark Zuckerberg von Meta.

Ist der Aufstieg von KI-Simulations-Apps besorgniserregend?

Warum ist das besonders besorgniserregend? Die Verwendung von Deel-Live-Cam und anderen Echtzeit-Deepfake-Apps wirft ernsthafte Bedenken hinsichtlich Datenschutz und Sicherheit auf. Stellt Euch vor, dass ein Bild von Euch aus dem Internet geklaut und ohne Eure Zustimmung für Betrug, Täuschung und andere bösartige Aktivitäten genutzt werden kann.

Im Moment sieht es so aus, dass die Mängel auf verschiedene Weise behoben werden können, z. B. durch Wasserzeichen bei der Verwendung der App und robuste Erkennungsmethoden. Die Lösung kann auch auf andere Deepfake-Programme und -Apps angewendet werden. Wenn Ihr neugierig seid oder Deep-Live-Cam ausprobieren wollt, findet ihr es in einem der Repositories auf GitHub.

Was denkt Ihr über Echtzeit-KI-Simulationsanwendungen? Habt Ihr Tipps, wie Ihr Euch vor diesen potenziellen Risiken schützen könnt? Wir würden uns über Eure Antworten in den Kommentaren freuen.