Deep-Live-Cam, ein Deepfake-Tool, das Fotos in Live-Video-Streams umwandelt, hat sich für Entwickler schnell zum beliebtesten Download-Repository auf GitHub entwickelt.
Deep-Live-Cam wurde hauptsächlich in der Skriptsprache Python entwickelt und lässt sich leicht herunterladen und ändern. Aufgrund der hohen Zugänglichkeit der Sprache Python ist eine Implementierung in Anwendungen möglich, die auf Telefonen und anderen Kommunikationsgeräten funktionieren.
Dies ist ein weiterer Hinweis darauf, wie schnell sich die Deepfake-Technologie zu einem Sicherheitsrisiko entwickelt, insbesondere im Hinblick auf die Rechte von Privatpersonen und Unternehmen.
Laut einer Prognose von Deloitte im Mai wird der durch generative KI verursachte Betrug die USA bis 2027 voraussichtlich jährlich über 40 Milliarden US-Dollar kosten, was einer jährlichen Wachstumsrate von 32 % entspricht.
Experten zufolge ist die steigende Popularität von Deepfakes vor allem darauf zurückzuführen, dass sie mit herkömmlichen Erkennungsmethoden nur schwer zu identifizieren sind, was sie für Betrugszwecke attraktiver macht.
Es ist relativ einfach, eine betrügerische E-Mail zu ignorieren, aber auf einen Videoanruf von einem Video-Feed, der wie ein Freund, Geschäftspartner oder Verwandter aussieht, fällt man viel leichter herein.
Auf der GitHub-Repository-Seite finden sich mehrere Anfragen anderer Entwickler, die ethischen Aspekte des Tools zu verschärfen.
Leitender Entwickler Kenneth Estanislao sagte Entschlüsseln Das Tool stelle einen „interessanten Anwendungsfall“ dar, der hauptsächlich zur Unterhaltung, für Interviews und zum Verstecken von Narben oder „einfach zum Spaß“ nutze.
„Ja, es könnte für böswillige Zwecke verwendet werden, aber es ist, als würde man einem Menschen ein Messer geben“, sagte Estanislao. „Sie tun, was sie können. Ich hoffe, dass sie es für die oben genannten oder andere nützliche Zwecke verwenden und nicht in böser Absicht.“
Im GitHub-Haftungsausschluss der Software heißt es jedenfalls: „Die Entwickler dieser Software sind sich ihrer möglichen unethischen Anwendung bewusst und verpflichten sich, vorbeugende Maßnahmen dagegen zu ergreifen.“
Ein Beispiel: Die Beschreibung des GitHub-Repositorys enthält ein Tutorial und ein Video mit dem Konterfei von Elon Musk.
Ein weiteres Problem besteht darin, dass das Repository nach dem Herunterladen von GitHub weiter geändert und von Entwicklern verwendet werden kann, die kaum Einblick in seine Verwendung haben.
Die Anwendung wurde bereits im letzten Jahr veröffentlicht und zuletzt vor drei Wochen aktualisiert. Derzeit erfreut sie sich wachsender Beliebtheit. Allein heute wurden über 3.500 „Sterne“ verdient, die Gesamtzahl liegt bei 20.600 Sternen.
Zum Kontext: Das nächstbeliebteste GitHub-Repository ist heute ein Blockchain-Tool – Shardeum – mit nur 1.250 Sternen.
Es kommt einen Tag nach dem US-Senat ein Gesetz verabschiedet pornografische Deepfakes zu verbieten. Umfassendere Gesetze, die die Menschen vor der Technologie schützen würden, werden gerade erst ausgearbeitet.
Herausgegeben von Sebastian Sinclair
Allgemein Intelligent Newsletter
Eine wöchentliche KI-Reise, erzählt von Gen, einem generativen KI-Modell.
Quelle: https://decrypt.co/244565/this-deepfake-tool-turning-images-into-livestreams-is-topping-the-github-charts
