Der Stadtanwalt von San Francisco, David Chiu, hat angekündigt, dass sein Büro 16 Websites verklagt, die KI nutzen, um ohne Einverständnis Deepfakes Nacktbilder von Frauen und Mädchen zu erstellen und zu verbreiten. Dies geschieht vor dem Hintergrund der zunehmenden Aufmerksamkeit für die Erstellung und Verbreitung von KI-Bildern ohne Einverständnis.
In der Klage, der ersten dieser Art in San Francisco, werden den Betreibern der Websites Verstöße gegen Landes- und Bundesgesetze vorgeworfen, die Deepfake-Pornografie, Kinderpornografie und Rachepornografie verurteilen. Zudem verstoßen sie gegen das kalifornische Gesetz gegen unlauteren Wettbewerb.
Chiu will vor dieser Misswirtschaft warnen
Laut der New York Times ging die Initiative auf die Idee der stellvertretenden Generalstaatsanwältin Yvonne Mere zurück, die ihre Kollegen dazu mobilisierte, eine Klage auszuarbeiten, die zur Schließung von 16 Websites führen sollte.
Die Namen der Websites wurden in der am Donnerstag der Öffentlichkeit zugänglich gemachten Kopie der Klage zensiert.
Zwar war es der Staatsanwaltschaft noch nicht gelungen, die meisten Website-Eigentümer zu identifizieren, doch zeigten sich Beamte dieser Kanzlei zuversichtlich, dass man die Namen der Website-Eigentümer herausfinden und sie zur Verantwortung ziehen könne.
Während einer Pressekonferenz am Donnerstag sagte Chiu, die Websites produzierten „pornografisches“ Material ohne die Zustimmung der auf den Fotos abgebildeten Personen.
Chiu hat angedeutet, dass das Ziel der Klage darin bestehe, die Websites zu schließen und vor dieser Form des „sexuellen Missbrauchs“ zu warnen und ihr ein Ende zu setzen.
„Diese Untersuchung hat uns in die dunkelsten Ecken des Internets geführt und ich bin zutiefst entsetzt über die Frauen und Mädchen, die diese Ausbeutung ertragen mussten.“
Chiu, das ist es.
Auf den besagten Websites laden Benutzer Fotos von vollständig bekleideten echten Menschen hoch, bevor die KI die Fotos so verändert, dass sie dem Aussehen der Person nackt entsprechen.
Wie aus der Klageschrift hervorgeht, macht eine der Websites auf die nicht einvernehmliche Natur der Bilder aufmerksam und behauptet: „Stellen Sie sich vor, Sie verschwenden Ihre Zeit damit, sie auf Dates einzuladen, wenn Sie einfach (Name der Website geschwärzt) verwenden könnten, um an Nacktfotos von ihr zu kommen.“
Die Verfügbarkeit und Zugänglichkeit von Open-Source-KI-Modellen bedeutet, dass jeder auf KI-gestützte Engines zugreifen und diese für seine Zwecke anpassen kann. Dies führt zur Erstellung von Websites und Apps, die Deepfake-Aktfotos von Grund auf erstellen oder vorhandene Fotos auf realistische Weise „nackt“ machen können, oft gegen eine Gebühr.
San Francisco ist nicht der einzige Ort, an dem diese Herausforderung zu beobachten ist
Im Januar machten Deepfake-Apps Schlagzeilen, als gefälschte Nacktfotos von Taylor Swift im Internet viral gingen. Viele andere und weit weniger bekannte Menschen wurden vor und nach Swift verfolgt.
Chiu gab zu, dass „durch die Verbreitung dieser Bilder weltweit eine erschreckende Zahl von Frauen und Mädchen ausgebeutet wurde“, von Prominenten bis zu Mittelschülerinnen.
Durch eigene Untersuchungen stellte die Staatsanwaltschaft fest, dass die Websites in den ersten sechs Monaten dieses Jahres über 200 Millionen Mal besucht wurden. Die Staatsanwaltschaft äußerte Bedenken, dass es für Opfer schwierig wird, die Websites zu ermitteln, die zur „Nacktdarstellung“ ihrer Fotos verwendet wurden, sobald ein Bild online ist.
Dies liegt daran, dass die Bilder keine einzigartigen oder identifizierenden Merkmale aufweisen, die man auf die Websites zurückführen könnte. Darüber hinaus ist es für die Opfer auch schwierig, die Fotos aus dem Internet zu entfernen, was sich auf ihr Selbstwertgefühl und ihren digitalen Fußabdruck auswirkt.
Anfang des Jahres wurden fünf Achtklässler aus Beverly Hills von der Schule verwiesen, weil sie Deepfake-Nacktbilder von 16 Achtklässlerinnen erstellt und geteilt hatten, bei denen die Gesichter der Mädchen auf KI-generierte Körper gelegt wurden.
Chius Büro sagte, es habe ähnliche Vorfälle an anderen Schulen in Kalifornien, New Jersey und Washington beobachtet, bei denen die Bilder dazu verwendet worden seien, Frauen und Mädchen zu demütigen, einzuschüchtern und zu bedrohen.
Die Gesamtwirkung auf die Opfer sei eine Schädigung ihres Rufs, psychische Probleme und ein Verlust ihres Selbstwertgefühls, so die Anwaltskanzlei. In manchen Fällen seien sie sogar selbstmordgefährdet.
Dieser Beitrag ist ein öffentlicher RSS Feed. Sie finden den Original Post unter folgender Quelle (Website) .
Unser Portal ist ein RSS-Nachrichtendienst und distanziert sich vor Falschmeldungen oder Irreführung. Unser Nachrichtenportal soll lediglich zum Informationsaustausch genutzt werden. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. Kryptohandel hat ein großes Handelsrisiko was zum Totalverlust führen kann.
