Ein neuer KI-bezogener Betrug ist aufgetaucht, bei dem Tausende von KI-generierten Influencern soziale Websites wie Instagram mit gestohlenen Bildern echter Menschen überschwemmt haben.
Der Betrug besteht darin, Videos von echten Models und Erstellern von Inhalten für Erwachsene zu stehlen, ihnen KI-generierte Gesichter zu geben und ihre Körper mit Links zu Dating-Seiten wie Patreon, OnlyFans-Wettbewerben und verschiedenen KI-Apps zu monetarisieren.
KI-generierte Influencer konkurrieren auf Instagram mit Menschen
Im April berichtete 404 Media erstmals über diese Praxis, als sie zum ersten Mal auftauchte. Die Praxis hat sich mittlerweile zu einem beliebten Trend entwickelt, der viele zu der Annahme veranlasst, dass die von Meta betriebenen sozialen Medien entweder nicht in der Lage oder nicht willens sind, den scheinbaren Trend auf ihrer Plattform zu stoppen.
Dies geschieht, weil die Ersteller von menschlichen Inhalten auf Instagram sagen, dass sie jetzt mit KI-Inhalten in einer Weise konkurrieren, die sich nun auf ihre Rentabilität auswirkt.
Mit einigen der handelsüblichen KI-Tools und Apps, die in den Apple App- und Google Play Stores gehostet werden, können die KI-Influencer jetzt ganz einfach ihre Konten erstellen und monetarisieren. Laut Wired haben sie mehr als 1.000 von KI- und Discord-Kanälen erstellte Instagram-Konten überprüft, in denen die Personen, die diese Inhalte erstellen, Tipps austauschen und Strategien sowie mehrere Leitfäden diskutieren, die erklären, wie man durch „KI-Zuhälterei“ Geld verdienen kann.
Wired hat herausgefunden, dass sich das Problem, das früher auf Instagram unbedeutend war, zu einer riesigen Praxis entwickelt hat, was mehreren Vorhersagen über die zukünftige Social-Media-Landschaft entspricht, in der KI-generierte Inhalte die von Menschen in den Schatten stellen.
Ersteller von Inhalten für Erwachsene, die ihre Arbeit auf Instagram bewerben, befürchten nun, direkt mit diesen KI-Abzockerkonten zu konkurrieren, von denen viele Fotos und Videos verwenden, die von Erstellern von Inhalten für Erwachsene und Instagram-Models gestohlen wurden.
Elaina St James, eine Erstellerin von Inhalten für Erwachsene, sagte, dass es zwar möglicherweise andere Änderungen am Instagram-Algorithmus gegeben habe, die dazu beigetragen haben könnten, aber seit der Explosion von KI-generierten Influencer-Konten auf Instagram sei ihre „Reichweite enorm gesunken“, von typisch 1 Million auf 5 Millionen Aufrufe pro Monat. Sie hat in den letzten 10 Monaten keine Million geknackt und kam manchmal auf weniger als 500.000 Aufrufe.
„Das ist wahrscheinlich einer der Gründe, warum meine Ansichten sinken. Das liegt daran, dass ich mit etwas konkurriere, das unnatürlich ist.“ St. Jakobus.
Alexios Mantzarlis, Direktor der Sicherheits-, Vertrauens- und Sicherheitsinitiative bei Cornell Tech und ehemaliger Leiter der Vertrauens- und Sicherheitsintelligenz bei Google, hat in der 404 Media-Studie eine Liste mit rund 900 Konten zusammengestellt.
Ein Zeichen dafür, wie Social Media in Kürze aussehen wird
Mantzarlis sagte, dies sei weder völlig neu noch überraschend, da dies lediglich die Erfüllung zuvor gemachter Vorhersagen zur KI-Technologie und ihrer Einführung auf Social-Media-Plattformen sei.
„Es schien ein mögliches Zeichen dafür zu sein, wie soziale Medien in fünf Jahren aussehen werden“, sagte Mantzarlis.
„Denn dies könnte sich auch auf andere Bereiche des Internets auswirken, nicht nur auf die Nische der attraktiven Personen auf Instagram. Das ist wahrscheinlich ein Zeichen dafür, dass es ziemlich schlimm werden wird.“
Mantzarlis
Von den mehr als 1.000 KI-generierten Instagram-Influencer-Konten enthielten mindestens 100 Deepfake-Inhalte, bei denen bestehende Videos, meist von Models und Darstellern der Erwachsenenunterhaltung, übernommen und deren Gesichter durch ein KI-generiertes ersetzt wurden, um den Videos ein frisches Aussehen zu verleihen.
Die Videos werden wie neue Originalinhalte aussehen, die mit den anderen KI-generierten Bildern und Videos übereinstimmen, die vom KI-generierten Influencer geteilt werden.
Instagram wird auf eingehende Beschwerden reagieren
Instagram sagte, dass es nur dann Maßnahmen gegen Konten ergreifen werde, wenn sie vom richtigen Eigentümer oder einer Person gemeldet würden, die dazu befugt sei, in ihrem Namen Meldung zu erstatten. Viele menschliche Influencer sagen jedoch, dass der bereitgestellte Kanal nicht funktioniert hat, da sie zu viele Accounts von Imitatoren haben, denen sie folgen können.
St. James fügte hinzu, dass die Tatsache, dass viele dieser KI-generierten Influencer-Konten von mir betrieben werden, das Ganze noch schlimmer macht.
„Wir Frauen auf der Welt verdienen weniger Geld. Wir sind in vielerlei Hinsicht im Nachteil. Ein Bereich auf der Welt, in dem wir einen Vorteil haben, ist die Influencer- und Model-Sache, es ist also nur eine zusätzliche Ebene“, sagte St James.
„Es macht mich ein bisschen irritiert, dass es ein Mann ist, der Geld verdient, indem er vorgibt, eine Frau zu sein“, fügte sie hinzu.
Apple, dem es bisher nicht gelungen ist, das „Dual-Use“-Problem von Face-Swapping-Apps zu lösen, die harmlos verwendet werden können, aber häufig zur Erstellung nicht einvernehmlicher Inhalte verwendet werden, wurde aus dem App Store entfernt, nachdem es zu dem Problem befragt wurde.
Von Null zu Web3 Pro: Ihr 90-Tage-Karrierestartplan
Dieser Beitrag ist ein öffentlicher RSS Feed. Sie finden den Original Post unter folgender Quelle (Website) .
Unser Portal ist ein RSS-Nachrichtendienst und distanziert sich vor Falschmeldungen oder Irreführung. Unser Nachrichtenportal soll lediglich zum Informationsaustausch genutzt werden. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. Kryptohandel hat ein großes Handelsrisiko was zum Totalverlust führen kann.
