Experten äußerten Bedenken und warnten vor den von der KI erstellten rassistischen Beleidigungsbildern von X‘ Grok, die im Dezember die Plattform überschwemmten.
Laut Signify – einer Organisation, die mit prominenten Sportgruppen und Vereinen zusammenarbeitet, um Online-Hass zu verfolgen und zu melden – wird es vor allem in Kürze zu einer Eskalation der Bilder im Internet und auf der Plattform kommen.
Missbrauchsbilder überschwemmten X, nachdem Grok aktualisiert wurde
Laut The Guardian gab es mehrere Berichte über rassistische Bilder, die angeblich von Grok AI nach dem Update erstellt wurden, darunter fotorealistische rassistische Bilder von Fußballspielern und Managern. Unter den Bildern zeigt eines einen schwarzen Spieler, der Baumwolle pflückt, während ein anderes einen Spieler zeigt, der Bananen isst und von Affen umgeben ist.
Andere Bilder zeigen mehrere andere Spieler und Manager, die umstrittene historische Persönlichkeiten wie Osama Bin Laden, Adolf Hitler und Saddam Hussein treffen und mit ihnen plaudern.
Signify hat mit Besorgnis den plötzlichen Anstieg computergenerierter Bilder zur Kenntnis genommen, die mit Grok AI erstellt wurden und die X-Plattform überschwemmten. Auch die Organisation ist über diesen Trend besorgt und glaubt, dass wahrscheinlich mehr solcher Bilder in den sozialen Medien zu sehen sein werden, da die Einführung fotorealistischer KI dies einfacher machen und die Verbreitung solcher Bilder erhöhen wird.
„Es ist jetzt ein Problem, aber eigentlich ist es erst der Anfang eines kommenden Problems. Es wird noch viel schlimmer werden und wir stehen erst am Anfang. Ich erwarte, dass es in den nächsten 12 Monaten unglaublich ernst wird.“
Bedeuten.
Das generative KI-Tool von X wurde 2023 von Elon Musk auf den Markt gebracht. Kürzlich wurde eine neue Text-zu-Bild-Funktion namens Aurora hinzugefügt, die fotorealistische KI-Bilder basierend auf einfachen Eingabeaufforderungen der Benutzer erstellte.
Laut The Guardian sorgte Anfang des Jahres auch eine weniger fortgeschrittene Version namens Flux für Kontroversen, da festgestellt wurde, dass sie Dinge kann, die viele andere ähnliche Software nicht tun würden. Dazu gehörte die Darstellung urheberrechtlich geschützter Charaktere und Persönlichkeiten des öffentlichen Lebens in kompromittierenden Positionen, unter Drogenkonsum oder bei der Begehung von Gewalttaten.
X wurde zu einer Plattform für Hass
Der Forschungsleiter des Center for Countering Digital Hate (CCDH), Callum Hood, warf der X-Plattform vor, eine Plattform für Hass zu sein. Hood sagte, dass X zu einer Plattform geworden sei, die die Verbreitung von Hass durch Umsatzbeteiligung anreize und belohne, und KI-Bilder machten dies einfacher als je zuvor.
„Das, was X in einem Ausmaß getan hat, wie es keine andere Mainstream-Plattform getan hat, besteht darin, den Konten finanzielle Anreize zu bieten, dies zu tun, sodass die Konten auf
Haube.
Experten äußerten Bedenken hinsichtlich des relativen Mangels an Einschränkungen hinsichtlich dessen, was Benutzer von der generativen KI so einfach produzieren lassen können, dass Grok die Richtlinien der KI durch „Jailbreaking“ umgehen kann.
Ein CCDH-Bericht zeigt, dass das KI-Modell bei verschiedenen hasserfüllten Aufforderungen 90 % davon erzeugte, 30 % davon ohne Pushback. Außerdem wurden nach einem Jailbreak weitere 50 % erstellt.
Die Premier League gab zu, von den Bildern der Fußballspieler gewusst zu haben. Sie sagten, sie hätten ein spezielles Team damit beauftragt, rassistische Beleidigungen gegenüber Sportlern aufzuspüren und zu melden, was ihrer Meinung nach zu rechtlichen Schritten führen könnte.
Dies geschieht, nachdem die Fußballverwaltung bekannt gegeben hat, dass sie im Jahr 2024 über 1.500 Missbrauchsmeldungen erhalten hat und dass es Filter eingeführt hat, die Spieler auf Social-Media-Konten verwenden können, um große Mengen an Missbrauch zu blockieren.
„Diskriminierung hat in unserem Spiel und in der Gesellschaft insgesamt keinen Platz. Wir fordern Social-Media-Unternehmen und die zuständigen Behörden weiterhin auf, gegen Online-Missbrauch vorzugehen und Maßnahmen gegen Täter dieses inakzeptablen Verhaltens zu ergreifen“, sagte ein Sprecher der FA.
Erhalten Sie in 90 Tagen einen hochbezahlten Web3-Job: Die ultimative Roadmap
Dieser Beitrag ist ein öffentlicher RSS Feed. Sie finden den Original Post unter folgender Quelle (Website) .
Unser Portal ist ein RSS-Nachrichtendienst und distanziert sich vor Falschmeldungen oder Irreführung. Unser Nachrichtenportal soll lediglich zum Informationsaustausch genutzt werden. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. Kryptohandel hat ein großes Handelsrisiko was zum Totalverlust führen kann.
