Meta hat eine neue Richtlinie eingeführt, die Frontier-AI-Framework, die seinen Ansatz zur Einschränkung der Entwicklung und Freisetzung von künstlichen Intelligenzsystemen mit hohem Risiko darstellt. Laut den AI News wird der Rahmen Bedenken hinsichtlich der Gefahren der fortschrittlichen KI -Technologie, insbesondere in Bezug auf Cybersicherheit und Biosicherheit, aussprechen.
Das Unternehmen gibt an, dass einige KI -Modelle möglicherweise zu riskant sind, um die Freigabe zu veröffentlichen, und fordert interne Schutzmaßnahmen vor dem weiteren Einsatz.
AI News: METAs Frontier AI -Framework zielt darauf ab, riskante KI -Veröffentlichungen zu begrenzen
In einem kürzlich DokumentanmeldungMeta klassifizierte KI -Systeme in zwei Kategorien, die auf potenziellen Risiken basieren. Diese Kategorien sind ein hohes Risiko und ein kritisches Risiko, jeweils durch mögliche Schäden definiert. KI-Modelle, die als Hochrisiko eingestuft werden, können bei Cyber- oder biologischen Angriffen helfen.
Eine kritische Risiko-KI kann jedoch zu schweren Schäden führen, wobei die Meta besagt, dass solche Systeme zu katastrophalen Konsequenzen führen könnten.
Laut AI News wird Meta die Entwicklung eines als kritischen Risikos eingestuften Systems einstellen und zusätzliche Sicherheitsmaßnahmen durchführen, um den unbefugten Zugriff zu verhindern. Hochrisiko-KI-Modelle werden intern beschränkt, wobei weitere Arbeiten vor der Veröffentlichung die Risiken reduzieren. Der Rahmen spiegelt den Fokus des Unternehmens auf die Minimierung potenzieller Bedrohungen im Zusammenhang mit künstlicher Intelligenz wider.
Diese Sicherheitsmaßnahmen ergeben sich in den jüngsten Bedenken hinsichtlich der Datenschutz von AI. In den neuesten AI -Nachrichten war Deepseek, ein chinesisches Startup, war aus Apple entfernt App Store und Google Play Store in Italien. Die Datenschutzbehörde des Landes untersucht die Datenerfassungspraktiken.
Strengere Sicherheitsmaßnahmen für künstliche Intelligenzsicherheit
Um das Risiko des KI -Systems zu bestimmen, stützt sich Meta auf Bewertungen von internen und externen Forschern. Das Unternehmen gibt jedoch an, dass kein einzelner Test das Risiko vollständig messen kann und die Expertenbewertung zu einem Schlüsselfaktor für die Entscheidungsfindung macht. Der Rahmen beschreibt einen strukturierten Überprüfungsprozess, wobei hochrangige Entscheidungsträger die endgültigen Risikoklassifizierungen überwachen.
Für Hochrisiko-KI plant Meta, Minderungsmaßnahmen einzuführen, bevor eine Veröffentlichung in Betracht gezogen wird. Dieser Ansatz verhindert, dass KI -Systeme missbraucht werden und gleichzeitig ihre beabsichtigte Funktionalität beibehalten. Wenn an künstliche Intelligenz Das Modell wird als kritisches Risiko eingestuft. Die Entwicklung wird vollständig ausgesetzt, bis Sicherheitsmaßnahmen die kontrollierte Bereitstellung sicherstellen können.
Offene KI -Strategie stehen vor der Prüfung
Meta hat ein offenes KI -Entwicklungsmodell verfolgt, das einen breiteren Zugang zu seinen Lama -KI -Modellen ermöglicht. Diese Strategie hat zu einer weit verbreiteten Akzeptanz geführt, wobei Millionen von Downloads aufgezeichnet wurden. Es sind jedoch Bedenken hinsichtlich des potenziellen Missbrauchs aufgetreten, einschließlich Berichten, dass ein US -Gegner Lama zur Entwicklung eines Verteidigungs -Chatbots verwendete.
Mit dem Frontier AI -Framework geht das Unternehmen mit diesen Bedenken ein und behält sein Engagement für die Eröffnung der KI -Entwicklung bei.
Während die Sicherheit von KI weiterhin besorgt ist, hat Openai seine Entwicklung fortgesetzt. In anderen AI -Nachrichten Openai eingeführte Chatgpt Govein sicheres KI -Modell, das für US -Regierungsbehörden zugeschnitten ist. Dieser Start erfolgt, als Deepseek an Traktion gewinnt und Meta seine Sicherheitsmaßnahmen erhöht und den Wettbewerb im KI -Raum verstärkt.
✓ Teilen:
Ronny Mugendi
Ronny Mugendi ist ein erfahrener Krypto -Journalist mit vier Jahren Berufserfahrung, der zu verschiedenen Medien zu Kryptowährungstrends und -technologien beigetragen hat. Mit über 4000 veröffentlichten Artikeln in verschiedenen Medien soll er mehr Menschen in der Blockchain und Defi -Welt informieren, erziehen und vorstellen. Außerhalb seiner Journalismuskarriere genießt Ronny den Nervenkitzel des Fahrradfahrens und erkundet neue Wege und Landschaften.
Haftungsausschluss: Der vorgestellte Inhalt kann die persönliche Meinung des Autors enthalten und unterliegt einer Marktbedingung. Führen Sie Ihre Marktforschung vor, bevor Sie in Kryptowährungen investieren. Der Autor oder die Veröffentlichung übernimmt keine Verantwortung für Ihren persönlichen finanziellen Verlust.
Dieser Beitrag ist ein öffentlicher RSS Feed. Sie finden den Original Post unter folgender Quelle (Website) .
Unser Portal ist ein RSS-Nachrichtendienst und distanziert sich vor Falschmeldungen oder Irreführung. Unser Nachrichtenportal soll lediglich zum Informationsaustausch genutzt werden. Die auf dieser Website bereitgestellten Informationen stellen keine Finanzberatung dar und sind nicht als solche gedacht. Die Informationen sind allgemeiner Natur und dienen nur zu Informationszwecken. Wenn Sie Finanzberatung für Ihre individuelle Situation benötigen, sollten Sie den Rat von einem qualifizierten Finanzberater einholen. Kryptohandel hat ein großes Handelsrisiko was zum Totalverlust führen kann.
