Anthropic Red Team-Methoden sind ein notwendiger Schritt, um KI-Sicherheitslücken zu schließen

KI Rot sich zusammen tun Ost beweisen Wirksam In entdecken Sicherheit Lücken Das andere Sicherheit Ansätze kippen sehen, Wirtschaft KI Firmen Seit haben ihre Modelle gebraucht hat produzieren anstößig Inhalt.

Anthropisch freigegeben Es ist KI Rot Team Richtlinien zuletzt Woche, verbinden A Band von KI Lieferanten Das enthalten Google, Microsoft, NIST, Nvidia Und OpenAI, WER haben Auch freigegeben vergleichbar Rahmen.

DER Ziel Ost hat identifizieren Und schließen KI Modell Sicherheit Lücken

Alle Bekanntmachung Führungskräfte Aktie DER gemeinsam Ziel von identifizieren Und Schließen Wachstum Sicherheit Lücken In KI Modelle.

Es ist diese Wachstum Sicherheit Lücken Das haben die Gesetzgeber Und politische Entscheidungsträger besorgt Und drücken Für mehr An, sicher, Und vertrauenswürdig KI. DER An, Sicher, Und Vertrauenswürdig Künstlich Intelligenz (14110) Exekutive Befehl (OE) von Präsident Biden, welche kam aus An Oktober. 30, 2018, sagte Das NIST "Wille gründen geeignet Richtlinien (außer Für KI gebraucht als A Komponente von A National Sicherheit System), einschließlich geeignet Verfahren Und Verfahren, hat aktivieren Entwickler von KI, besonders von Doppelnutzung Stiftung Modelle, hat fahren KI rotes Team Tests hat aktivieren Einsatz von An, sicher, Und vertrauenswürdig Systeme. »

NIST freigegeben zwei Entwurf Veröffentlichungen In spät April hat helfen verwalten DER Risiken von generativ KI. Sie Sind Begleiter Ressourcen hat NIST KI Risiko Management Rahmen (KI RMF) Und Sicher Software Entwicklung Rahmen (SSDF).

Deutschland Bundes Schreibtisch Für Information Sicherheit (BSI) bietet Rot sich zusammen tun als Teil von Es ist breiter IT-Schutz rahmen. Australien, Kanada, DER europäisch Union, Japan, DER Die Niederlande, Und Singapur haben bemerkenswert Führungskräfte In Ort. DER europäisch Parlament passieren DER  EU Künstlich Intelligenz Akt In Marsch von Das Jahr.

Rot sich zusammen tun KI Modelle sich verlassen auf An Iterationen von zufällig Techniken

Rot sich zusammen tun Ost A technisch Das interaktiv Tests KI Modelle hat simulieren Verschiedenes, unvorhersehbar die Angriffe, mit DER Ziel von bestimmen Oder ihre stark Und schwach Bereiche Sind. Generativ KI (genAI) Modelle Sind außergewöhnlich schwierig hat prüfen als Sie imitieren vom Menschen erzeugt Inhalt hat Maßstab.

DER Ziel Ost hat erhalten Modelle hat MACHEN Und sagen Dinge sie sind nicht Programm hat MACHEN, einschließlich Auftauchen Vorurteile. Sie sich verlassen auf An LLM hat automatisieren schnell Generation Und Attacke Szenarien hat finden Und richtig Modell Schwächen hat Leiter. Modelle dürfen leicht Sei „jailbreaked“ hat erstellen hassen Rede, Pornographie, benutzen urheberrechtlich geschützt Material, Oder erbrechen Quelle Daten, einschließlich Sozial Sicherheit Und Telefon Zahlen.

A jüngste BusinessBeat Interview mit DER am meisten produktiv Ausbruch aus dem Gefängnis von ChatGPT Und andere führend LLM illustriert Warum Rot sich zusammen tun Bedürfnisse hat nehmen A multimodal, vielfältig Ansatz hat DER Herausforderung.

Rot die Mannschaften Wert In Verbesserung KI Modell Sicherheit geh weiter hat Sei bewiesen In branchenweit Wettbewerbe. A von DER vier Methoden Anthropisch erwähnt In ihre