KI- und politische Entscheidungsträger diskutieren über effektiven Altruismus in der KI-Sicherheit | Das Tempo der KI

Zuletzt Monat, ICH gemeldet An DER Erweiterung das Netz von Verbindungen zwischen DER Wirksam Altruismus (EA) Bewegung Und KI Sicherheit Politik Kreise — Seit hoch KI Startups als Anthropisch hat CC denken Panzer als RAND Unternehmen. Diese Sind Verlinkung EA, mit Es ist Laserfokus An verhindern Was Es ist Mitglieder sagen Sind katastrophal Risiken hat Menschheit Seit Zukunft AGI, hat A breit Schwad von CC denken Panzer, Regierung Agenturen Und Kongress Personal.

Rezensionen von DER EA zu konzentrieren An Das existenziell Risiko, Oder Sagen wir mal „X Risiko“. Er Ost wer ankommt DER Nachteil von A notwendig zu konzentrieren An aktuell, messbar KI Risiken — einschließlich Voreingenommenheit, Desinformation, hohes Risiko Apps Und traditionell Internet-Sicherheit.

Aus ALSO, Ich habe ist gewesen neugierig um Was andere KI Und Politik Führer aus DER Wirksam Altruismus Bewegung - Aber WER Sind Auch nicht ausgerichtet mit DER Polar- Gegenteil Glauben System, Wirksam Beschleunigungismus (e/acc) — Wirklich denken um Das. Tun andere LLM Firmen fühlen Auch betroffen um DER Risiko von LLM Modell Gewicht erhalten In DER gefälscht Hände, Für Beispiel? Tun CC Politik Schöpfer Und Beobachter völlig verstehen EA beeinflussen An KI Sicherheit Bemühungen?

HAT A Moment Wann Anthropisch, GUT bekannt Für Es ist breit Reichweite von EA Krawatten, Ost Bearbeitung neu Forschung um "Schläfer Agent" KI Modelle Das reingefallen Sicherheit Schecks angeblich hat fangen schädlich Verhalten, Und sogar Kongress hat Äußern Anliegen um A Potenzial KI Forschung Partnerschaft zwischen DER National Institut von Standards Und Sicherheit (NIST) Und RAND, Das scheint hat Mich hat Sei A wichtig Frage.

In Zusatz, EA Tun global Wertpapiere am meisten kürzlich In Verbindung mit DER Kochen von OpenAI CEO Sa Altmann, als es ist kein Angestellter gemeinnützig Beratung Mitglieder alle hatte EA Verbindungen.

Was ICH entdeckt In Mein zuletzt Interviews Ost A interessant mischen von tief Sorge um EA finanziert von einem Milliardär ideologisch Kurve Und Es ist Wachstum erreichen Und beeinflussen An DER KI Sicherheit Debatte In Washington CC, als GUT als A Wissen von ein paar Das KI Risiken Das gehen darüber hinaus DER kurzfristig Sind A wichtig Teil von DER CC Politik Diskussion.

DER EA Bewegung, welche begann als A Bemühung hat 'MACHEN GUT besser,' Ost JETZT stark finanziert von Technologie Milliardäre WER halten verhindern A KI-bezogen Katastrophe Es ist Nummer A Priorität, insbesondere durch Finanzierung KI Sicherheit (welche Ost Auch beschreiben als KI 'Sicherheit') Bemühungen — besonders In DER Biosicherheit Raum.

In Mein Dezember Stück, ICH detailliert DER Anliegen von Anthropisch CISO Jason Clinton Und zwei Forscher Seit RAND Unternehmen um DER Sicherheit von LLM Modell Gewicht In DER konfrontieren von Bedrohungen Seit opportunistisch die Kriminellen, Terrorist Gruppen Oder mit vielen Ressourcen ausgestattet Nationalstaat Operationen.

Clinton sagte Mich Das absichern DER Modell Gewicht Für Claude, Anthropisch LLM, Ost ihr Nummer A Priorität. DER Gefahr von opportunistisch die Kriminellen, Terrorist Gruppen Oder mit vielen Ressourcen ausgestattet Nationalstaat Operationen zugreifen DER Gewicht von DER am meisten anspruchsvoll Und mächtig LLM Ost alarmierend, Er erklären, Weil "Wenn A Angreifer erhalten zugreifen hat DER gesamte Kaution, Es ist DER gesamte neuronal Netzwerk. »

RAND Sucher Sattel Nevo sagte Mich Das In zwei Jahre Er War plausibel KI Modelle Wille haben bedeutsam National Sicherheit Bedeutung, solch als DER Wahrscheinlichkeit Das bösartig Schauspieler könnte Missbrauch ihnen Für biologisch bewaffnet Entwicklung.

Alle drei, ICH entdeckt, haben schließen Krawatten hat DER EA Gemeinschaft Und DER zwei Firmen Sind Auch verbunden DANKE hat EA — Für Beispiel, Jason Mathény, RAND CEO, Ost Auch A Mitglied von Anthropisch Langfristig Vorteil Vertrauen Und hat lange Dauer Krawatten hat DER EA Bewegung.

Mein Decke War Gast von Brendan Bordeaux im Gange Politik Bericht An Das Ausgabe, einschließlich A jüngste Artikel welche „...