ШІ та керівники політики обговорюють ефективний альтруїзм у безпеці ШІ | Темп ШІ

Останній місяць, я повідомили на THE розширення Інтернет з Зв'язки між THE ефективний альтруїзм (EA) рух І ШІ безпеки політики колах — Оскільки висока ШІ стартапи як Антропний має CC думаю танки як РЕНД Компанія. Ці є зв'язування EA, з Це є лазерний фокус на запобігати Що Це є членів казати є катастрофічний ризики має людство Оскільки майбутнє AGI, має А широкий валок з CC думаю танки, уряд агентства І Конгрес персонал.

Відгуки з THE EA зосередитися на Це екзистенціальний ризик, Або «Х ризик», скажімо він схід хто прибуває до THE збиток з А необхідно зосередитися на струм, вимірюваний ШІ ризики — в тому числі упередженість, дезінформація, високий ризик програми І традиційний кібербезпека.

Від ТАК, У мене є був допитливий приблизно Що інший ШІ І політики керівники поза THE ефективний альтруїзм рух - але ВООЗ є Також ні вирівняні з THE полярний протилежність переконання система, ефективний акселераціонізм (e/acc) — Дійсно думаю приблизно Це. робити інший магістр права компаній відчувати також стурбований приблизно THE ризик з магістр права модель вага отримати в THE підробка руки, для приклад? робити CC політики творці І спостерігачі повністю зрозуміти EA вплив на ШІ безпеки зусилля?

МАЄ А момент Коли антропний, ДОБРЕ відомий для Це є широкий діапазон з EA краватки, схід редагування новий дослідження приблизно "сплячий агент" ШІ моделі що обдурили безпеки чеки передбачувано має виловити шкідливий поведінка, І навіть Конгрес має Експрес побоювання приблизно А потенціал ШІ дослідження Партнерство між THE Національний Інститут з Стандарти І Безпека (NIST) І РЕНД, Це здається має я має бути А важливо запитання.

в додаток, EA робити глобальний цінні папери більшість недавно в підключення з THE приготування їжі з OpenAI генеральний директор сб Альтман, як його непрацівник некомерційний поради члени всі мав EA Зв'язки.

Що я виявлено в мій останній інтерв'ю схід А цікаво змішувати з глибокий заклопотаність приблизно EA фінансується мільярдером ідеологічний крива І Це є зростання досяжність І вплив на THE ШІ безпеки дебати в Вашингтон CC, як ДОБРЕ як А підтвердження за декілька що ШІ ризики що йти поза межами THE короткий термін є А важливо частина з THE CC політики обговорення.

THE EA рух, котрий почався як А зусилля має 'ЗРОБИТИ ДОБРЕ краще,' схід ЗАРАЗ сильно фінансується за технології мільярдери ВООЗ розглянути запобігати А пов'язані зі штучним інтелектом катастрофа Це є номер А пріоритет, зокрема через фінансування ШІ безпеки (котрий схід Також описати як ШІ "безпека") зусилля — особливо в THE біозахисту простір.

в мій Грудень шматок, я докладно THE побоювання з Антропний CISO Джейсон Клінтон І два дослідники Оскільки РЕНД Компанія приблизно THE безпеки з магістр права модель вага в THE протистояти з погрози Оскільки опортуністичний злочинці, терорист групи Або оснащений багатьма ресурсами Національна держава операції.

Клінтон сказав я що забезпечити THE модель вага для Клод, Антропний LLM, схід її номер А пріоритет. THE загроза з опортуністичний злочинці, терорист групи Або оснащений багатьма ресурсами Національна держава операції доступу THE вага з THE більшість витончений І потужний магістр права схід тривожний, він пояснити, оскільки "якщо А нападник отримано доступу має THE цілий депозит, Це є THE цілий нейронні мережі. »

РЕНД шукач Сідло Нево сказав я що в два років він був правдоподібний ШІ моделі буде мати значний національний безпеки важливість, такий як THE можливість що зловмисний актори міг би зловживання їх для біологічний озброєний розвитку.

все три, я виявлено, мати закрити краватки має THE EA громада І THE два компаній є Також взаємопов'язані ДЯКУЮ має EA — для наприклад, Джейсон Матені, РЕНД генеральний директор, схід Також А член з Антропний Довгий строк Перевага Довіра І має велика тривалість краватки має THE EA рух.

мій ковдра був гість за Брендан Бордо в процесі політика звіт на Це проблема, в тому числі А останній стаття котрий "...