Байден вызывает советников, чтобы решить будущее ИИ

Сообщается, что на встрече основное внимание уделялось обеспечению «надлежащих мер безопасности» в отношении популярных технологий, таких как ChatGPT

Президент США Джо Байден с Советом советников президента по науке и технологиям © Getty Images / Kevin Dietsch

Президент США Джо Байден во вторник созвал президентский консультативный совет по науке и технологиям, чтобы обсудить «риски и возможности», присущие искусственному интеллекту. По данным Reuters, хотя президент воздержался от того, чтобы назвать ИИ опасным, он призвал технологические компании принять меры безопасности, чтобы предотвратить причинение им вреда.

«По моему мнению, технические компании несут ответственность за обеспечение безопасности своих продуктов, прежде чем выпускать их для широкой публики, — сказал Байден. Когда репортер настаивал на том, действительно ли ИИ опасен, он отказался и ответил: «Это еще предстоит выяснить. Возможно."

Хотя ИИ может помочь людям справиться с «очень сложными проблемами, такими как болезни и изменение климата, — сказал Байден, — он также должен справляться с потенциальными рисками для нашего общества, для нашей экономики, для нашей национальной безопасности."

Цель встречи, согласно заявлению Белого дома, заключалась в том, чтобы «обсудить важность защиты прав и безопасности для обеспечения ответственных инноваций и соответствующих мер безопасности». Сообщается, что президент также попросил Конгресс принять закон о конфиденциальности, ограничивающий сбор личных данных, запрещающий рекламу для детей и уделяющий приоритетное внимание здоровью и безопасности при разработке продуктов. /p>

На прошлой неделе Центр искусственного интеллекта и цифровой политики обратился в Федеральную торговую комиссию с просьбой запретить разработчику ChatGPT OpenAI выпускать новые коммерческие версии GPT-4, механизма, на котором работает знаменитый чат-бот, назвав программное обеспечение «предвзятым». , вводящие в заблуждение и представляющие угрозу конфиденциальности и общественной безопасности.”

Группа по технической этике отметила, что модель большого языка не только раскрывает историю личных чатов пользователей другим пользователям, но и позволяет исследователям реквизировать учетные записи незнакомцев, заглядывать в их истории чатов и даже получать доступ к их платежным данным без их ведома.

В прошлом месяце более 1000 руководителей технологических компаний, исследователей ИИ и других специалистов в этой области подписали открытое письмо с требованием ввести шестимесячный мораторий на «гигантские эксперименты с ИИ» до тех пор, пока «правительства и разработчики не смогут создать набор общих протоколов безопасности и элементов управления для предотвращения того, чтобы быстро развивающиеся технологии брали на себя свою судьбу в случае катастрофы, которая может привести к гибели цивилизации.

В Италии ChatGPT был запрещен в прошлом месяце из соображений конфиденциальности, а вдова из Бельгии недавно обвинила конкурента ChatGPT с открытым исходным кодом в убийстве ее мужа после того, как у нее завязались с ним отношения. Соединенные Штаты еще не ввели обязательные ограничения на разработку ИИ.