ИИ — пионер того, чего нам действительно следует бояться

Искусственный интеллект подпитывает наши самые высокие амбиции и самые глубокие страхи, как немногие другие технологии. Это как если бы каждое блестящее прометеевское обещание машин, способных выполнять задачи на скоростях и с навыками, о которых мы можем только мечтать, сопровождается компенсирующим кошмаром человеческого смещения и устаревания. Но, несмотря на недавние достижения искусственного интеллекта в областях языка и изобразительного искусства, где доминировали прежде люди, — прозаические композиции языковой модели GPT-3 и визуальные творения системы DALL-E 2 вызвали большой интерес — наши самые серьезные опасения должны наверное закалятся. По крайней мере, так считает ученый-компьютерщик Еджин Чой, получивший в 2022 году престижную стипендию Макартура «гений», которая провела новаторское исследование развития здравого смысла и этического мышления в ИИ. «Возникает ажиотаж вокруг потенциального ИИ, а также пугают ИИ, — признает Чой, которому 45 лет. говорит о своей работе: "Вы исследуете эту неизведанную территорию. Вы видите что-то неожиданное, а затем чувствуете, что я хочу узнать, что там".

Каковы самые большие заблуждения людей об ИИ? Они делают поспешные обобщения. «О, GPT-3 может написать этот замечательный пост в блоге. Может быть, GPT-4 будет редактором The New York Times Magazine. [Смеется.] Я не думаю, что он сможет кого-то там заменить, потому что у него нет реальное понимание политического контекста и, следовательно, не может написать ничего важного для читателей.Кроме того, есть опасения по поводу разумности ИИ.Всегда есть люди, которые верят во что-то, что не имеет смысла.Люди верят в карты Таро.Люди верят в теории заговора, так что, конечно, будут люди, которые верят в разумность ИИ.

Я знаю, что это может быть самый избитый вопрос, который можно задать вам, но я все равно задам его: создадут ли люди когда-нибудь разумный искусственный интеллект? Я мог бы изменить свое мнение, но в настоящее время я настроен скептически. Я вижу, что у некоторых людей может сложиться такое впечатление, но когда вы работаете так близко к ИИ, вы видите много ограничений. Это проблема. Издалека кажется, о, Боже мой! Вблизи я вижу все недостатки. В любое время, когда есть много моделей, много данных, искусственный интеллект очень хорошо справляется с этим — с некоторыми вещами, такими как игра в го или шахматы. Но у людей есть склонность верить, что если ИИ может делать что-то умное, например, переводить или играть в шахматы, то он должен быть действительно хорош и во всех простых вещах. Дело в том, что то, что легко для машин, может быть сложно для людей, и наоборот. Вы удивитесь, как ИИ борется со здравым смыслом. Это безумие.

Можете ли вы объяснить, что означает «здравый смысл» в контексте его обучения ИИ? Один из способов описать это так: здравый смысл — это темная материя интеллекта. Нормальная материя — это то, что мы видим, с чем мы можем взаимодействовать. Мы долго думали, что это то, что есть в физическом мире — и все. Оказывается, это всего лишь 5% Вселенной. Девяносто пять процентов составляют темная материя и темная энергия, но они невидимы и не поддаются непосредственному измерению. Мы знаем, что она существует, потому что если ее нет, то нормальная материя не имеет смысла. Так что мы знаем, что это там, и мы знаем, что это много. Мы приходим к этому пониманию со здравым смыслом. Это неявное и неявное знание, которым обладаем мы с вами. Это настолько очевидно, что мы не часто говорим об этом. Например, сколько глаз у лошади? Их. Мы не говорим об этом, но все это знают. Мы не знаем точную долю знаний, которые есть у вас и у меня, о которых мы не говорили, но все же знаем, но я думаю, что их много. Приведу еще один пример: мы с вами знаем, что птицы умеют летать, а пингвины обычно не умеют. Поэтому исследователи искусственного интеллекта подумали, что мы можем закодировать это: птицы обычно летают, за исключением пингвинов. Но на самом деле исключения — это нарушение правил здравого смысла. Новорожденные птенцы не могут летать, птицы, покрытые маслом, не могут летать, раненые птицы не могут летать, птицы в клетках не могут летать. Дело в том, что исключения не являются исключительными, и мы с вами можем думать о них, даже если нам об этом никто не сказал. Это захватывающая способность, и для ИИ это не так просто.

Вы как-то скептически относились к GPT-3 раньше. Вы думаете, это не впечатляет? Я большой поклонник GPT-3, но в то же время чувствую, что некоторые люди б...