Интегрируйте этическое мышление в технологии

В своем эссе, представляющем класс новаторов в возрасте до 35 лет в этом году, Эндрю Нг утверждает, что ИИ — это технология общего назначения, такая как электричество, которая будет интегрирована со всем остальным. Действительно, это правда, и это уже происходит.

ИИ быстро становится инструментом, который поддерживает все виды других инструментов, технологической основой для целого ряда приложений и устройств. Он может с пользой предложить рецепт паэльи в веб-приложении. Он может предсказать структуру белка по аминокислотной последовательности. Он умеет рисовать. Он может водить машину. Он может неустанно размножаться, захватывать энергосистему, чтобы получить неограниченную вычислительную мощность, и уничтожить всю жизнь на Земле.

Хорошо, последний сценарий — это просто кошмарный сценарий, предложенный пионером искусственного интеллекта Джеффри Хинтоном, который представил его на одном из наших мероприятий EmTech Digital в начале этого года. Но это говорит о другом положении Нга и теме этого номера. Нг призывает новаторов брать на себя ответственность за свою работу; он пишет: «Поскольку мы фокусируемся на искусственном интеллекте как движущей силе ценных инноваций в обществе, социальная ответственность становится более важной, чем когда-либо. »

Во многих отношениях молодые новаторы, которых мы чествуем в этом выпуске, служат примером того, как мы можем интегрировать этическое мышление в развитие технологий. Это, безусловно, относится к нашей номинации «Новатор года» Шэрон Ли, которая работает над тем, чтобы сделать приложения ИИ более безопасными, заставляя их воздерживаться от действий, когда они сталкиваются с чем-то, чему они не обучены. Это может помочь предотвратить неожиданные повороты созданных нами ИИ и причинение неисчислимого вреда.

Этот вопрос вращается вокруг вопросов этики и того, как их можно решить, понять или опосредовать с помощью технологий.

Должны ли относительно богатые жители Запада прекратить кредитовать мелких предпринимателей в развивающихся странах, поскольку платформа кредитования обеспечивает высокие вознаграждения топ-менеджерам? Насколько мы должны контролировать то, что даем? Это лишь некоторые из острых вопросов, которые Мара Кардас-Нельсон исследует о восстании кредиторов против некоммерческой микрофинансовой организации Kiva.

Джессика Хамзелу подвергает сомнению политику, регулирующую доступ к экспериментальным медицинским методам лечения, которые иногда представляют собой последнее средство для отчаявшихся пациентов и их семей. Кто должен иметь возможность использовать эти недоказанные методы лечения и какие доказательства эффективности и (что более важно) безопасности следует потребовать?

Другим вопросом жизни и смерти является Артур Холланд Мишель, занимающийся компьютерной войной. В какой степени мы должны основывать наши смертные решения на анализе, проводимом искусственным интеллектом? Как мы можем построить эти системы искусственного интеллекта так, чтобы относиться к ним скорее как к советникам, а не как к лицам, принимающим решения?

Ребекка Акерманн рассматривает длительную эволюцию движения за открытый исходный код (и то, как оно меняло определение свободы – бесплатно, как в пиве, свободно, как в словах, свободно, как у щенков, – снова и снова. Если открытый исходный код будет то, от чего мы все выигрываем, и даже многие извлекают выгоду, как нам следует думать о его поддержании и развитии? Кто должен нести за это ответственность?

А на более метауровне Грегори Эпштейн, капеллан-гуманист Массачусетского технологического института и президент Гарвардской организации капелланов, которая занимается вопросами пересечения технологий и этики, подробно рассматривает «Все технологии — это люди», коммерческая организация, которая продвигает этику и ответственность в области технологий. Он задается вопросом, как определить свои отношения с технологической индустрией, поскольку она растет и получает финансирование от гигантских корпораций и мультимиллиардеров. Как может группа, приверженная принципам открытости и прозрачности, спрашивает он, сосуществовать с членами и даже лидерами, приверженными технологической секретности?

Это гораздо больше. Надеюсь, этот выпуск заставит вас задуматься и даст массу идей о будущем.

Спасибо, что прочитали

Мэт Хонан