Штучний інтелект відкриває те, чого ми дійсно повинні боятися
Штучний інтелект підживлює наші найвищі амбіції та найглибші страхи, як мало інших технологій. Це так, ніби з кожною блискучою прометеєвою обіцянкою машин, здатних виконувати завдання зі швидкістю та з навичками, про які ми можемо лише мріяти, приходить компенсуючий кошмар людського переміщення та старіння. Але незважаючи на нещодавні прориви штучного інтелекту в галузях мови та образотворчого мистецтва, де раніше домінувала людина – прозові твори мовної моделі GPT-3 і візуальні твори системи DALL-E 2 викликали великий інтерес – наші найсерйозніші занепокоєння повинні ймовірно, бути загартованим. Принаймні так вважає комп’ютерний вчений Єджін Чой, 2022-го лауреат престижної стипендії МакАртура «геній», який провів новаторське дослідження розвитку здорового глузду та етичних міркувань у ШІ. «Навколо потенційного штучного інтелекту є трохи ажіотажу, а також страх перед штучним інтелектом», — визнає 45-річний Чой. Це не означає, що історія про людей і штучний інтелект залишиться без сюрпризів. «Є відчуття пригод», — сказав Чой. каже про свою роботу: «Ви досліджуєте цю незвідану територію. Ви бачите щось несподіване, а потім відчуваєте, що я хочу дізнатися, що там».
Які найбільші помилкові уявлення людей досі існують про ШІ? Вони роблять поспішні узагальнення. «О, GPT-3 може написати цю чудову публікацію в блозі. Можливо, GPT-4 буде редактором журналу The New York Times. [Сміється.] Я не думаю, що він може когось там замінити, тому що у нього немає справжнє розуміння політичного контексту і тому не може написати нічого, що має стосунок до читачів. Крім того, є занепокоєння щодо сприйняття штучного інтелекту. Завжди є люди, які вірять у те, що не має сенсу. Люди вірять у карти Таро. Люди вірять у теорії змови. Тож, звичайно, знайдуться люди, які вірять у те, що штучний інтелект є розумним.
Я знаю, що це, мабуть, найбільш шаблонне запитання, але я все одно його задам: чи створять люди коли-небудь розумний штучний інтелект? Я міг би змінити свою думку, але зараз я налаштований скептично. Я бачу, що у деяких людей може скластися таке враження, але коли ви працюєте настільки близько до ШІ, ви бачите багато обмежень. Це проблема. Здалеку здається, о, Боже! Зблизька бачу всі недоліки. У будь-який час, коли є багато моделей, багато даних, штучний інтелект дуже добре впорається з цим – певними речами, як-от гра в го чи шахи. Але люди схильні вірити, що якщо штучний інтелект може зробити щось розумне, як-от переклад або гра в шахи, то він також має бути справді хорошим у всіх легких речах. Правда полягає в тому, що те, що легко для машин, може бути важким для людей, і навпаки. Ви були б здивовані, як штучний інтелект бореться з елементарним здоровим глуздом. Це божевілля.
Чи можете ви пояснити, що означає «здоровий глузд» у контексті його навчання ШІ? Одним із способів описати це є те, що здоровий глузд є темною матерією інтелекту. Нормальна матерія – це те, що ми бачимо, з чим можемо взаємодіяти. Ми довго думали, що це те, що є у фізичному світі – і це все. Виявляється, це лише 5% Всесвіту. Дев'яносто п'ять відсотків - темна матерія і темна енергія, але вони невидимі і не піддаються безпосередньому вимірюванню. Ми знаємо, що воно існує, бо якщо його немає, то нормальна матерія втрачає сенс. Тож ми знаємо, що воно є, і ми знаємо, що його багато. Ми приходимо до цього усвідомлення здоровим глуздом. Це мовчазне та неявне знання, яке маємо ми з вами. Це настільки очевидно, що ми не часто про це говоримо. Наприклад, скільки очей у коня? Їх. Ми про це не говоримо, але всі це знають. Ми не знаємо точну частку знань, які ми з вами маємо, про які ми не говорили, але все ж знаємо, але я думаю, що їх багато. Дозвольте мені навести вам інший приклад: ми з вами знаємо, що птахи можуть літати, і ми знаємо, що пінгвіни зазвичай не можуть. Тож дослідники штучного інтелекту подумали, що ми можемо закодувати це: птахи зазвичай літають, за винятком пінгвінів. Але насправді винятками є порушення правил здорового глузду. Новонароджені пташенята не можуть літати, птахи, вкриті маслом, не можуть літати, поранені птахи не можуть літати, птахи в клітках не можуть літати. Річ у тім, що винятки не є винятковими, і ми з вами можемо думати про них, навіть якщо нам ніхто не сказав. Це захоплююча здатність, і це не так легко для ШІ.
Раніше ви скептично згадували GPT-3. Ви думаєте, що це не вражає? Я великий шанувальник GPT-3, але в той же час я відчуваю, що деякі люди б...
Штучний інтелект підживлює наші найвищі амбіції та найглибші страхи, як мало інших технологій. Це так, ніби з кожною блискучою прометеєвою обіцянкою машин, здатних виконувати завдання зі швидкістю та з навичками, про які ми можемо лише мріяти, приходить компенсуючий кошмар людського переміщення та старіння. Але незважаючи на нещодавні прориви штучного інтелекту в галузях мови та образотворчого мистецтва, де раніше домінувала людина – прозові твори мовної моделі GPT-3 і візуальні твори системи DALL-E 2 викликали великий інтерес – наші найсерйозніші занепокоєння повинні ймовірно, бути загартованим. Принаймні так вважає комп’ютерний вчений Єджін Чой, 2022-го лауреат престижної стипендії МакАртура «геній», який провів новаторське дослідження розвитку здорового глузду та етичних міркувань у ШІ. «Навколо потенційного штучного інтелекту є трохи ажіотажу, а також страх перед штучним інтелектом», — визнає 45-річний Чой. Це не означає, що історія про людей і штучний інтелект залишиться без сюрпризів. «Є відчуття пригод», — сказав Чой. каже про свою роботу: «Ви досліджуєте цю незвідану територію. Ви бачите щось несподіване, а потім відчуваєте, що я хочу дізнатися, що там».
Які найбільші помилкові уявлення людей досі існують про ШІ? Вони роблять поспішні узагальнення. «О, GPT-3 може написати цю чудову публікацію в блозі. Можливо, GPT-4 буде редактором журналу The New York Times. [Сміється.] Я не думаю, що він може когось там замінити, тому що у нього немає справжнє розуміння політичного контексту і тому не може написати нічого, що має стосунок до читачів. Крім того, є занепокоєння щодо сприйняття штучного інтелекту. Завжди є люди, які вірять у те, що не має сенсу. Люди вірять у карти Таро. Люди вірять у теорії змови. Тож, звичайно, знайдуться люди, які вірять у те, що штучний інтелект є розумним.
Я знаю, що це, мабуть, найбільш шаблонне запитання, але я все одно його задам: чи створять люди коли-небудь розумний штучний інтелект? Я міг би змінити свою думку, але зараз я налаштований скептично. Я бачу, що у деяких людей може скластися таке враження, але коли ви працюєте настільки близько до ШІ, ви бачите багато обмежень. Це проблема. Здалеку здається, о, Боже! Зблизька бачу всі недоліки. У будь-який час, коли є багато моделей, багато даних, штучний інтелект дуже добре впорається з цим – певними речами, як-от гра в го чи шахи. Але люди схильні вірити, що якщо штучний інтелект може зробити щось розумне, як-от переклад або гра в шахи, то він також має бути справді хорошим у всіх легких речах. Правда полягає в тому, що те, що легко для машин, може бути важким для людей, і навпаки. Ви були б здивовані, як штучний інтелект бореться з елементарним здоровим глуздом. Це божевілля.
Чи можете ви пояснити, що означає «здоровий глузд» у контексті його навчання ШІ? Одним із способів описати це є те, що здоровий глузд є темною матерією інтелекту. Нормальна матерія – це те, що ми бачимо, з чим можемо взаємодіяти. Ми довго думали, що це те, що є у фізичному світі – і це все. Виявляється, це лише 5% Всесвіту. Дев'яносто п'ять відсотків - темна матерія і темна енергія, але вони невидимі і не піддаються безпосередньому вимірюванню. Ми знаємо, що воно існує, бо якщо його немає, то нормальна матерія втрачає сенс. Тож ми знаємо, що воно є, і ми знаємо, що його багато. Ми приходимо до цього усвідомлення здоровим глуздом. Це мовчазне та неявне знання, яке маємо ми з вами. Це настільки очевидно, що ми не часто про це говоримо. Наприклад, скільки очей у коня? Їх. Ми про це не говоримо, але всі це знають. Ми не знаємо точну частку знань, які ми з вами маємо, про які ми не говорили, але все ж знаємо, але я думаю, що їх багато. Дозвольте мені навести вам інший приклад: ми з вами знаємо, що птахи можуть літати, і ми знаємо, що пінгвіни зазвичай не можуть. Тож дослідники штучного інтелекту подумали, що ми можемо закодувати це: птахи зазвичай літають, за винятком пінгвінів. Але насправді винятками є порушення правил здорового глузду. Новонароджені пташенята не можуть літати, птахи, вкриті маслом, не можуть літати, поранені птахи не можуть літати, птахи в клітках не можуть літати. Річ у тім, що винятки не є винятковими, і ми з вами можемо думати про них, навіть якщо нам ніхто не сказав. Це захоплююча здатність, і це не так легко для ШІ.
Раніше ви скептично згадували GPT-3. Ви думаєте, що це не вражає? Я великий шанувальник GPT-3, але в той же час я відчуваю, що деякі люди б...
What's Your Reaction?
