Що ми дізналися про ШІ та глибоке навчання у 2022 році

Перегляньте всі сеанси Smart Security Summit за запитом тут.

Зараз чудовий час для обговорення наслідків розвитку штучного інтелекту (ШІ). У 2022 році відбулися деякі захоплюючі досягнення в глибинному навчанні, особливо в генеративних моделях. Однак із зростанням можливостей моделей глибокого навчання зростає й плутанина навколо них.

З одного боку, просунуті моделі, такі як ChatGPT і DALL-E, показують захоплюючі результати та нагадують міркування та міркування. З іншого боку, вони часто роблять помилки, які доводять, що їм бракує деяких основних елементів людського інтелекту.

Наукова спільнота розділилася щодо того, що робити з цими досягненнями. З іншого боку, деякі вчені зайшли так далеко, що сказали, що складні моделі є чутливими і їх слід приписувати особистості. Інші припускають, що поточні підходи глибокого навчання призведуть до штучного загального інтелекту (AIG). Тим часом деякі вчені досліджували помилки поточних моделей і зазначають, що навіть найдосконаліші системи глибокого навчання, незважаючи на їхню користь, страждають від тих самих помилок, що й попередні моделі.

Саме в цьому контексті в п’ятницю відбулися онлайн-дебати AGI №3, модераторами яких виступили президент Монреальської AI Вінсент Буше та дослідник AI Гері Маркус. На конференції, яка включала доповіді вчених з різним освітнім рівнем, обговорювалися уроки, отримані з когнітивної науки та нейронауки, шлях до здорового глузду в міркуванні ШІ та запропоновані архітектури, які можуть допомогти подолати наступний етап ШІ.

Саміт Smart Security за запитом

Дізнайтеся про важливу роль штучного інтелекту та машинного навчання в кібербезпеці та практичні приклади для окремих галузей. Дивіться сеанси за запитом сьогодні.

«Підходи до глибокого навчання можуть надати корисні інструменти в багатьох сферах», — сказав лінгвіст і когнітивіст Ноам Хомскі. Деякі з цих програм, як-от автоматична транскрипція й автозавершення тексту, стали інструментами, на які ми покладаємося щодня.

"Але, крім корисності, що ми дізнаємося з цих підходів щодо пізнання, мислення, особливо мови?" сказав Хомський. «Системи [глибокого навчання] не роблять різниці між можливими та неможливими мовами. Чим більше систем удосконалюється, тим глибшим стає збій. Вони працюватимуть ще краще з неможливими мовами та іншими системами."

Цей недолік очевидний у таких системах, як ChatGPT, які можуть створювати текст, який є граматично правильним і послідовним, але містить логіку та факти. Доповідачі конференції навели багато прикладів таких недоліків, як-от великі мовні моделі, які не можуть сортувати речення за довжиною, допускають серйозні помилки в простих логічних задачах і роблять помилкові та непослідовні твердження. /p>

Згідно з Хомським, поточні підходи до вдосконалення систем глибокого навчання, які ґрунтуються на додаванні навчальних даних, створенні більших моделей і використанні «інтелектуального програмування», не тільки посилять помилки, зроблені цими системами.

«Коротше кажучи, вони нічого не говорять нам про мову та мислення, про пізнання загалом або про те, що означає бути людиною, або про будь-які інші польоти фантазії в сучасній дискусії», — сказав Хомський.

Маркус сказав, що через десять років після революції глибокого навчання 2012 року було досягнуто величезного прогресу, «але деякі проблеми залишаються».

Він представив чотири ключові аспиди...