Люди повинні мати пріоритет влади над військовим ШІ

Не змогли відвідати Transform 2022? Перегляньте всі сесії саміту в нашій бібліотеці за запитом! Подивіться сюди.

Роками посадові особи оборони США та аналітичні центри Вашингтона обговорювали, чи може майбутнє нашої армії бути дещо менш гуманним.

Збройні сили США вже почали покладатися на технології, які використовують машинне навчання, штучний інтелект (ШІ) і великі дані, що породжує етичні питання. Хоча ці технології мають незліченну кількість корисних застосувань, починаючи від оцінки загроз і закінчуючи підготовкою військ до бою, вони справедливо викликають занепокоєння щодо майбутнього, в якому машини, схожі на Термінатора, візьмуть верх. p>

Але зіткнення людини з машиною втрачає суть. У нашому військовому майбутньому є місце для обох, доки машини сприятимуть прийняттю рішень людиною, а не замінять його.

Військовий ШІ та машинне навчання тут

Технологія машинного навчання, тип штучного інтелекту, який дозволяє комп’ютерним системам обробляти величезні набори даних і «навчатися» розпізнавати шаблони, швидко набула поширення в багатьох галузях. Системи можуть за лічені секунди просіювати величезні масиви даних із багатьох джерел, а потім давати рекомендації на основі виявлених закономірностей.

Подія

MetaBeat 2022

4 жовтня в Сан-Франциско, штат Каліфорнія, MetaBeat збере лідерів думок, щоб порадити, як технологія метавсесвіту змінить спосіб спілкування та ведення бізнесу в усіх галузях.

зареєструватися тут

Це робить штучний інтелект і машинне навчання корисними інструментами, які допомагають людям завжди приймати зважені рішення. Подумайте про лікарів, у яких може бути лише кілька хвилин з кожним пацієнтом, але вони повинні поставити діагнози, які можуть змінити життя. Деякі лікарні використовують штучний інтелект і машинне навчання для виявлення захворювань серця та раку легенів до того, як у пацієнта з’являться симптоми.

Те саме стосується військових лідерів. Роблячи стратегічний вибір, який може мати людські витрати, менеджери повинні мати можливість якомога швидше обробити всі наявні дані, щоб прийняти найбільш обґрунтоване рішення.

Штучний інтелект допомагає їм у цьому. Деякі системи, наприклад, можуть робити двовимірні зображення відеоспостереження та створювати детальну тривимірну модель простору. Це допомагає лідерам намітити безпечний шлях для своїх військ через раніше не досліджену територію.

Великий палець людини вгору

Ці програми машинного навчання мають одну спільну рису, чи то в травмпункті чи на полі бою. Вони не мають влади приймати остаточне рішення. Зрештою, лікар вирішує поставити діагноз, а офіцер видає рецепт.

Компанії, які розробляють новий військовий штучний інтелект або технології машинного навчання, зобов’язані сприяти цьому. Вони можуть зробити це, обладнавши свої інновації кількома основними огорожами.

З одного боку, люди повинні мати силу перевизначити ШІ в будь-який час. Комп’ютерні алгоритми можуть аналізувати стеки даних і надавати корисні рекомендації щодо дій. Але машини не можуть зрозуміти складність чи новизну факторів, які постійно змінюються, і впливають на стратегічну операцію.

Лише люди здатні думати про довгострокові наслідки військових дій. Тому люди повинні мати можливість відмовитися від рекомендацій машини.

Компанії, що розробляють військовий штучний інтелект, повинні надати користувачам можливість приймати рішення вручну, без технічної підтримки; в напівавтоматичному режимі; або повністю автоматизований, з можливістю перевизначення. Метою має бути розробка штучного інтелекту, який доповнює, а не усуває потребу в унікальних людських можливостях прийняття рішень, які дозволяють військам ефективно реагувати на непередбачені обставини.

Мирна передача влади

Військові системи машинного навчання також потребують чіткого ланцюжка...