NIST запускає нову платформу для оцінки генеративного ШІ

THE Національний Інститут з Стандарти І технології (NIST), THE МИ. Торгівля відділ агентство що розроблений І тести технології для THE МИ. уряд, компаній І THE ширше громадськість, на понеділок оголошення THE запуск з NIST GenAI, А новий програма спрямований за NIST має оцінити генеративний ШІ технології в тому числі текст- І генерація зображення ШІ.

NIST GénAI буде реліз позначки, допомогти створити "вміст автентичність" виявлення (так би мовити. верифікація deepfake) системи І заохочувати THE розвитку з програмне забезпечення має місце THE джерело з підробка Або вводить в оману ШІ інформація, пояснити NIST на THE нещодавно спис NIST GénAI веб-сайт І в А преса звільнення.

"THE NIST GénAI програма буде проблема А серії з виклик проблеми [призначено] має оцінити І міра THE здібності І межі з генеративний ШІ технології", THE преса реліз ліжко. «Ці оцінки буде бути використовується має ідентифікувати стратегії має сприяти інформації цілісність І керівництво THE на І відповідальний використовувати з цифровий вміст. »

NIST GenAI Поперше демонструвати схід А пілот вивчення має будувати системи що може надійно казати THE різниця між створений людиною І ШІ ЗМІ, відправлення з текст. (Поки багато послуги сфера застосування має виявити дипфейки, навчання І НАША власні есе мати годинник їх має бути ненадійний має найкращий, зокрема Коли він прийти має текст.) NIST GénAI схід привабливий команди Оскільки академічний світ, промисловість І дослідження лабораторії має подати або "генератори" — ШІ системи має генерувати вміст — Або «дискримінатори» котрий є системи розроблений має ідентифікувати ШІ вміст.

Генератори в THE вивчення повинен генерувати 250 слів або менше резюме надається А тема І А разом з документи, поки дискримінатори повинен виявити якщо А дано резюме схід потенційно Автор А.І. МАЄ забезпечити справедливість, NIST GénAI буде забезпечити THE даних необхідно має тест THE генератори. Системи кваліфікований на публічно доступний даних І що не роби цього "[відповідати] з в силі закони І правила" не буде бути прийнято", NIST сказав.

Реєстрація для THE пілот буде починати може 1, з THE Поперше круглий з два програма має закрити Серпень 2. Остаточний результати Оскільки THE вивчення є очікуваний має бути опубліковано в ЛЮТИЙ 2025.

NIST GenAI запуск І зосереджено на дипфейках вивчення прийти як THE обсяг з ШІ дезінформація І дезінформація Інформація росте експоненціально.

Відповідно до має даних ясності, А глибокий фейк виявлення ферма, 900% більше глибокі фейки мати був створений І опубліковано Це рік в порівнянні з має THE навіть час рамка останній рік. Це є провокуючий тривога, природно. Недавній опитування Оскільки YouGov знайти що 85% з американці були стурбований приблизно вводить в оману глибокі фейки дифузія онлайн.

THE запуск з NIST GénAI схід А частина з NIST відповідь має президент Джо що Байдена виконавчий порядок на ШІ, котрий закладено поза правил вимогливий більший прозорість Оскільки ШІ компаній приблизно як їх моделі працювати І встановлено А пліт з новий стандарти, в тому числі для маркування вміст створений за ШІ.

Це є Також THE Поперше пов'язані з ШІ оголошення Оскільки NIST Після THE призначення з Павло Крістіано, А давній OpenAI шукач, має THE агентство ШІ Безпека Інститут.

Крістіано був А суперечливий вибір для її «песимістичний» погляди; він один раз передбачив що "Є А 50% шанс ШІ розвитку міг би КІНЕЦЬ в [людяність знищення]». Відгуки, Матиме в тому числі вчені в NIST, страх що Кріштіану може заохочувати THE ШІ Безпека Інститут має зосередитися на "фантазія сценарії » замість цього що реалістичний, більше негайний ризики Оскільки ШІ.

NIST сказав що NIST GénAI буде інформ THE ШІ Безпека Інститут робота.