Anthropic створив демократичний чат-бот ШІ, дозволивши користувачам голосувати за його цінності

THE значення відповіді Оскільки 1000 тест теми були використовується має налаштувати А більше демократичний великий мова модель.

Новини Приєднуйтесь ми на соціальні мережі

в Що може бути А Поперше з Це є вид вивчення, штучні інтелект (AI) ферма Антропний має розроблений А великий мова модель (LLM) Це є був вишуканий для значення судження за Це є користувача спільнота.

Що робити він означає для ШІ розвитку має бути більше демократичний? МАЄ знайти поза, ми в партнерстві з @collect_intel має використовувати @usepolis має вибрати А ШІ Конституція база на THE думки з ~1000 американці. ТАК ми кваліфікований А модель проти він використовуючи Конституційний ШІ. pic.twitter.com/ZKaXw5K9sU

— Антропний (@AnthropicAI) жовтень 17, 2023 рік

Багато призначений для громадськості магістр права мати був розроблений з охоронець — закодований інструкції диктувати конкретні поведінка — в місце в А спроба має обмеження небажано виходи. Антропний Клод І OpenAI ChatGPT, для наприклад, типово дати користувачів А консервовані безпеки відповідь має вийти запити пов'язані має жорстокий Або суперечливий теми.

однак, як незліченні експерти мати різкий поза, охоронець І інший інтервенційний техніки може служити має Роб користувачів з їх агентство. Що це розглядається прийнятний це не воно завжди корисний, І що це розглядається корисний це не воно завжди прийнятний. І визначення для мораль Або на основі вартості судження може змінюватися між культури, населення, І періоди з час.

Пов’язане: ОБ'ЄДНАНЕ КОРОЛІВСТВО має мета потенціал ШІ погрози має передбачено Листопад саміт

А можливо засіб правового захисту має Це схід має дозволяють користувачів має диктувати значення вирівняти...