OpenAI закрывает AI-детектор из-за низкой точности

OpenAI незаметно отключил свой классификатор ИИ из-за низкой точности.

Новости Присоединяйтесь к нам в социальных сетях

Компания OpenAI, производитель искусственного интеллекта, незаметно закрыла свое программное обеспечение для обнаружения ИИ, сославшись на низкую точность.

Классификатор ИИ, разработанный OpenAI, был впервые выпущен 31 января и призван помочь пользователям, например учителям и преподавателям, отличать текст, написанный человеком, от текста, сгенерированного ИИ.

Однако, согласно исходному сообщению в блоге, в котором сообщалось о запуске инструмента, классификатор ИИ был закрыт 20 июля:

"По состоянию на 20 июля 2023 г. классификатор ИИ больше недоступен из-за его низкой точности."

Ссылка на инструмент больше не работает, а в примечании приводится простое объяснение того, почему этот инструмент больше не поддерживается. Однако компания объяснила, что ищет новые, более эффективные способы идентификации контента, созданного искусственным интеллектом.

"Мы работаем над учетом отзывов и в настоящее время изучаем более эффективные методы определения происхождения текста, а также намерены разработать и внедрить механизмы, которые позволят пользователям понять, создан ли аудио- или визуальный контент с помощью ИИ", – говорится в примечании.

Старый ИИ-классификатор OpenAI в действии. Источник: OriginalityAI

С самого начала OpenAI дал понять, что инструмент обнаружения подвержен ошибкам и не может считаться «полностью надежным».

Компания заявила, что ограничения ее инструмента обнаружения ИИ включают в себя "очень неточную" проверку текста длиной менее 1000 символов и возможность "уверенно" помечать текст, написанный человеком, как созданный ИИ.

По теме: У Apple есть собственная система искусственного интеллекта GPT, но пока не сообщается о планах...