OpenAI закрывает инструмент, предназначенный для обнаружения текста, написанного ИИ, из-за низкой точности.

Компания OpenAI закрыла инструмент, который должен был отличать человеческий текст от искусственного интеллекта. В своем блоге OpenAI сообщила о решении прекратить работу своего классификатора искусственного интеллекта с 20 июля.

«Мы работаем над учетом отзывов и в настоящее время изучаем более эффективные методы проверки подлинности текста», — говорится в сообщении компании.

Прекратив работу инструмента для выявления написанного ИИ, OpenAI заявила, что планирует «разработать и внедрить механизмы, которые позволят пользователям понять, является ли аудио- или визуальный контент сгенерированным ИИ». Однако пока не сообщается, что это могут быть за механизмы.

chatGPT не может определить, был ли текст создан искусственным интеллектом (chatgpt)

OpenAI полностью признала, что классификатор никогда не был очень хорош для выявления текста, созданного искусственным интеллектом, и предупредила, что он может выдавать ложные срабатывания, т.е. текст, написанный человеком и помеченный как созданный искусственным интеллектом. OpenAI, прежде чем добавить обновление, закрывающее инструмент, заявила, что классификатор может стать лучше с увеличением количества данных.

После того как ChatGPT от OpenAI ворвался на сцену и стал одним из самых быстрорастущих сервисов в мире, люди бросились осваивать эту технологию. Несколько отраслей забили тревогу по поводу генерируемых ИИ текстов и произведений искусства, в частности педагоги, которые опасались, что ученики перестанут учиться и просто позволят ChatGPT писать домашние задания. Нью-йоркские школы даже запретили доступ к ChatGPT на территории учебного заведения из-за опасений по поводу точности, безопасности и списывания.

Дезинформация с помощью ИИ также вызывает беспокойство: исследования показали, что созданные ИИ тексты, например твиты, могут быть более убедительными, чем написанные человеком. Правительства еще не придумали, как обуздать ИИ, и пока предоставляют отдельным группам и организациям устанавливать свои правила и разрабатывать собственные меры защиты от натиска компьютерных текстов. И похоже, что пока ни у кого, даже у компании, которая дала толчок развитию генеративного ИИ, нет ответа на вопрос, как со всем этим бороться. В дальнейшем будет только сложнее легко отличить работу ИИ от работы человека.

Как думаете, кто написал этот текст?