OpenAI выпустили tool, определяющий тексты, написанные с помощью ИИ

Open AI  презентовала tool, который способен отличить текст, написанный человеком, от текста, сгенерированного нейросетью. Он должен помочь выявлять использование ИИ для распространения дезинформации или злоупотреблений в сфере образования.

Сервис представляет собой языковую модель, обученную на парах из текстов, созданных человеком и сгенерированных ИИ. Для этого запросы к нейросетям формулировались в соотвествии с темами текстов, написанных людьми.

OpenAI предупреждает, что инструмент не полностью надёжен, и рекомендует использовать его только для материалов на английском языке. Во время тестов классификатор определял тексты, написанные ИИ, с точностью 26%. В 9% случаев он неверно определял текст, созданный человеком, как сгенерированный.

Точность работы  повышается по мере увеличения объёма проверяемого текста. Его надёжность при проверки текстов до 1000 знаков будет низкой. Он также может выдать ложный результат при проверке отредактированного человеком текста.