Нейросеть GLTR ставит капкан на текстобота

Команда исследовательского центра MIT-IBM Watson AI Lab и Гарвардского университета из США создала своеобразный капкан для виртуального графомана. Алгоритм GLTR выявляет опусы, написанные искусственным интеллектом (ИИ).

Чтобы изобличить текстобота, нейросеть использует его же модели. Иными словами, GLTR анализирует новости и литературные произведения на “предсказуемые” фразы. Разработчики думают, что их детище поможет в борьбе со спамом и плагиатом.

«Компьютер генерирует текст, придерживаясь наиболее вероятных слов в любой позиции — трюка, который вводит людей в заблуждение. Настоящий же писатель чаще всего выбирает непредсказуемые слова, которые имеют смысл в контексте. Это означает, что мы можем определить, написан ли текст человеком!», — написали ученые в блоге.

Участники проекта создали специальный веб-сайт, где каждый может опробовать их капкан для виртуального графомана. GLTR выделяет слова разными цветами в зависимости от того, насколько вероятно, что они были написаны ИИ-генератором текста. Зеленый означает, что предложение составил текстобот. Оттенки желтого, красного и фиолетового указывают на то, что автором был человек.

капкан
Результат анализа текста GLTR

Увы, капкан оказался не всегда эффективным. Исследователь ИИ Джанелл Шейн убедилась в этом, когда загрузила в GLTR статью, которую сотворил ее собственный генератор текста. Опус настолько изобиловал непредсказуемыми фразами, что нейросеть ошиблась. Алгоритм решил, что имеет дело с человеком.

Ранее американская исследовательская компания OpenAI из Сан-Франциско представила “самый опасный алгоритм” — генератор текста GPT2. ИИ-система бойко выдает опусы на любые темы, в заданном стиле и жанре — от фейковых новостей до литературных эссе.

Источники: futurism.com, nauka.offnews.bg. Подготовил Станислав Клопот

Пассивный доход с инвестиций в облигации

Облигации — самый быстрый и безопасный путь к доходным инвестициям!

Пассивный доход с инвестиций в облигации

УЗНАТЬ ПОДРОБНЕЕ