human not found

Докажи, что

ты человек

[ human ]

[ found ]

[ not ]

В интернете человечность давно стала проверяемым свойством

Цифровые сервисы постоянно ищут признаки, по которым можно отличить человека от программы. Проверкой становится любое свойство, которое пока считается человеческим.

Но каждый новый признак перестает работать, как только его можно воспроизвести.

В 2008 году команда reCAPTCHA описала другой подход. Пользователям начали показывать слова из отсканированных книг, с которыми не справлялись программы оптического распознавания. Введенные ответы помогали восстанавливать старые печатные тексты. Проверка оставалась пропуском на сайт, но одновременно превращалась в работу по оцифровке архива.

На момент публикации система работала более чем на 40 тысячах сайтов и помогла расшифровать свыше 440 миллионов слов. Авторы сообщали, что точность полученных транскрипций превышала 99 процентов.

#5 reCAPTCHA

Следующей целью стала сегментация. Чтобы распознать строку, программа сначала пыталась разделить ее на отдельные символы. В ScatterType каждую букву разрезали горизонтальными и вертикальными линиями на прямоугольные фрагменты. Затем части сдвигали вверх, вниз и в стороны. Для программы границы символов исчезали, и собрать буквы обратно становилось трудно.

Человек все еще узнавал толщину штрихов, засечки, изгибы и общий рисунок слова. Поэтому строка могла оставаться читаемой даже после сильной фрагментации.

#4 ScatterType

К 2003 году знакомые английские слова стали слабым местом CAPTCHA. Программа могла использовать словарь и общую форму слова, чтобы сократить количество вариантов. BaffleText отказался от настоящих слов. Система генерировала произносимые псевдослова длиной от пяти до восьми букв. Они напоминали английский язык, но не встречались в словаре.

Затем изображение закрывали случайными кругами, квадратами и эллипсами. Маска могла добавлять, убирать или инвертировать части букв. Человек достраивал недостающие фрагменты по общему рисунку, при этом программа теряла сразу две опоры: словарь и цельное изображение.

#3 BaffleText

В 2000 году исследователи Луис фон Ан, Мануэль Блум, Николас Хоппер и Джон Лэнгфорд ввели название CAPTCHA. Через несколько лет они дали понятию формальное определение. Такая проверка должна автоматически создавать и оценивать задания, которые большинство людей решает успешно, а современные программы пока решить не могут.

Yahoo использовала систему EZ-Gimpy, чтобы мешать ботам массово регистрировать бесплатные почтовые аккаунты. В отличие от AltaVista, она уже показывала настоящее английское слово, а не случайную строку. Система выбирала его из небольшого словаря, печатала случайным шрифтом и добавляла деформации.

#2 EZ-Gimpy для Yahoo!

[ критерий 01 ]

Когда умение читать считалось признаком человека

Первые CAPTCHA не пытались понять человека целиком, они проверяли одну конкретную способность. Пользователь должен был прочитать изображение, с которым программа пока не умела справляться.

#1 AltaVista

К концу 1990-х сайты уже сталкивались с автоматической регистрацией аккаунтов, накруткой голосований и массовой отправкой форм. Один из первых практических тестов появился в AltaVista. Сервер создавал случайную строку, менял вид символов и просил пользователя ввести увиденное. Патент описывал разные шрифты, неровные интервалы, искривление строки, пересечение букв и запутанный фон. Заявка на него была подана в 1998 году.

Исследователи из Университета Карнеги Меллона позже назвали эту разработку первым практическим примером автоматизированного теста, который отделял человека от программы.

1998

строка

2000

слово

2003

помехи

2005

фрагменты

2008

скан

99,8%

[ критерий 01 устарел ]

В 2014 году нейросеть, созданная для чтения номеров домов в Street View, распознала самую сложную категорию текстовых reCAPTCHA с точностью

Подход, разработанный для чтения номеров домов на снимках Street View, затем применили к искаженным строкам reCAPTCHA. Когда система стала распознавать их почти без ошибок, правильный ответ перестал доказывать, кто его ввел. Чтение больше не могло служить самостоятельным критерием, поэтому следующую проверку стали искать в изображениях.

[ 26624 ]

[ 205 ]

[ 66 ]

[ 61 ]

[ 100 ]

[ 175 ]

Сложные, но правильно распознанные номера домов из Street View.

[ критерий 02 ]

Следующей видимой проверкой стало зрение

[ 01 ] что видит человек

[ 02 ] что видит машина

[ условная схема ]

В декабре 2014 года Google представил No CAPTCHA reCAPTCHA. Сервис оценивал взаимодействие пользователя с проверкой еще до появления задания. Если собранных сигналов хватало, пользователь проходил дальше после галочки «Я не робот». При нехватке сигналов система открывала сетку изображений. В первой официальной демонстрации в ней использовали фотографии кошек и индеек, позже появились задания со светофорами, транспортом и пешеходными переходами.

Человек узнавал объект целиком, модель же сопоставляла признаки

Пользователю нужно было найти один объект на разных снимках и отметить нужные клетки. Для этого достаточно было узнать целостный образ. Модель сначала выделяла края и цветовые сочетания, затем объединяла их в текстуры и части объекта и по этим признакам оценивала, есть ли на снимке нужный объект.

[ критерий 02 устарел ]

Пока мы доказывали, что умеем смотреть, компьютерное зрение училось решать те же задачи.

Следующий шаг изменил саму задачу. В 2014 году Иэн Гудфеллоу и его коллеги описали генеративно-состязательную сеть, или GAN. В ней работали две модели, одна создавала новые изображения, а вторая пыталась отличить их от примеров из обучающего набора. Оценка второй модели помогала первой исправлять результат. Способность распознавать подделку стала частью процесса ее создания.

Одна модель создает,
другая пытается ее раскрыть

Получает случайный набор чисел

Получает реальные и созданные изображения

Создает новое изображение

Сигнал ошибки обновляет обе модели

Модель 01

[ генератор ]

[ случайный набор чисел ]

[ модель 01 создает убедительнее ]

[ реальные изображения ]

[ модель 02 различает точнее ]

Модель 02

[ дискриминатор ]

Выносит вердикт: Real / Fake

Ранние результаты GAN

[ CIFAR-10, полносвязная модель ]

[ Toronto Face Database, лица ]

[ MNIST, рукописные цифры ]

[ CIFAR-10, сверточная модель ]

[ 01 ]

изображения, созданные генератором

[ 02 ]

ближайший похожий пример из обучающего набора

Первые результаты GAN были размытыми и уже показывали важный сдвиг. Модель создавала новые изображения, а авторы сопоставляли их с ближайшими реальными примерами из набора.

Пока происхождение выдавали низкое разрешение и расплывчатые детали, но с ростом качества главным стал другой вопрос: можно ли определить, как создано изображение, только по его внешнему виду?

[ критерий 03 ]

Настоящее стало вопросом правдоподобия

За пять лет качество генераций заметно выросло. В декабре 2019 года исследователи NVIDIA и Университета Аалто представили StyleGAN2. Они изменили архитектуру и способ обучения, чтобы устранить характерные артефакты предыдущей версии. Модель обучали на FFHQ, наборе из 70 тысяч фотографий лиц. Она создавала изображения размером 1024 на 1024 пикселя.

[ 2014 ] GAN

[ 2019 ] StyleGAN2

Прогресс генеративных моделей за пять лет

48,2%

[ критерий 03 устарел ]

Ответ человека почти не отличался от случайного выбора

[ real ]

[ synthetic ]

Пары настоящих и синтетических лиц из эксперимента.

Реальные фотографии подбирали по возрасту, полу, расе, выражению и положению головы.

[ real ]

[ synthetic ]

В 2022 году Софи Найтингейл и Хани Фарид проверили, насколько люди способны отличить лица StyleGAN2 от настоящих фотографий. Исследователи собрали 400 синтетических лиц и подобрали к ним 400 похожих реальных портретов. Каждый из 315 участников видел 128 изображений и определял, является ли лицо настоящим. Средняя точность составила 48,2 процента, что оказалось близко к случайному выбору.

Внешний вид больше не объяснял происхождение изображения

[ критерий 04 ]

Следы человеческого авторства стали искать в стиле

Поскольку внешний вид изображения перестал надежно указывать на его происхождение, следы автора начали искать в стиле текста. Люди обращали внимание на тон, грамматику и личные подробности.

В 2023 году Морис Якеш, Джеффри Хэнкок и Мор Нааман провели шесть экспериментов с участием 4600 человек. Участники читали самопрезентации для рабочих профилей, сайтов знакомств и сервисов аренды жилья. Часть текстов написали люди, часть создали языковые модели.

В трех основных экспериментах точность определения источника оставалась в пределах

52%

–

real

[ источник ]

Человек

[ пример для профиля хозяина жилья ]

Моя семья живет в Вашингтоне уже несколько лет. Больше всего в жизни на Капитолийском холме нам нравится бегать по району и ходить по музеям и выставкам, расположенным в пешей доступности от нашего дома.

[ источник ]

GPT-2

[ пример для профиля хозяина жилья ]

Я учитель и молодой предприниматель, люблю кататься на лыжах и путешествовать. Мы с женой живем в Вермонте уже десять лет и любим его красоту и снег, по которому можем кататься на лыжах летом.

Человеческий стиль пытались выявить из признаков

« я / мы »

« семья »

« теплый тон »

« разговорная речь »

Воспринималось как человеческое

Участники связывали человеческое авторство с речью от первого лица, разговорными сокращениями, упоминаниями семьи и теплым тоном. Большинство этих признаков не было связано с реальным происхождением текста. Грамматические ошибки участники часто считали следом модели, хотя в исследуемом наборе они чаще встречались у людей.

Исследователи использовали найденные признаки, чтобы отобрать тексты модели, которые должны были казаться более человеческими.

У текста появилось несколько участников

В реальной работе текст редко остается полностью человеческим или полностью машинным. Модель может создать черновик, человек поменять структуру и факты, а другая модель исправить стиль. Готовый результат хранит решения всех участников процесса.

В 2025 году исследователи представили набор Beemo для проверки таких случаев. В него вошли человеческие ответы, тексты десяти языковых моделей, экспертные редакции и версии, отредактированные другими моделями.

[ 03.1 текст редактирует человек ]

Экспертная
редакция

«БМО известно близостью к Земле. Это область активного звездообразования.»

[ 03.2 редактирует другая модель ]

Автоматическая редакция

«Помимо близости к Земле, БМО также известно как область активного звездообразования.»

[ 01 ]

Исходный
запрос

«Чем известно Большое Магелланово Облако?»

[ 02 ]

Ответ
модели

«БМО известно не только близостью к Земле, но и активным звездообразованием: в нем большие массы газа формируют новые звезды»

[ сокращенный перевод фрагментов записи Beemo ]

Редактура размывала признаки происхождения

Экспертная редактура часто делала машинный текст сложнее для обнаружения. После автоматической редакции детекторы обычно продолжали классифицировать текст как машинный.

[ критерий 04 устарел ]

Человеческий текст тоже не проходил проверку.
Средняя доля человеческих TOEFL-эссе, которые детекторы ошибочно назвали сгенерированными, составила

61,3%

В 2023 году исследователи проверили семь детекторов на 91 эссе, написанном людьми, для которых английский не был родным языком. В среднем системы ошибочно назвали машинными 61,3% текстов. При этом все семь детекторов одновременно ошиблись в 19,8% человеческих эссе, включённых в исследование.

Детектор оценивал предсказуемость, словарь и устройство фраз. Поэтому человеческий текст мог выглядеть машинным, а текст модели после редакции мог перестать выглядеть машинным. По готовому результату уже нельзя было понять, кто и на каком этапе участвовал в его создании.

Как теперь доказать, что ты — человек?

Цифровой результат больше не указывает на одного автора. По внешнему виду уже нельзя понять,
кто и как участвовал в его создании.