Текстовый апокалипсис и деградация ИИ: что случится, если нейросети будут учиться у нейросетей
Что такое коллапс модели и «текстовый апокалипсис»: почему ИИ, обученный на текстах ИИ, деградирует, и почему живые человеческие тексты становятся ценнее.
Мы привыкли думать, что искусственный интеллект будет становиться только умнее. Ещё немного — и он напишет «Войну и мир 2.0», а заодно заменит всех журналистов.
Но в разговоре с филологом Борисом прозвучал тревожный термин, который ломает эту картину светлого (или пугающего) будущего: текстовый апокалипсис.
Речь о явлении, которое уже сегодня угрожает качеству контента в интернете. И механизм его до смешного прост и страшен одновременно.
Змея, поедающая свой хвост
Чтобы нейросеть вроде ChatGPT хорошо писала, её нужно тренировать на огромных массивах текстов. До недавнего времени это были тексты, написанные людьми: книги, статьи, посты в блогах, форумы. Человеческий язык со всей его хаотичностью, ошибками и озарениями был для ИИ «здоровой пищей».
Сейчас ситуация изменилась. Интернет стремительно наполняется контентом, сгенерированным самими нейросетями. Копирайтеры сдают тексты от ИИ, студенты — эссе от ИИ, в лентах соцсетей всё больше машинных постов. И тут начинается самое интересное.
Новые версии нейросетей начинают учиться не на человеческих текстах, а на текстах своих «младших братьев». Это похоже на змею, кусающую свой хвост. Или на копирование ксерокопии с ксерокопии — с каждым разом изображение становится всё более мутным.
Коллапс модели
В науке это явление называют коллапсом модели. В 2024 году группа Ильи Шумайлова из Оксфорда и Кембриджа показала в журнале Nature: если модели поколение за поколением обучать на данных, сгенерированных предыдущими моделями, они начинают воспроизводить собственные статистические закономерности и ошибки, утрачивая разнообразие и богатство человеческого языка. Как поясняет Борис, тексты становятся плоскими и шаблонными, из них исчезают редкие слова, неожиданные обороты, тонкий юмор.
Грубо говоря, если пустить процесс на самотёк, через несколько циклов обучения нейросеть начнёт выдавать нечто нечитаемое — белый шум из клише и повторов. Это и есть «текстовый апокалипсис»: момент, когда интернет заполнится бессмысленными, деградировавшими текстами, которые не способны никого ни научить, ни развлечь.
Человек нужен как воздух
Из этого Борис делает парадоксальный, но обнадёживающий вывод: чтобы ИИ не тупел, ему нужны мы. Нейросетям жизненно необходимы свежие, «живые» человеческие тексты. Без нашего хаотичного, эмоционального, полного ошибок и цитат языка машины деградируют.
Поэтому бояться, что писатели и журналисты исчезнут, пока рано. Скорее наоборот: ценность оригинального человеческого контента будет расти. Именно мы — «здоровые клетки» в кровеносной системе больших данных, которые не дают искусственному интеллекту сожрать самого себя.
Практический вывод для тех, кто пишет: не сдавайте свой голос. Собственные наблюдения, живые примеры, неожиданные цитаты — то, что машина воспроизвести не может, — становятся вашим главным конкурентным преимуществом. Почему нейросеть не напишет «Евгения Онегина» и как отличить текст человека от текста машины — в статье /pochemu-neyroset-nikogda-ne-napishet-evgeniya-onegina/ и в полной версии подкаста с филологом Борисом.
Вопросы и ответы
Что такое коллапс модели?
Явление, при котором языковая модель, обучаемая на данных, сгенерированных другими моделями, постепенно утрачивает разнообразие: редкие слова и обороты исчезают, ошибки накапливаются, тексты становятся плоскими. Описано группой Ильи Шумайлова в Nature (2024).
Заменит ли ИИ писателей и журналистов?
По логике коллапса моделей — наоборот: без притока живых человеческих текстов нейросети деградируют, поэтому ценность оригинального авторского контента будет расти.
Можно ли предотвратить текстовый апокалипсис?
Исследователи предлагают маркировать машинный контент, отфильтровывать его из обучающих данных и сохранять доступ к «чистым» человеческим текстам. Но главный ресурс — люди, которые продолжают писать.
