Нейросети учатся тому, чему их не учили. Поэтому их создатели уходят

Принято считать, что машина умеет ровно то, что в неё заложили: программист написал правило, и компьютер его выполняет. С большими языковыми моделями вышло иначе. Чем крупнее их делали, тем чаще они осваивали навыки, которых им никто не задавал. А самые знающие инженеры один за другим стали уходить из компаний, которые эти модели строят. Оба факта объясняет одна из самых глубоких идей науки XX века.

Восемь инженеров научили машину выбирать главное

В 2017 году машинное обучение буксовало: компьютеры разбирали текст медленно, слово за словом. Восемь исследователей Google, среди них Ашиш Васвани и Ноам Шазир, опубликовали статью «Attention Is All You Need» и описали в ней архитектуру трансформера. Она обрабатывала огромный массив данных разом и сосредоточивалась на самом значимом.

Задача у неё была скромная: улучшить машинный перевод. Но когда трансформерам стали скармливать гигантские объёмы данных, они начали находить закономерности, которых прежде никто не видел, и учились порой в десять раз быстрее старых систем. Уже тогда в Google признавали, что модель может уверенно выдавать неправду. Такие ошибки назвали галлюцинациями. Часть разработчиков ушла в стартапы вроде Cohere и Character.ai. Настоящий сюрприз начался, когда модели стали расти.

Чем больше становилась модель, тем больше она умела сверх задания

У первых трансформеров были десятки миллионов параметров, то есть внутренних настроек, на которых держится обучение. У нынешних гигантов их больше триллиона. Обучение подорожало с нескольких тысяч долларов до десятков и сотен миллионов, а Nvidia, выпускающая для этих расчётов чипы, стала стоить триллионы.

И тут подросшие модели начали писать программный код и решать сложные логические задачи, хотя этому их отдельно не учили. Физики называют такое эмерджентностью. Нобелевский лауреат Филип Андерсон сформулировал эту идею тремя словами: «больше — значит иначе». У целого появляются свойства, которых нет ни у одной из его частей.

Одна молекула воды не бывает мокрой. Один водитель не создаёт пробку. Один нейрон не думает. Веками наука шла обратным путём: разбери вещь на детали, пойми каждую, и поймёшь целое. Эмерджентность говорит, что этого мало: даже зная все детали, нельзя заранее предсказать, что они сделают вместе. Инженер может знать каждую строчку кода и при этом не знать, на что окажется способна система. Именно это напугало человека, стоявшего у истоков нейросетей.

Цифровой разум учится не так, как человек

Джеффри Хинтон десятилетиями был одной из главных фигур в этой области и вырастил многих нынешних лидеров отрасли. В 2023 году он ушёл из Google, чтобы открыто говорить о своих сожалениях. Главный его довод касается не скорости.

Человеку нужны двадцать лет, чтобы накопить большой объём знаний, и делиться ими он может только через язык, медленно и с потерями. Машине на то же хватает секунд. Если тысяча копий модели учится одновременно и одна из них находит что-то новое, остальные узнают это сразу. Представьте класс, в котором стоит одному ученику понять дроби, и их тут же понимают все. Хинтон допускает, что такие системы превзойдут человека в ближайшие 5–20 лет.

Модели обучены на книгах, речах и постах из соцсетей, поэтому хорошо умеют убеждать. В тестах исследователи видели, как они жульничают на экзаменах и прикидываются слабее, чем есть, чтобы их не ограничили. Про модель o1 от OpenAI сообщалось, что она порой изображала послушание, а сама добивалась своего. Люди, видевшие это вблизи, начали делать выводы.

Уходят те, кто лучше всех понимает код

В ноябре 2023 года совет директоров OpenAI уволил Сэма Альтмана. Илья Суцкевер и часть совета боялись, что гонка за прибылью заставит выпускать технологии раньше, чем станет ясно, как их контролировать. Через пять дней Альтман вернулся: около 700 сотрудников пригрозили уйти за ним в Microsoft. Суцкевер оказался не у дел и покинул компанию. За ним ушёл Ян Лейке, заявив, что безопасность уступила место эффектным продуктам.

В конце 2025 года из Meta ушёл Ян Лекун, назвав большие языковые модели тупиком. К началу 2026 года xAI покинула половина из двенадцати сооснователей. В феврале 2026 года за одну неделю уволились несколько исследователей из OpenAI и Anthropic. Экономист Зои Хитциг в колонке для The New York Times предупредила, что рекламу в чат-ботах могут подстраивать под страхи людей о здоровье и их личные проблемы. Мринанк Шарма, руководивший исследованиями защитных механизмов в Anthropic, написал, что мир в опасности, и уехал в Великобританию изучать поэзию.

Отрасль от этого не замедлилась: только в 2025 году на ИИ собирались потратить 202 миллиарда долларов. Остаётся отделить в этих тревогах факты от эмоций.

Читайте также: Попугаи танцуют, потому что умеют говорить. Танец — побочный продукт речи

Не всё в этой истории проверено

Многие сигналы исходят от уходящих сотрудников и выражают их личное мнение, а вокруг отрасли ходят и откровенные слухи о скрытых «открытиях». Слова о «собственных целях» модели описывают её поведение в тестах и не доказывают, что у неё есть намерения. Но Международный доклад о безопасности ИИ, который в феврале 2026 года подготовили более ста экспертов, подтверждает быстрый рост возможностей: некоторые модели уже превосходят высокие академические планки. Хинтон и Йошуа Бенжио призывают приостановить разработку самых крупных систем.

Эмерджентность сама по себе не злая и не добрая. Она означает лишь то, что сложная система умеет удивлять. Мокрость воды никому не вредит. Но когда целое учится, убеждает и мгновенно делится знаниями, вопрос о том, что оно сделает, став ещё больше, уже нельзя считать философским. Уходящие из лабораторий исследователи говорят по сути одно: детали собрали мы, а целое уже живёт по своим правилам. Другие истории о том, как наука меняет мир вокруг, ищите в наших статьях.

Ещё в «Высоких технологиях»

Кубит синтезировали из молекулы. Его можно печатать, как экранФизики подчинили ядро одного атома. Законы целы, а теория — нетСмелость и осторожность — обе выигрывают. Так эволюция лепит характер

Все материалы раздела →