ИИ не угадал сорт печенья. Причину Шеннон описал ещё в 1948 году

Принято думать, что неудачный ответ нейросети выдаёт её глупость. Но на показе возможностей Claude случилось другое: просьба написать поставщику о печенье дала аккуратное деловое письмо про шоколадное, хотя автор запроса имел в виду овсяное с изюмом. Сорт просто никто не назвал. За этой мелочью стоит идея 1948 года: она объясняет работу с ИИ лучше любой инструкции и приводит к неожиданному выводу о длинных текстах.

Claude заполнил пропуск самым вероятным вариантом

Сцена начиналась просто: запрос в центральном окне, запуск, готовое письмо со структурой, пунктами и нужными деталями. Сорт в запросе не значился, и Claude, похоже, взял шоколадное как самое популярное. Письмо вышло грамотным, но про другое печенье.

Начинать заново не пришлось. Хватило одной фразы с просьбой заменить сорт: сверху появилось новое письмо, снизу — перечень правок. Так же можно попросить текст покороче или подружелюбнее, указать адресата и тон. Потом остаётся заполнить заготовки вроде имени поставщика, скопировать письмо или сразу открыть его в почтовой программе.

Одно уточнение решило всё. Почему так происходит, математик объяснил задолго до появления чат-ботов.

Шеннон измерил информацию, отложив смысл в сторону

В 1948 году Клод Шеннон опубликовал работу, из которой выросла теория информации. Её главная мысль такова: информация — это снятая неопределённость. Чем больше вариантов отсекает сообщение, тем больше информации оно несёт, а единицей измерения стал бит — ответ на вопрос с двумя равновероятными исходами.

Звучит почти обидно, ведь мы связываем информацию со смыслом. Шеннон сознательно отложил смысл и стал считать только выбор из возможного. Зато телеграмма, музыка и фотография получили общую меру, и на этом до сих пор стоит вся цифровая связь.

Представьте, что просите друга купить печенье. Скорее всего, он принесёт то, что берут чаще всего. Слова «овсяное с изюмом» отсекают почти всю полку, и в этом их ценность. Но у идеи Шеннона есть и обратная сторона: если важно только то, что снимает неопределённость, какая часть длинного текста вообще нужна?

Половина документа может оказаться лишней

Самый любопытный эпизод связан с артефактами — так называются приложения, сайты, документы, шаблоны или игры, которые Claude создаёт в отдельном рабочем окне. Для нового овсяного печенья он сначала набросал схему плана запуска, а после одобрения собрал документ. Текст получился многословным. После просьбы сделать его лаконичнее он сократился примерно вдвое, а ключевые пункты остались на месте.

Шеннон назвал такой запас избыточностью и оценивал её в обычном английском примерно в половину: многие буквы можно предсказать по соседним. Совпадение чисел случайно, ведь он считал буквы, а Claude переписывал формулировки. Родство в другом: в любом тексте есть часть, без которой читатель всё равно поймёт сказанное.

На этом держится и работа с файлами. Плотный отчёт о продажах перетащили в чат, попросили выводы и быстро увидели главное, включая выручку в 482 000 долларов. Так же можно загружать документы, PDF и таблицы. Лишнее из текстов убрать легко, но остаётся другая трата: одни и те же пояснения приходится повторять снова и снова.

Проект позволяет говорить короче, потому что контекст уже на месте

Когда документов становится много, их собирают в проект. В показе туда попали план запуска и PDF с исследованием овсяного печенья, а затем появилась инструкция: всегда отвечать пунктами. Теперь её не нужно повторять, она действует на всё, что спрашивают внутри проекта.

Дальше прозвучал короткий вопрос: что важнее всего для успешного запуска. Claude ответил пунктами и опирался сразу на план и на исследование. По Шеннону, это выглядит естественно: чем больше собеседники уже знают, тем меньше нужно передавать. Несколько слов работают, потому что остальное уже снято заранее.

Ту же логику продолжают коннекторы и навыки. Коннекторы подключают файлы, почту, календарь и другие сервисы: например, Claude может просмотреть письма и выделить срочные, хотя новичку это нужно не сразу. Навыки хранят повторяемые инструкции и порядок работы, скажем, для писем или анализа данных. Картина выглядит гладко, но у неё есть пределы.

Читайте также: 15 секунд сна помогают найти решение. Но проснуться надо вовремя

Учебный показ не проверяет точность

Всё это был учебный пример про печенье, а не испытание. Причина выбора шоколадного — лишь догадка демонстратора, «вдвое» — оценка на глаз, а сверки сводки с исходным отчётом не показали. Мера Шеннона тоже не поможет: она ничего не говорит о том, верно ли сказанное.

Если исходник — запись совещания или интервью, сначала ему нужно стать текстом: для этого есть расшифровка аудиозаписей, а дальше с файлом можно работать так же, как с отчётом.

Каждый запрос ставит ИИ перед полкой, где лежат тысячи возможных ответов, и ваши слова убирают с неё всё лишнее. Когда результат окажется не тем, посмотрите, какой выбор вы оставили машине. Овсяное с изюмом появляется в тот момент, когда его называют.

Ещё в «Высоких технологиях»

Природа запрещает знать всё об электроне. Приборы тут ни при чёмГлавная новинка OpenAI — не агент, а идея Шеннона 1948 годаМочевина из колбы стёрла границу живого и неживого. Мир понял не сразу

Все материалы раздела →