Бессмысленно отрицать, что большие языковые модели заменили нам исследования, прототипы, поиск в Гугле и на SO. Настройку и развертку. Исследование логов. Написание ADR. У многих даже ручной кодинг отвалился. Да чего уж говорить, моя команда по выводу продуктов в Open Source из маркетинговой истории «смотрите как у нас круто» превратилось в прагматичную историю «можете натравить на наш API/SDK ваших агентов, и они соберут вам всё за пару вечеров». В разы возросли скорость и объем итераций.

Однако у всего этого есть и обратная сторона. Я не буду повторять про выгорание от попыток вразумить «электронного дебила» через набор текстовых файлов. Я не буду повторять про кратно возросшее число нагрузки из-за потока MR на code-review. Я не буду повторять, что новички в профессии уже не стесняясь говорят: «Ну за меня код GLM/DeepSeek пишет, сам я только промт вставляю да ручку дергаю». И уж тем более я не буду повторять, насколько выросли цены на железо и что любой корпоративный сервис, вне зависимости от сложности, теперь является потенциальной жертвой 12-летнего куллхацкера с локальным Heretic Qwen и неограниченным запасом времени. Про всё это уже написано огромное число статей, а реальные выводы мы сможем сделать лишь спустя годы.

Нет, моя мысль более приземленная. За три года, которые я взаимодействую с языковыми моделями я пришел к однозначному выводу — LLM это невероятно крутой Т9. Я понимаю, что многие из вас кто работает с моделями (или работает над ними), сейчас оскорбились, но моя цель не принизить успех технологии. Отнюдь. Как я сказал, реальный импакт уже есть, и он уже ощущается всеми. Но и замечать очевидные минусы становится всё сложнее.

Минус первый — пустословность моделей. Именно пустословность, а не многословность, так как все мы знаем о Caveman Skill и различных методиках сокращения числа потребляемых токенов. Нет, речь именно про смысловую нагрузку в тексте, который генерируется моделью, некоем коэффициенте полезной информации на слово. Из-за того, что каждый второй сейчас выкладывает тексты «причесанные LLM» я обратил внимание, что не могу больше читать и осознавать такие тексты. Из-за их огромного количества, мозг перестал их воспринимать. Как рекламу — она вроде есть, но мозг научился ее фильтровать настолько хорошо, что мы даже не обращаем внимание на баннеры слева и справа потребляемого контента. И из этого минуса следует логичный вопрос: для кого написаны эти километры «причесанного LLM» текста? Кто их будет читать? 

Минус второй — мы думали (думаем?) что это заменитель, а это мультипликатор, знаний и ума. В индустрии всё еще теплится идея, что модели смогут заменить «мешки с костями». То есть стать полноценными автономными сотрудниками. Не буду касаться вопроса ответственности, зайду с другой стороны: на днях общаясь с Claude Opus 5 я обратил внимание, что имена и факты не сходятся. При этом текст был лаконичный и набор утверждений был последовательным. Нигде модель не путалась, не перемешивала следствия и не выглядела как шизофреник. Однако одно неправильное утверждение вызвало у меня вопрос «а откуда ты взяла XY?». На что модель честно ответила: «Я это придумала!» Как и 50% всех фактов, которые она мне до этого любезно разложила. И хуже здесь не сами галлюцинации (которые нам всё обещают победить, но никак не побеждают), а тот факт, что модель смогла вывести идеально выстроенную систему из неё. Если бы я не знал о конкретном несоответствии, я бы даже не подумал, что что-то пошло не так. Настолько текст был убедительным. И вот эти два минуса выглядят нерешенными (на данный момент времени).

Можно ли их решить вообще, я тоже не знаю — как я уже сказал выше, галлюцинации нам обещали победить еще в середине 25-го. Но именно сочетание двух проблем вызывает тревогу, особенно с учетом мировых ожиданий от LLM. Мне кажется, мы находимся в очередной фазе «когда у меня в руках молоток, то всё перед мной — гвозди». Только одна сложность — у молотка «нет тормозов». Совсем. Достаточно упорный запрос заставит этот «молоток» выполнить любую функцию, или (что хуже) доложить вам о её успешном выполнении. Как говорил один интернет классик — «любой ценой, но бесплатно!».

Уже сейчас вижу какой мешок проблем нам придется разгребать, когда ажиотаж спадет. Ситуация безусловно не станет прежней, но и окончательные выводы о всеприменимости технологии пока ещё делать рано. Умнейшие умы человечества изобрели «двигатель». Осталось изобрести «тормоза и рулевое колесо». И ремни безопасности на сдачу.