В соцсетях разошлась история: одно-единственное слово заставило ChatGPT вместо перевода выдать несколько экранов бессмыслицы. Звучит как шутка, но у таких сбоев нейросетей есть вполне реальная причина. Мы уже писали о том, что стало с приложением ChatGPT на Android, а теперь я решил проверить эту историю на своём смартфоне. Рассказываю, что случилось, почему нейросеть может «сломаться» на одном слове и как проверить это у себя.

Неудачная попытка ChatGPT перевести слово «полупозвонок»

Историю рассказала пользовательница соцсети X. По её словам, она сидела на приёме у врача и попросила ChatGPT перевести на сербский предложение со словом «полупозвонок» — это медицинский термин, так называют аномалию развития позвонка. Вместо перевода нейросеть, по её словам, «шипела» на неё целых три экрана.

👉 Читай AndroidInsider.ru в MAX

Пост быстро разлетелся по соцсетям и Telegram-каналам. Оригинал можно найти в публикации автора. Официальных комментариев OpenAI об этом сбое я не нашёл.

ChatGPT не читает слова целиком. Перед обработкой текст режется на кусочки — токены, и для нейросети каждое слово превращается в набор таких кусочков. Если какой-то токен почти не встречался при обучении, модель не понимает, что с ним делать, и начинает выдавать странный ответ.

Проблемы с переводом слова «полупозвонок» у пользовательницы соцсети X

Такие слова называют глитч-токенами. Самый известный пример нашли ещё в 2023 году: на слове SolidGoldMagikarp ChatGPT отвечал невпопад, увиливал или подменял его другим словом. Исследователи выяснили, что многие такие токены — это никнеймы пользователей Reddit, которые попали в данные для токенизатора, но почти не встречались при обучении самой модели, писал Vice.

👉 Залетай в чат AndroidInsider.ru в MAX

Бывают и сбои на стороне самой OpenAI. В феврале 2024 года ChatGPT массово выдавал бессвязный текст на смеси языков, а OpenAI сообщила, что изучает жалобы, рассказывал Popular Science.

Я открыл ChatGPT на своём смартфоне и попросил перевести на сербский фразу со словом «полупозвонок». Никакого шипения: нейросеть спокойно выдала перевод, как с любым другим словом.

Безошибочный перевод фразы со словом «полупозвонок»

Почему у автора поста сломалось, а у меня нет, точно сказать нельзя. Ответы ChatGPT каждый раз немного отличаются, у разных пользователей могут работать разные версии модели, а сбой могли уже исправить. Поэтому один пост — ещё не доказательство, что слово ломает нейросеть у всех.

Проверить историю можно за минуту, если ChatGPT у вас работает. Сделайте так:

1. Откройте приложение ChatGPT по нашей инструкции и начните новый чат.
2. Напишите: «Переведи на сербский: у пациента обнаружили полупозвонок».
3. Если ответ обычный, повторите запрос ещё пару раз в новых чатах.
4. Попробуйте задать тот же вопрос голосом.

Если ChatGPT начнёт выдавать бессмыслицу, сделайте скриншот — по нему будет понятно, повторяется ли сбой у других. Поделиться результатом можно в чате AndroidInsider.ru в MAX.