Сбер и Сколтех разработали метод выявления галлюцинаций ИИ по картам внимания

Дата публикации: 01-09-2026 13:30:00

Исследователи Центра практического искусственного интеллекта Сбера и «Сколтеха» предложили новый метод для обнаружения галлюцинаций в больших языковых моделях, работающих с внешними источниками (RAG). Разработка под названием TOHA (Topological Divergence on Attention Graphs) опубликована в материалах конференции ACL 2026. В её основе — анализ топологической структуры карт внимания модели, что позволяет выявлять недостоверные ответы без обучения дополнительных классификаторов и при минимальном объёме размеченных данных.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Ученые «Сколтеха» и Сбербанка разработали экономичный метод для выявления галлюцинаций языковых моделей	0	6.82	31-08-2026
2	В России ИИ научили анализировать цифровые связи пользователей	0	7	02-07-2026
3	Российские ученые создали инструмент для проверки данных перед обучением ИИ-моделей	0	13.45	13-08-2026
4	Российские ученые создали инструмент для проверки данных перед обучением ИИ-моделей	0	13.45	13-08-2026
5	Российские ученые создали инструмент для проверки данных перед обучением ИИ-моделей	0	13.45	13-08-2026
6	Сбер обновил модель угроз для систем ИИ	0	7.44	31-07-2026
7	В МГУ разработали метод выявления ошибок в размеченных текстах	0	11.42	11-08-2026
8	Сбербанк открыл доступ к собственной обновленной модели угроз для систем искусственного интеллекта	0	13.06	30-07-2026
9	Сбербанк открыл доступ к собственной обновленной модели угроз для систем искусственного интеллекта	0	13.06	30-07-2026

Классификация: Наука. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 9.15. Источник: www.ferra.ru.