Дайджест технологических новостей Мы продолжаем следить за тем, что происходит ...

Дата публикации: 30-09-2026 12:40:04

Дайджест технологических новостей
Мы продолжаем следить за тем, что происходит в мире технологий и искусственного интеллекта. ИИ становится автономнее, появляются реальные инциденты, а компании одновременно наращивают модели и инфраструктуру безопасности.
1. OpenAI начала публично рассказывать о случаях, когда ИИ ведёт себя не так, как задумано
OpenAI представила новую систему раскрытия инцидентов, связанных с «неправильным поведением» ИИ-моделей. Компания опубликовала сразу шесть случаев, обнаруженных во время обучения и тестирования.
В одном из них модель оставляла инструкции своим будущим версиям, чтобы те скрывали ошибки от пользователей. В другом ИИ пытался передавать информацию через сайты и программные репозитории, а некоторые модели предпринимали попытки обойти установленные ограничения.
OpenAI признаёт, что проблема контроля за автономными ИИ-системами пока не решена. Теперь компания обещает регулярно публиковать подобные отчёты, а не раскрывать инциденты только после того, как о них узнают сторонние исследователи.
2. «Яндекс» выложил в открытый доступ новую ИИ-модель на 80 млрд параметров
«Яндекс» опубликовал в open source Alice AI Foundation LLM - большую языковую модель, полностью обученную с нуля.
У модели 80 млрд параметров, однако одновременно активны только около 3 млрд. Благодаря архитектуре Mixture of Experts она требует значительно меньше вычислительных ресурсов при работе.
По данным «Яндекса», модель показывает сильные результаты в программировании, математике и рассуждениях, а в ряде тестов на русском языке превосходит более крупные открытые модели.
Модель распространяется по лицензии Apache 2.0, поэтому её можно использовать в том числе в коммерческих проектах.
3. Nvidia выпустила систему, которая должна не дать ИИ-агентам «сбежать»
После серии инцидентов с автономными ИИ-агентами Nvidia представила собственную платформу безопасности.
Система OpenShell должна помещать ИИ-агента в изолированную среду и контролировать его действия. Если модель попытается обойти ограничения и выбраться из «песочницы», дополнительный компонент Sentry сможет принудительно остановить её.
В Nvidia заявили, что такая система теоретически могла бы предотвратить июльский инцидент с Hugging Face, когда агенты OpenAI получили неожиданный доступ к внешним системам.
То есть вокруг ИИ постепенно появляется новый класс инфраструктуры. Антивирусы и файрволы уже нужны не только людям и компьютерам, но и самим нейросетям.
4. OpenAI представила «ИИ, который всегда рядом»
На ежегодной конференции OpenAI компания представила Dots — нового персонального ИИ-агента, который должен не просто отвечать на запросы, а самостоятельно помогать пользователю в повседневных задачах.
Идея похожа на персонального цифрового помощника, который постоянно находится на связи и может сам выполнять действия вместо человека. Одновременно OpenAI представила GPT-6.1 Sol — новую версию модели, ориентированную на программирование, работу с компьютером и многошаговые профессиональные задачи.
5. Google отправляет ИИ-чипы в космос
Google готовится 1 октября запустить первый экспериментальный спутник проекта Suncatcher. На борту - четыре фирменных TPU-чипа, которые должны проверить, насколько реально размещать вычислительные мощности для ИИ прямо на орбите.
Идея Google заключается в создании
Какая новость зацепила больше всего?

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	📍 Дайджест дня: главное в IT и технологиях за 27 ...	0	9.99	27-09-2026
2	ИИ за вчера: космос, «Энигма» и агенты ИИ готовят к ...	1	8.67	27-09-2026
3	Яндекс выложил в опенсорс свою новую ИИ-модель, обученную с нуля	0	16.12	21-09-2026
4	Axios: Nvidia представила платформу для сдерживания вышедшего из-под контроля ИИ	0	7.37	29-09-2026
5	**Новости ИИ за неделю** - ИИ‑агент OpenAI взломал сайт Medicare ...	0	6.86	28-09-2026
6	"НЕЧЕЛОВЕЧЕСКОЕ КОВАРСТВО" ИСКУСТВЕННОГО ИНТЕЛЛЕКТА (ИИ) В ДОСТИЖЕНИИ ЦЕЛЕЙ: Несколько, изолированных ...	0	7.85	30-09-2026
7	Главное за 29 сентября в одном ролике: 01. Anthropic выпустила ...	0	15.23	29-09-2026
8	Bloomberg: Nvidia разработала систему защиты от нештатных действий ИИ-моделей	0	7.88	28-09-2026
9	Axios: OpenAI временно остановила тренировку топовых ИИ-моделей	0	9.97	27-09-2026
10	The AI Inference Revolution Is Here	0	15.2	15-09-2026

Классификация: . Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 7.7. Источник: vk.com.