В Москве 68-летнюю пенсионерку госпитализировали после того, как она воспользовалась рецептом от созданной искусственным интеллектом «знахарки» для очистки кишечника, сообщают СМИ. Если раньше псевдоврачи и разнообразные целители давали сомнительные советы от своего имени и должны были отвечать перед законом в случае причинения вреда здоровью своих клиентов, то теперь появились абсолютно анонимные «знахари», скрывающиеся под личиной ИИ-аватара. Как бороться с этим явлением, разбирались «Известия».

О ситуации с 68-летней москвичкой рассказали в одном из новостных Telegram-каналов. По его данным, женщина подписалась в соцсетях на некую «травницу», которая публиковала различные видеорецепты для оздоровления. Пенсионерка решила испытать отвар с лимоном и черным перцем, который должен был помочь ей почистить кишечник. Ночью у женщины сильно заболел живот, резко понизилось давление, она начала задыхаться, а позже появилась кровавая рвота. Москвичка успела позвонить родным, которые вызвали «скорую» — и это ее спасло. В результате пенсионерку госпитализировали.

Проблемы с нейросетевыми «лекарями» есть и в других регионах России. Однако такие ИИ-целители — уже по-настоящему массовое явление, встречающееся в разных странах мира. В июле испанские СМИ рассказывали о десятках профилей врачей, целителей и т. д., которые были созданы в одной из популярных соцсетей с помощью искусственного интеллекта. Видео, которые они создают, набирают миллионы просмотров. Другие СМИ обращали внимание на ИИ-аккаунты, навязывающие прием различных биологических добавок.

Манипуляции в области медицины, по словам руководителя агентства ST agency Евгении Соколовской, встречаются особенно часто.

— Всегда были кликбейтные статьи с громкими заголовками: «Этот продукт вас убивает», «Гастрит можно вылечить за неделю только с этим средством». Эти техники перекочевали в видеоконтент. И неслучайно выбран образ бабушки-травницы, которая вызывает доверие к авторитету, опыту. Также популярен образ врача в белом халате или мужчины в медицинском костюме, фон больницы или лечебного кабинета, — рассказала она «Известиям».

В таком контенте часто используются речевые обороты «врачи об этом не говорят», «этот рецепт для лечения от моей бабушки». При этом нередко такие видео направлены на пожилых людей, у которых могут «отсутствовать навыки критического мышления в области ИИ-разработок», предупредила эксперт.

— После выхода на пенсию, потери близких или друзей пожилые нередко остаются с ограниченным кругом общения. Кто еще вызовет ощущение заботы, если не человек с экрана? Критичность к его предложениям закономерно снижается: вот он перечислил все твои симптомы по списку или описал твой день так, как ты бы описал его сам, — объяснила «Известиям» директор благотворительного фонда «Старость в радость» Елизавета Олескина.

Пожилые люди, как уточнила она, сформировались в эпоху, когда печатное и телевизионное слово обладало высоким авторитетом, и привычка доверять «официальному» каналу информации нередко переносится на современные форматы — от газетных объявлений до роликов в мессенджерах. Работает это и в другую сторону: кто-то помнит, что «по телевизору много врали, а вот в интернете, наконец, можно узнать, что от нас скрывали». И в то же время у части пожилых людей остается низкой цифровая грамотность: проверить источник и отличить фейковый медицинский центр от реального им сложно.

— Шарлатаны говорят на языке, который пожилым понятен и близок: «народное средство», «проверено поколениями», «врачи скрывают». Они обращаются к жизненному опыту («раньше лечились травами и жили долго»), к недоверию к официальной медицине, которое у части бабушек и дедушек было сформировано на фоне очередей в поликлиниках, выгоревших врачей или дорогих частных услуг. Так что сейчас, когда кто-то эксплуатирует опыт этих разочарований и обид, не так важно, использует он при этом ИИ или нет, — отметила собеседница редакции.

Проблемы с общением с реальным врачом выталкивают пожилого человека в пространство, где альтернативу предлагают не медицинские специалисты, а продавцы, добавила она. Еще один фактор риска — финансовый: «чудо-средство» из перца и лимона может быть подано как доступная альтернатива дорогим обследованиям и лекарствам.

— Проблема не в том, что пожилые «верят ИИ», а в том, что система не предлагает ничего более убедительного и доступного. Поэтому мало запрещать контент, созданный с использованием нейросетей. Необходимо развивать систему информационной поддержки пожилых людей в целом, — подчеркнула Елизавета Олескина. — Кроме обучения цифровой грамотности, нужно доступное медицинское консультирование, а также поддержание соседских и семейных связей.

По наблюдениям экспертов платформы «Мошеловка», за аккаунтами с ИИ-целителями стоят не одиночки, а организованные группы, которые работают по конвейерной модели.

— Схема выглядит так: нейросети генерируют образы «бабушек‑травниц», «знахарей», «экстрасенсов», «старцев» и «монахов», затем создаются сотни аккаунтов с помощью антидетект‑браузеров и виртуальных номеров. Контент, ответы на комментарии, сценарии общения — всё делается автоматически. Это уже не блог одного человека, а полноценные «фермы» синтетических персонажей, — пояснила «Известиям» заместитель руководителя проекта «Народного фронта» «За права заемщиков» и платформы «Мошеловка» Александра Пожарская.

При этом один человек сейчас может вести сразу несколько аккаунтов с ИИ-лекарями, добавила Евгения Соколовская. Нейросеть помогает на всех этапах — от задумки цифрового аватара до окончательного видео.

— Обычно создают несколько персонажей, смотрят, какой из них лучше заходит аудитории, а затем его масштабируют, — рассказала она.

Монетизация при этом может быть разной. Аккаунт сначала раскручивают, а затем начинают продавать какой-либо продукт либо находят рекламодателей. В каких-то случаях персонажа продают. При этом спрос на размещение рекламы в таких блогах есть, и он растет, подчеркнула эксперт.

Конкретный человек, который систематически дает людям медицинские рекомендации, есть за каждым ИИ-персонажем, обратил внимание адвокат Центра гуманизации права Константин Гензель.

— Если в этой ситуации подтверждается факт причинения вреда человеку, то правоохранительные органы могут искать состав преступления в действующем законодательстве, — заявил собеседник «Известий». — Такого человека можно привлечь по ст. 235 УК РФ, которая предусматривает ответственность за незаконное осуществление медицинской деятельности без лицензии. Могут применяться и другие составы.

Ответственность будет зависеть от того, что именно советовали человеку и к каким последствиям это привело, добавила член Ассоциации юристов России, юрист компании «Легес Бюро» Юлия Рамзенкова. При причинении тяжкого вреда здоровью или смерти могут применяться ст. 118 («Причинение тяжкого вреда здоровью по неосторожности») или ст. 109 УК РФ («Причинение смерти по неосторожности»). А при продаже небезопасных услуг или продукции — ст. 238 УК РФ («Производство, хранение, перевозка либо сбыт товаров и продукции, выполнение работ или оказание услуг, не отвечающих требованиям безопасности»).

— Главная сложность — доказать связь между конкретной рекомендацией и вредом здоровью, а также установить, кто создавал и контролировал такой аккаунт, — отметила специалист. — Сформированной судебной практики именно по ИИ-знахарям в России пока нет. Есть дела, связанные с незаконным лечением и опасными рекомендациями, но отдельной практики по ИИ-персонажам еще не существует.

Трудность может возникнуть именно при установке субъекта ответственности: следствию необходимо будет определить владельца аккаунта, источник для формирования контента, а также лиц, принимавших решения о публикации материалов, уточнил Константин Гензель.

В свою очередь юрист и основатель Юридического бутика ContractCreation by Kostromin Евгений Костромин сообщил, что установить владельца таких аккаунтов можно через правоохранительные органы по заявлению пострадавшего.

— Процесс включает официальные запросы данных у платформ, банков и операторов связи, — пояснил он «Известиям». — Следы обычно остаются: привязанный телефон или почта, платежные реквизиты (донаты, продажа курсов или БАД), рекламные интеграции и технические данные.

Кроме того, правоохранители могут изучить IP-адреса, историю входов, а также сопоставить по техническим и поведенческим признакам несколько страниц и найти у них одного владельца, перечислила руководитель направления отдела анализа и оценки цифровых угроз ГК Softline (Infosecurity, входит в «Софтлайн Решения») Кристина Буренкова. И уже дальше предстоит доказать, что конкретный человек управлял аккаунтом, публиковал рекомендации, получал с этого доход, и выявить связь между опубликованным советом и последствиями.

В России для социальных сетей предусмотрены обязанности по мониторингу определенных категорий информации и работе с обращениями, напомнила владелец продукта по безопасности ИИ UserGate Светлана Газизова. Закон допускает судебную защиту при нарушении прав из-за неисполнения этих обязанностей.

— Но, конечно, нужно оценивать не сам факт генерации контента, а содержание рекомендации, заявленную квалификацию персонажа и возможные последствия для человека. Особенно внимательно следует рассматривать инструкции по самолечению и призывы отказаться от медицинской помощи, — убеждена собеседница редакции.

Проблема в случае с ИИ-целителями, по мнению Кристины Буренковой, не в нейросети как таковой — человек вполне может написать тот же опасный совет самостоятельно.

— Скорее нужны понятные правила для случаев, когда искусственно созданный персонаж выдается за реального врача, целителя или другого специалиста. Важны понятные требования к маркировке такого контента и механизм оперативного удаления после обоснованной жалобы, — подчеркнула она.

Важно также развивать требования к безопасности ИИ с учетом последствий его применения, добавила Светлана Газизова. Для развлекательного ИИ-персонажа и виртуального «врача», который рекомендует лечение, нужен разный уровень контроля.

— В сфере здоровья ошибка или намеренная манипуляция могут привести к физическому вреду, поэтому здесь нужны проверяемый источник, ответственное лицо и процедуры оценки опасных рекомендаций, — пояснила собеседница редакции.

На уровне платформы она предложила ввести ускоренное рассмотрение жалоб на угрозы здоровью, ограничение рекомендаций и монетизации при подтвержденном риске, а также выявление связанных аккаунтов.

— В законодательстве стоит уточнять и требования к обозначению вымышленных специалистов, раскрытию владельцев коммерческих аккаунтов о здоровье и реагированию на опасные советы. Ответственность должна определяться действиями людей, которые создают и распространяют такой контент, — заключила эксперт.