Управление по контролю продуктов питания и лекарственных препаратов США (Food and Drug Administration, FDA) предложило проводить для медицинских ИИ-ботов специальные экзамены, подобные тем, что проходят люди для подтверждения знаний, и запросило мнение общества по данной инициативе, написал в четверг Nextgov/FCW.

Экзамены, по мнению представителей FDA, должны быть проведены до того, как чат-боты получат маркировку «медицинское устройство».

Управление намерено проводить испытания уже готовых продуктов, разработанных на основе технологий генеративного искусственного интеллекта, а не фундаментальных моделей и их составных частей. Контролируются «знания» робота, его аналитические возможности, эффективность и безопасность.

Тщательность теста предлагается варьировать в зависимости от потенциальных рисков медицинских ботов – предлагает ли программа пациенту предпринять какое-либо действие или же просто предоставляет информацию. Учитывать также, считают в FDA, необходимо последствия ложных рекомендаций и опыт применения тех или иных ИИ-продуктов в реальных условиях.

См. также:

• Американские врачи взяли на вооружение страдающий от «галлюцинаций» ИИ-инструмент
• Обнаружена угроза безопасности пациентов при использовании генеративного ИИ в медицине
• Чат-боты признаны опасными советчиками по медицинской части