ИИ в здравоохранении: запись к врачу, иски и SEO вместо науки

Три события за одну неделю вскрыли главную проблему ИИ в медицине — технологии обгоняют регулирование. Google Gemini получил право записывать людей к врачу, семья из Сиэтла подала иск к OpenAI за опасный совет ChatGPT, а свежий анализ выявил, что из пяти лекарств нейросеть почти всегда предлагает то, у которого лучше SEO-оптимизация сайта, а не научные доказательства.

Эти случаи показывают, что без обязательных механизмов безопасности ИИ-медсервисы становятся источником риска. Интерфейсы должны включать явные дисклеймеры, ссылки на проверенные источники и жёсткую проверку фактов. Медицинские лаборатории каждое утро калибруют оборудование контрольными образцами — аналогичный контроль качества нужен и для ИИ-систем, чтобы они не выдавали случайные или маркетинговые данные за медицинскую рекомендацию.

Пока же разрыв между скоростью внедрения и стандартами безопасности только растёт. Иск к OpenAI и инциденты с Gemini — сигнал регуляторам и разработчикам: без чётких правил и тестирования ИИ в здравоохранении может принести больше вреда, чем пользы.