Использование искусственного интеллекта для интерпретации рукописных назначений врачей может нести серьезные риски для здоровья пациентов. Аналитик Зыков провел практическое исследование, чтобы проверить точность популярных нейросетей в работе с реальными документами. В эксперименте участвовали три модели — ChatGPT, Gemini и Grok, которым предложили распознать девять подлинных российских рецептов, написанных от руки.
Как показал опыт, современные алгоритмы успешно справляются с идентификацией названий медикаментов, однако на этапе уточнения деталей начинаются критические сбои. Зыков зафиксировал случаи, когда ИИ радикально искажал количество препарата: если в оригинале значилось 2,16 тысячи таблеток, то нейросети выдавали значения в 216 или даже 60 единиц. Еще более опасной оказалась ошибка в режиме приема лекарств, когда вместо двух таблеток перед сном алгоритм предлагал принимать по одной штуке трижды в сутки, фактически полностью меняя предписанную врачом терапию.
Помимо искажения цифр, системы регулярно игнорировали важные примечания, допускали ошибки в фамилиях медиков и пытались самостоятельно «додумать» неразборчивые фрагменты текста. Эксперт подчеркнул, что главная опасность заключается в убедительности ответов: нейросети не просто считывают буквы, а подставляют наиболее вероятные по контексту слова. Если часть почерка остается неясной, ИИ может уверенно выдать ложное предположение, не предупредив пользователя о своей неуверенности.
Ранее в контексте развития технологий киберэксперт Игорь Бедеров высказывался о необходимости обучения детей принципам работы с искусственным интеллектом и осознанию связанных с ним рисков.
