Как большие языковые модели помогают врачам, но не заменяют их

Большие языковые модели — это тип нейронных сетей для анализа и генерации текста, обученных на огромных наборах документов, статей, книг и других источников. Масштаб обучения позволяет достигать впечатляющих результатов — при работе с моделями создается впечатление, что получаешь ответ от живого человека (а при хорошо подобранном промпте — от настоящего эксперта). Именно этим объясняется растущий интерес к большим языковым системам.

Использование больших языковых моделей решает широкий круг медицинских задач: анализ жалоб, истории пациента, результатов исследований, рекомендаций врачей и других частей протокола. Технология «трансформеров», лежащая в основе таких решений, эффективна благодаря тому, что модель анализирует текст целиком, а не последовательно отдельные слова. В результате модель понимает смысл всего текста, логические связи, смысловые зависимости.

В условиях, когда медицинских данных становится все больше, такая обработка помогает врачам быстрее ориентироваться в случаях, требующих детального внимания живого человека. Кроме того, это открывает возможности для поддержки процессов диагностики, когда врачу важно иметь доступ к хорошо структурированной информации, не тратя время на техническую рутину.

Большие языковые модели адаптируются под конкретные задачи, а не просто выдавают типовой ответ. Поэтому в том числе и разработчики медицинских сервисов активно применяют их в своих продуктах. 

Важнейшим принципом применения любых автоматизированных систем в медицине (включая модели ИИ) является принцип «не заменить врача, а помочь ему». Все системы поддержки принятия врачебных решений, результаты которых используются врачом на приеме, проходят через множественные проверки и клинические испытания прежде чем начнут использоваться врачами в работе. 

Кроме того, медицинская сфера предъявляет особые требования к этике и безопасности. Внедрение И И должно учитывать конфиденциальность, корректность интерпретаций и прозрачность алгоритмов.

На практике сертифицированного ПО с применением LLM пока нет, поэтому врачи часто используют общедоступные модели на свой риск в совершенно разных задачах: от простых поисковых вопросов до помощи в предположении диагноза по истории болезни пациентов.

Одним из форматов более безопасного применения является автоматизация проверки медкарт после приема, что было реализовано в программе «ИИ-Панацея». Система анализирует обезличенные протоколы приемов на предмет несоответствий клиническим рекомендациям, оценивает критерии качества и отображает все результаты в интерфейсе врача-эксперта.

Такой «нулевой» уровень проверки позволяет приоритезировать внимание врача на самых рискованных случаях и упростить сам процесс ручной экспертизы. В результате клиника получает единый системный контроль качества с автоматизированными и выстроенными процессами при минимальных затратах ресурсов на проверки. Лечащие врачи будут уверены, что их медкарта в любом случае проверена умными алгоритмами, а не лишь в случайных 5% случаев ручной экспертизы, что также влияет на качество оказанной медицинской помощи.

При этом даже в режиме пост-контроля окончательное решение остается за пользователем программы, что позволяет сохранить принцип «помогаем, а не заменяем».

Модель извлекает жалобы, анамнез, диагноз, рекомендации, а затем переносит их в структурированную форму. Такой анализ позволяет работать с чистыми данными, не погружаясь в необработанный текст.
Также система с помощью LLM фиксирует, что было написано врачом в документе, не оценивая это как ошибку. Например, «указана ли дата начала заболевания», «есть ли информация об аллергии, провоцирующих факторах, проявлении», «какие лабораторные исследования назначил дал врач», «указаны ли дозировки в лекарственных назначениях» и так далее. 

Далее, для определения несоответствий и вероятных ошибок, «Панацея» сравнивает данные, внесенные врачом, с заложенными в систему правилами. К таким правилам относятся клинические рекомендации, амбулаторные стандарты, критерии качества, а также другие нормативные документы и правила заполнения протоколов, согласуемые с заказчиками.

Например, система определяет диагноз, находит соответствующую клиническую рекомендацию и сравнивает ее с назначениями врача. Так обнаруживаются расхождения, проблемы ведения, пропуски важных этапов диагностики или наблюдения.

Такой подход соответствует современным требованиям к качеству медицинской документации. Настройка моделей позволяет учитывать специфику конкретной клиники: например, объем анамнеза может быть разным, и система корректно подстраивается под стандарты организации.
Кроме того, подобная обработка помогает выявлять системные проблемы. Если в нескольких случаях встречаются схожие дефекты, клиника может оперативно поправить внутренние процессы — это усиливает роль экспертного контроля.

Особенность «Панацеи» — гибкая конфигурация. В одной клинике может быть требование подробно описывать весь анамнез болезни, а в другой — фиксировать только ключевые этапы. В одном отделении детально расписывают рекомендации по наблюдению, в другом — основные действия.

При этом участие программистов остается минимальным: обычно достаточно скорректировать табличные правила или стандарты. Также нет необходимости в дорогостоящем дообучении больших языковых моделей.