Нейросети хорошо объясняют медицинские термины, но им нельзя доверять расшифровку анализов. На то есть три причины: галлюцинации ИИ, искажение оценки и риски для конфиденциальности персональных медицинских данных, рассказал «Газете.Ru» рассказал гендиректор IT-компании «Легалтэк» Борис Лопатухин.
По его словам, нейросеть хорошо переводит медицинский язык на человеческий и снижает панику. Однако анализы индивидуальны: один и тот же показатель значит разное в зависимости от возраста, пола, болезней, лекарств и даже еды накануне.
Специалист описал ключевые проблемы, с которыми может столкнуться пользователь при обращении к ИИ-диагносту.
Первый — галлюцинации: нейросеть ссылается на несуществующее исследование, называет неверный референс или придумывает связь между показателями. «Ошибочный ответ звучит так же убедительно, как правильный, и без медицинского образования отличить одно от другого почти невозможно», — говорит Лопатухин.
Второй — модель может преувеличить проблему или преуменьшить ее. Первое ведет к лишней тревоге, второе опаснее: человек решит, что все в порядке, и отложит визит к врачу.
Третий — конфиденциальность. Результаты анализов — особо чувствительные данные. Перед загрузкой стоит убрать фамилию, дату рождения и номер полиса.
Советоваться с нейросетью нельзя при резких отклонениях показателей, сочетании плохих анализов с выраженными симптомами (боль, температура, слабость, одышка, кровотечение), анализах ребенка или беременной, а также при любых онкомаркерах — их интерпретация зависит от множества факторов.
«Большая языковая модель (ИИ) не анализирует кровь и не видит пациента. Она подбирает вероятное продолжение текста на основе данных, на которых обучалась. Общие закономерности модель воспроизводит неплохо: низкий ферритин часто связан с дефицитом железа, высокий ТТГ — со сниженной функцией щитовидной железы. Это знания из учебников, и с ними ИИ обычно не ошибается», — говорит эксперт.
Указывайте референсные значения лаборатории и контекст: возраст, пол, болезни, лекарства, беременность, условия сдачи. Просите не диагноз, а объяснение: какие причины возможны, какие вопросы задать врачу, какие анализы обычно назначают, рекомендует специалист.
Ранее в России представили ИИ для врачей, который должен сократить объем бумажной работы на 40%.