Опасность самодиагностики через чат-бота состоит в том, что языковые модели (типа BERT, GPT, T5) могут ссылаться на несуществующие исследования, путать дозировки и советовать сочетать несовместимые препараты, а неподготовленный человек не отличит правду от гладко сформулированной выдумки. Об этом «Газете.Ru» рассказал генеральный директор «Легалтэк» Борис Лопатухин.
По его словам, последствия самодиагностики через чат-бота могут быть непоправимыми для здоровья.
«Врач замечает желтоватый оттенок кожи, пожелтевшие склеры глаз, одышку, хрипы в легких, тревожный взгляд — все это возможно заметить только при доступе к пациенту и после многих лет обучения. Нейросеть же работает с тем, что ей написали, и в медицинских вопросах, как правило, избегает уточняющих вопросов: если пациент не упомянул ключевой симптом, модель о нем просто не узнает», — объяснил эксперт.
По словам Лопатухина, интерес к «цифровым докторам» растет кратными темпами благодаря мгновенному отклику и все более точным ответам. Однако хороший терапевт ценен тем, что из большого количества фактов и выводов может определить 3–5 самых значимых и собрать картину на базе скрытых от моделей деталей и своего опыта.
«Пациенту нужен человек, который посмотрит ему в глаза, проведет осмотр, примет решение и будет нести прямую ответственность за назначение и вектор лечения. Юридически, этически и просто по-человечески мы не имеем права передать эту роль алгоритмам, но вместе с тем не можем закрывать глаза на неоспоримые плюсы передовых технологий — нам следует внедрять их в повседневную жизнь ответственно, взвешивая пользу в каждом конкретном случае», — объяснил Лопатухин.
При этом специалист отмечает: отмахиваться от технологий нельзя — ИИ уже давно работает в медицине, помогая находить аномалии в результатах диагностики и предлагая вероятные диагнозы. Алгоритмы помогают рентгенологам находить подозрительные очаги на снимках легких и маммограммах.
«Если не ставить перед нейросетью невыполнимых задач, она может оказаться очень полезной. Например, разгрузить терапевта: взять на себя заполнение документов, которое отнимает у участкового доктора огромную часть времени приема. Если рутину возьмет на себя машина, у терапевта наконец появится время на то, ради чего человек вообще пришел, — внимание к пациенту, его жалобам и выработке эффективного способа лечения», — резюмировал эксперт.
Ранее эксперт рассказал, может ли искусственный интеллект в медицине поставить ложный диагноз.