66 млн американцев уже спрашивают ИИ о здоровье
Проблема тут не только в галлюцинациях, хотя они и так вездесущи. Модели слишком быстро хватаются за один ответ, вместо того чтобы держать в голове несколько диагнозов, а именно так и работает нормальная клиническая логика. Человек в белом халате не обязан быть всемогущим, но у него хотя бы есть привычка сомневаться. У чат-бота она часто отсутствует.
Что показало исследование JAMA Network Open
Исследователи дали моделям реалистичные симптомы, которые мог бы описать обычный пациент, и посмотрели, как те будут «играть в врача». На задачах с расплывчатыми признаками ИИ спотыкался чаще 80% времени. Даже когда к описанию добавляли данные осмотра и результаты анализов, ошибки оставались примерно в 40% случаев.
Это неприятно еще и потому, что рынок давно продает ИИ как дешевого медицинского советчика на каждый день. В реальности он пока больше похож на уверенного собеседника, чем на помощника, которому можно доверить разбор сыпи, внезапного кашля или чего-то еще, где промах стоит не денег, а здоровья.
Почему американцы идут к чат-ботам вместо врача
Опрос West Health-Gallup Center on Healthcare in America показывает скучную, но важную причину: медицина в США для многих слишком дорогая, неудобная или просто недоступная по времени. 27% респондентов сказали, что не хотели платить за визит к врачу, 14% прямо не могли себе его позволить, а часть людей просто не находила времени или возможности дойти до клиники.
И вот здесь у ИИ возникает его мрачная ниша. 14% тех, кто спрашивал его о здоровье, сказали, что не обратились бы к врачу даже в противном случае. Это уже не игра в поиск информации, а подмена системы, которая и без того работает на износе. Бот не лечит, но успокаивает. Иногда этого достаточно, чтобы человек ничего больше не сделал.
Почему опасна уверенность без точности
Самое коварное здесь не то, что ИИ ошибается. Куда хуже, что он часто звучит убедительно даже тогда, когда несет ерунду. Почти половина опрошенных сказала, что разговор с чат-ботом помог им чувствовать себя увереннее при общении с врачом, 22% отметили, что так им якобы проще было заметить проблему раньше, а 19% увидели в этом способ избежать лишних обследований.
При этом треть пользователей, обращавшихся к ИИ за медицинской помощью, ему не доверяют, а 10% получили потенциально небезопасный совет. В этой комбинации и кроется вся нынешняя магия отрасли: модель может быть одновременно и полезной шпаргалкой, и опасным источником ложной уверенности. Для здравоохранения это не футуризм, а вполне приземленный риск, который уже расползается по стране.
Регуляторы в такой ситуации обычно просыпаются последними, но давление на них уже накапливается. Чем больше людей используют чат-боты вместо первичного контакта с врачом, тем меньше у отрасли остается права делать вид, что это просто «удобный интерфейс» и не проблема общественного здоровья.
