Недавнее исследование выявило серьезный риск в растущей тенденции использования искусственного интеллекта для получения медицинских рекомендаций: инструменты ИИ дают неверные советы по здоровью почти в 50% случаев, причем зачастую они делают это с абсолютной уверенностью.
Результаты исследования демонстрируют тревожную закономерность в работе больших языковых моделей (LLM). Из 250 протестированных медицинских вопросов чат-боты отказались отвечать лишь дважды. Вместо этого они выдавали непрерывные, напористые ответы, независимо от того, насколько они были точными.
Иллюзия уверенности
Главная опасность, отмеченная экспертами, заключается не только в неточности, но и в тоне, который использует ИИ.
«Чат-боты иногда ошибаются, но они никогда не сомневаются», — отмечает доктор Ли Швамм, заместитель декана по цифровой стратегии и трансформации в Йельской медицинской школе.
Эта «уверенная ошибка» создает ложное чувство безопасности. Поскольку ИИ не обладает способностью выражать сомнение или вводить необходимые медицинские оговорки, пользователи могут принять уверенно звучащую «галлюцинацию» за проверенный медицинский факт. Это вызывает особую обеспокоенность, поскольку многие пользователи не обращаются к квалифицированным медицинским специалистам после получения ответов от ИИ.
Почему пользователи обращаются к чат-ботам
Несмотря на риски, спрос на медицинскую информацию, полученную с помощью ИИ, стремительно растет. Этому способствуют несколько системных факторов:
- Доступность и скорость: В отличие от традиционных клиник, ИИ доступен 24/7. Он дает мгновенные ответы в 3 часа ночи, позволяя избежать долгого ожидания и сложностей с записью на прием.
- Приватность и комфорт: Рассказывая о деликатных или смущающих симптомах, пользователи могут чувствовать себя комфортнее, сообщая подробности беспристрастной машине, чем живому врачу.
- Персонализация: В то время как медицинские сайты предлагают общую информацию, ИИ может адаптировать объяснения под конкретные формулировки пользователя, делая сложные темы более понятными.
- Системные барьеры: Огромную роль играют экономические факторы. Данные показывают, что молодежь и люди с низким уровнем дохода часто обращаются к ИИ, потому что профессиональная медицинская помощь либо им не по карману, либо труднодоступна.
- Кризис доверия: Общий спад доверия к научным и медицинским институтам заставляет некоторых людей искать альтернативные источники «истины».
Ограничения современных технологий
Важно отметить, что данное исследование фокусировалось на разовых запросах, а не на полноценном диалоге, который характерен для реального использования. Хотя ожидается, что новые платные версии ИИ будут точнее протестированных бесплатных моделей, эксперты предупреждают: они все равно недостаточно надежны, чтобы служить основным медицинским ресурсом.
Более того, ИИ не способен проводить дифференциальную диагностику — систематический процесс, который врачи используют для исключения различных заболеваний с помощью уточняющих вопросов и физикального осмотра.
Как безопасно использовать ИИ в вопросах здоровья
Медицинские работники советуют рассматривать ИИ как вспомогательный образовательный инструмент, а не как замену диагностике. Чтобы использовать эти инструменты ответственно, придерживайтесь следующих рекомендаций:
🟢 Рекомендуемые способы использования
- Разъяснение терминологии: Используйте ИИ, чтобы помочь перевести сложные медицинские термины или результаты анализов на более простой язык.
- Подготовка к приему: Используйте чат-бот, чтобы составить список вопросов к врачу или более четко сформулировать свои симптомы перед визитом.
- Общее образование: Используйте его, чтобы понять общие принципы работы определенных заболеваний.
🔴 Критические предупреждения
- Никогда не занимайтесь самолечением: Не принимайте никаких решений о лечении — особенно в отношении лекарственных препаратов — без подтверждения специалистом.
- Никаких изменений в приеме лекарств: Никогда не начинайте, не прекращайте и не изменяйте схему приема рецептурных препаратов на основании предложений ИИ.
- Проверяйте критически важную информацию: Если вопрос касается вашей безопасности и требует абсолютной точности, не полагайтесь на чат-бот.
Заключение: Хотя ИИ предлагает беспрецедентное удобство и персонализированный подход к изучению тем здоровья, его склонность преподносить ошибки с высокой степенью уверенности делает его опасной заменой профессиональному медицинскому суждению. Его лучше использовать как инструмент для подготовки и обучения, а не как источник окончательной медицинской истины.
