Исследование показало, что медицинским советам ИИ-чат-ботов нельзя доверять без проверки у специалиста. Почти каждый второй ответ популярных нейросетей оказался неточным, неполным или потенциально вредным.
Эксперимент провели в феврале 2025 года. Ученые протестировали Gemini, DeepSeek, ChatGPT и Grok. Моделям задавали вопросы о раке, вакцинации, стволовых клетках, питании и спортивных добавках. Формулировки специально подбирали так, чтобы проверить реакцию ИИ на распространенные мифы и рискованные рекомендации.
По итогам проверки 30% ответов отнесли к умеренно проблемным, еще 20% – к крайне опасным. Больше всего ошибок оказалось в темах питания, спортивных добавок и лечения стволовыми клетками. С вопросами о вакцинации и онкологии чат-боты справлялись заметно лучше, но и там ответы не всегда были достаточно точными.
Исследователи также обратили внимание на уверенный тон нейросетей. Даже спорные или ошибочные советы часто звучали как готовая инструкция к действию. При этом чат-боты не всегда напоминали, что решение о лечении, препаратах, добавках и обследованиях нужно принимать вместе с врачом.
Еще одна проблема – вымышленные источники. В ряде случаев ИИ ссылался на научные публикации, которых не существует. Средняя полнота ссылок составила около 40%, а язык ответов нередко был слишком сложным для широкой аудитории.
Вывод авторов исследования простой: нейросети могут помочь разобраться в общих вопросах, но не подходят для самостоятельной диагностики и выбора лечения. Когда речь идет о здоровье, необходимо обсудить симптомы, анализы и рекомендации с врачом.
Эксперимент провели в феврале 2025 года. Ученые протестировали Gemini, DeepSeek, ChatGPT и Grok. Моделям задавали вопросы о раке, вакцинации, стволовых клетках, питании и спортивных добавках. Формулировки специально подбирали так, чтобы проверить реакцию ИИ на распространенные мифы и рискованные рекомендации.
По итогам проверки 30% ответов отнесли к умеренно проблемным, еще 20% – к крайне опасным. Больше всего ошибок оказалось в темах питания, спортивных добавок и лечения стволовыми клетками. С вопросами о вакцинации и онкологии чат-боты справлялись заметно лучше, но и там ответы не всегда были достаточно точными.
Исследователи также обратили внимание на уверенный тон нейросетей. Даже спорные или ошибочные советы часто звучали как готовая инструкция к действию. При этом чат-боты не всегда напоминали, что решение о лечении, препаратах, добавках и обследованиях нужно принимать вместе с врачом.
Еще одна проблема – вымышленные источники. В ряде случаев ИИ ссылался на научные публикации, которых не существует. Средняя полнота ссылок составила около 40%, а язык ответов нередко был слишком сложным для широкой аудитории.
Вывод авторов исследования простой: нейросети могут помочь разобраться в общих вопросах, но не подходят для самостоятельной диагностики и выбора лечения. Когда речь идет о здоровье, необходимо обсудить симптомы, анализы и рекомендации с врачом.
