Каждый второй совет по здоровью от Chat GPT вреден: люди уже начали попадать в больницы

Почти половина ответов ИИ — вредны

Международная группа учёных опубликовала статью в журнале BMJ Open с результатами оценки советов по медицине, которые дают популярные ИИ. Учёные проанализировали популярные чат-боты, среди которых ChatGPT, Grok, Gemini, DeepSeek и другие. Каждому боту задали 10 открытых вопросов на 5 разных тем про здоровье и медицину, а затем оценили ответы по шкале: «не вызывает вопросов», «сомнительный», «крайне сомнительный».

Почти половина (49,6%) ответов были проблематичными: 30% сомнительные до некоторой степени и 19,6% крайне сомнительные. Качество ответов среди чат-ботов существенно не различалось, но Grok генерировал значительно больше проблематичных ответов, чем можно было бы ожидать при случайном распределении.

Каждый ИИ, участвовавший в анализе, отвечал очень уверенно: из 250 вопросов, заданных учёными, чат-боты не ответили только на 2. В статье специалисты серьёзно озадачены: даже проверенные ИИ выдают очень слабые результаты в такой уязвимой области, как здоровье, распространяют ложную информацию, и нужно заниматься просвещением людей и усилять контроль за ответами, которые дают чат-боты.

«Чеснок для иммунитета» и отравление бромидом натрия

В одном из исследований, который провели в медицинском центре Mount Sinai в США (результаты опубликованы в авторитетном медицинском журнале The Lancet) чат-боты соглашались даже с такими советами, как «вставлять чеснок ректально для укрепления иммунитета», если это было сформулировано как клиническая рекомендация. 

Мы уже писали совместно с иммунологом Беллой Брагвадзе о том, как работает иммунитет и почему его невозможно «укрепить» таблетками или чесноком.

Уже зафиксированы случаи, когда люди вредили себе, следуя советам нейросетей. Например, мужчина отравился и оказался в больнице после того, как по рекомендации ChatGPT принял бромид натрия вместо обычной соли хлорида натрия. Бромид натрия уже практически не используется в терапии, потому что сильно влияет на центральную нервную систему и угнетает её. Также люди склонны затягивать визит к врачу, если не обнаружили в ответе чат-бота опасных симптомов или у них пока ничего не болит. В итоге они не получают медицинскую помощь вовремя.

Учёные выяснили, что проблема в том, как обучены нейросети: они лишь оценивают, насколько авторитетно текст выглядит, а не то, насколько он точный с медицинской и фактологической точки зрения. В результате примерно в трети случаев ИИ не распознаёт, где правда, а где вредительство или откровенное враньё.

Почему люди доверяют ИИ больше, чем врачам

Люди склонны доверять медицинским советам искусственного интеллекта больше, чем рекомендациям врачей — даже если такие советы неточны или потенциально опасны. К такому выводу пришли исследователи из Массачусетского технологического института, опубликовавшие результаты в научном журнале The New England Journal of Medicine.

В эксперименте приняли участие около 300 человек — как с медицинским образованием, так и без него. Им предложили оценить ответы на медицинские вопросы, подготовленные врачами, онлайн-платформами и ИИ-чатботами. В итоге именно ответы ИИ участники чаще считали более точными, убедительными и полными.

Особенно тревожно, что люди не смогли отличить ответы искусственного интеллекта от рекомендаций врачей. Даже когда ИИ давал заведомо неточные советы, участники всё равно оценивали их как заслуживающие доверия и были готовы им следовать.

Учёные подчёркивают, что проблема в том, что ответы ИИ могут выглядеть убедительно, но не всегда основаны на проверенных научных данных. По некоторым оценкам, до четверти медицинских рекомендаций, выдаваемых такими системами, могут быть частично или полностью вымышленными.

Ещё одна причина, почему люди всё чаще обращаются к чат-ботам — ответ можно получить мгновенно и бесплатно, в то время как к врачу не всегда можно попасть день в день и за срочный приём нужно заплатить. По данным аналитического центра Gallup, около 14% людей обращаются к ИИ, потому что не могут оплатить врача, и еще 16% людей делают так, потому что вообще не имеют доступа к медицине. Также выходили исследования о том, что искусственный интеллект общается с пользователем более доброжелательно и склонен во всём с ним соглашаться, и людям это нравится.

Как пользоваться ИИ, если вы — родители

Родители тоже пользуются ИИ в вопросах детского здоровья. Американский журнал педиатрии публиковал исследование, что часто американские родители используют ChatGPT вместо телемедицины и считают его советы более надёжными, чем ответы врача, а исследование университета Кейптауна в Южной Африке показало, что родители чаще пользуются нейросетями для самоуспокоения, а в сложных случаях всё же идут к врачу.

Но важно понимать, что чатботы и нейросети не могут заменить полноценную консультацию врача, а каждую рекомендацию, которую они дают, необходимо перепроверить в авторитетных источниках.

Советы ИИ стоит воспринимать не больше, чем результаты обычного поиска в интернете — они точно так же требуют проверки данных (фактчека), а обычным пользователям практически невозможно отличить ошибочные советы от правильных.

После того, как вы что-то нашли или узнали с помощью ИИ, перепроверьте информацию на приёме и расспросите врача, даже если вам кажется, что информация выглядит правдоподобно.