В своей практике американские врачи столкнулись со случаем, который ярко демонстрирует возможные последствия обращения к ChatGPT для получения медицинских советов.
Ученые неоднократно предупреждали, в связи с риском возникновения ошибок и неточностей, полагаться на советы ChatGPT или других ИИ-систем в вопросах здоровья может быть небезопасно. Однако, подобные запросы являются одними из самых распространенных. Согласно результатам опроса, в США приблизительно каждый шестой взрослый обращается к нейросетям по этому вопросу не реже раза в месяц обращается к генеративным чат-ботам для поиска медицинской информации и консультаций. Среди людей до 30 лет таких оказалось около четверти.
В издании Annals of Internal Medicine: Клинические случаи появился отчет о клиническом случае, иллюстрирующем, чем могут обернуться подобные обсуждения с нейросетями.
60-летний житель США обратился в отделение скорой помощи клиники с жалобой на попытку отравления со стороны соседа. Мужчину мучила сильная жажда, однако он с большой осторожностью отнесся к предложенной ему воде. Он сообщил, что дома употребляет исключительно дистиллированную воду и придерживается строгого вегетарианства. Пациент изначально не упомянул о приеме каких-либо лекарств или добавок.
Начальное лабораторное исследование показало гиперхлоремию, характеризующуюся повышенным уровнем хлоридов в сыворотке крови (126 ммоль/л при норме 98-108 ммоль/л). Среди возможных причин обезвоживание. Кроме того, у него был зафиксирован пониженный уровень фосфатов и другие отклонения от нормы. В связи с этим пациента госпитализировали для наблюдения, регидратации и контроля электролитного баланса.
На основании проведенных исследований и консультаций с токсикологами, избыток хлоридов, скорее всего, вызван бромизмом — хроническим отравлением бромом, возникающим при длительном употреблении солей брома. В дальнейшем у мужчины была диагностирована множественная недостаточность микроэлементов, включая витамины C, B12 и фолиевую кислоту.
У пациента в первые сутки появились признаки прогрессирующей паранойи, сопровождающиеся слуховыми и зрительными галлюцинациями. После попытки побега он был помещен на принудительное психиатрическое лечение и ему был назначен препарат от психоза, а позднее перевели в психиатрический стационар.
После введения жидкостей и восполнения электролитного баланса состояние пациента стабилизировалось, и он смог более подробно рассказать о произошедших событиях, предшествовавших госпитализации. Выяснилось, что ранее у него отмечались и другие признаки: высыпания на лице, гемангиомы, повышенная утомляемость, бессонница и незначительные проблемы с координацией. Эти симптомы соответствовали предполагаемому отравлению бромом. Кроме того, мужчина сообщил, что примерно три месяца назад решил провести на себе эксперимент. Начитавшись о негативном влиянии хлорида натрия (NaCl), то есть поваренной соли, на здоровье, он исключил ее из рациона и начал употреблять бромид натрия (NaBr).
Пациент утверждает, что его побудили к этому, по его словам, знания в области диетологии, полученные во время учебы в колледже, и совет, полученный от ChatGPT, о замене хлорида натрия. Мужчина приобрел в интернете рекомендованное вещество – белый кристаллический порошок без запаха, также имеющий соленый вкус. Неудивительно, что после подобных экспериментов уровень бромидов в его крови значительно превысил норму, достигнув 1700 миллиграммов на литр при диапазоне нормальных значений от 0,9 до 7,3 миллиграмма на литр.
Врачи, задокументировавшие случай, не располагали информацией о предыдущих запросах, которые «биохакер» адресовал ChatGPT, поэтому точный вопрос, заданный нейросети, и полученный им ответ остаются неизвестными.
Медики полагают, что пациент использовал ChatGPT версии 3.5 или 4.0, но не уточнил, зачем ему понадобилась замена. Соли брома могут служить альтернативой хлорида натрия, однако не в организме, а в бытовой химии, например, в чистящих средствах и составах для бассейнов. Врачи сами попробовали спросить нейросеть о том же, и среди ответов действительно увидели упоминание бромида. Хотя чат-бот предупредил о необходимости более широкого контекста, он не сообщил о потенциальном вреде для здоровья и не уточнил у пользователей, для чего нужна информация, как, вероятно, на его месте поступил бы медик.
Пациента находились в стационаре в течение трех недель. После того, как его физическое и психическое состояние стабилизировалось, его выписали, сначала уменьшив дозу антипсихотических препаратов, а затем полностью отменив их. При последующем контрольном осмотре через две недели состояние пациента оставалось стабильным.