Американско медицинско списание ги предупреди читателите да не го користат Чет ГПТ (ChatGPT) за здравствени информации откако еден човек развил ретка состојба по комуникацијата со чатбот за елиминирање на кујнската сол од неговата исхрана, објавува Гардијан.
Во статијата во списанието „Анали на интерна медицина“ се известува за случај во кој 60-годишен маж развил бромизам, познат и како труење со бром, откако се консултирал со ChatGPT. Статијата го опишала бромизмот како чест синдром од почетокот на 20 век за кој се смета дека придонел за речиси еден од десет психијатриски приеми во тоа време.
Пациентот им кажал на лекарите дека откако прочитал за негативните ефекти на натриум хлоридот, или кујнска сол, се консултирал со ChatGPT за елиминирање на хлоридот од неговата исхрана и почнал да зема натриум бромид во период од три месеци.
Ова и покрај тоа што прочитал дека „хлоридот може да се замени со бромид, иако веројатно за други цели, како што е чистење“. Натриум бромидот се користел како седатив на почетокот на 20 век.
Авторите на статијата, од Универзитетот во Вашингтон во Сиетл, рекоа дека случајот истакнува „како употребата на вештачка интелигенција може потенцијално да придонесе за развој на негативни здравствени последици“. Тие додадоа дека, бидејќи не можеле да пристапат до разговорот на пациентот со ChatGPT, не било можно да се утврди точниот совет што го добил човекот.
Меѓутоа, кога самите автори се консултирале со ChatGPT за тоа што би можело да го замени хлоридот, одговорот вклучувал и бромид, без да се даде конкретно предупредување за здравјето или да праша зошто авторите бараат такви информации. „Претпоставуваме дека лекар би го направил ова“, напишаа тие.
Авторите предупредија дека ChatGPT и другите апликации за вештачка интелигенција можат „да генерираат научно неточни информации и немаат можност критички да ги дискутираат резултатите, што на крајот го поттикнува ширењето на дезинформации“. OpenAI, развивачот на ChatGPT, беше контактиран за коментар. Компанијата објави надградба на четботот минатата недела и тврди дека една од нејзините најголеми предности е во областа на здравството.
Тие рекоа дека ChatGPT, сега управуван од моделот GPT-5, ќе биде подобар во одговарањето на прашања поврзани со здравјето и попроактивен во „пријавувањето на потенцијални проблеми“, како што се сериозни физички или ментални болести. Сепак, тие нагласија дека четботот не е замена за стручна помош. Во статија објавена минатата недела пред да се лансира моделот GPT-5, се вели дека пациентот веројатно користел претходна верзија на ChatGPT.
Иако се признава дека вештачката интелигенција може да биде мост помеѓу научниците и јавноста, статијата забележува дека технологијата носи и ризик од обезбедување информации надвор од контекст и дека е многу малку веројатно медицински професионалец да предложи натриум бромид кога пациентот ќе побара замена за кујнска сол.
Како резултат на тоа, авторите рекоа дека лекарите ќе треба да ја земат предвид употребата на вештачка интелигенција при проверка од каде пациентите ги добиваат своите информации. Авторите рекоа дека пациент со бромизам се појавил во болницата тврдејќи дека неговиот сосед можеби го труе. Тој исто така рече дека имал повеќекратни ограничувања во исхраната. И покрај тоа што бил жеден, бил параноичен и во врска со водата што му била понудена во болницата.
Тој се обидел да избега од болницата во рок од 24 часа од приемот и, откако бил насилно приведен, бил лекуван од психоза. Откако пациентот се стабилизирал, тој пријавил дека има неколку други симптоми кои укажуваат на бромизам, како што се акни на лицето, прекумерна жед и несоница.
