Ce trebuie să știi înainte de a cere sfaturi de sănătate unui chatbot AI

Cu sute de milioane de persoane care se îndreaptă către chatboți pentru sfaturi, era doar o chestiune de timp până când companiile tehnologice au început să ofere programe destinate în mod special răspunsului la întrebări legate de sănătate. Potrivit cnn.com, în ianuarie, OpenAI a introdus ChatGPT Health, o nouă versiune a chatbot-ului său care poate analiza dosarele medicale, aplicațiile de wellness și datele de la dispozitivele purtabile pentru a răspunde la întrebările legate de sănătate și medicină.

👉 Programe de AI pentru sănătate și limitările acestora

În prezent, există o listă de așteptare pentru program. Anthropic, o companie rivală de inteligență artificială, oferă caracteristici similare pentru unii utilizatori ai chatbot-ului său Claude. Ambele companii afirmă că programele lor, cunoscute sub numele de modele lingvistice mari, nu sunt un substitut pentru îngrijirea profesionistă și nu ar trebui utilizate pentru diagnosticarea afecțiunilor medicale.

Chatboții pot oferi informații mai personalizate decât o căutare pe Google. Unii medici și cercetători care au colaborat cu ChatGPT Health și programe similare îi consideră o îmbunătățire față de situația existentă. Platformele AI nu sunt perfecte — pot uneori "halucina" sau oferi sfaturi eronate — dar informațiile pe care le generează sunt mai susceptibile de a fi personalizate și specifice decât ceea ce pacienții ar putea găsi printr-o căutare pe Google.

👉 Riscuri legate de folosirea AI în evaluarea simptomelor

„Alternativa este adesea nimic, sau pacientul își dă seama singur”, a spus Dr. Robert Wachter, expert în tehnologie medicală la Universitatea din California, San Francisco. „Așa că cred că, dacă folosești aceste instrumente responsabil, poți obține informații utile.” Un avantaj al celor mai noi chatboți este că răspund întrebărilor utilizatorilor cu context din istoricul lor medical, inclusiv rețete, vârstă și notițe ale medicului. Chiar și în cazul în care nu le-ai oferit AI acces la informațiile tale medicale, Wachter și alții recomandă să oferi chatboților cât mai multe detalii posibil pentru a îmbunătăți răspunsurile.

Dacă ai simptome îngrijorătoare, este recomandat să eviți AI-ul. Wachter și alți specialiști subliniază că există situații în care oamenii ar trebui să sară peste chatbot și să caute atenție medicală imediată. Simptomele precum dificultăți de respirație, dureri în piept sau o durere de cap severă ar putea semnala o urgență medicală. Chiar și în situații mai puțin urgente, pacienții și medicii ar trebui să abordeze programele AI cu „o doză de scepticism sănătos”, a spus Dr. Lloyd Minor de la Universitatea Stanford.

„Dacă discuți despre o decizie medicală majoră, sau chiar o decizie mai mică legată de sănătatea ta, nu ar trebui niciodată să te bazezi doar pe ceea ce obții dintr-un model lingvistic mare”, a spus Minor, care este decanul școlii medicale de la Stanford.

👉 Confidențialitatea și limitele legale ale datelor medicale în AI

Multele beneficii oferite de boturile de AI provin din faptul că utilizatorii partajează informații personale medicale. Dar este important să înțelegi că orice partajat cu o companie AI nu este protejat de legea federală privind confidențialitatea care guvernează de obicei informațiile medicale sensibile. Cunoscută sub numele de HIPAA (Legea privind portabilitatea și responsabilitatea asigurărilor de sănătate), legea permite amenzi și chiar închisoare pentru medici, spitale, asigurători sau alte servicii de sănătate care dezvăluie dosare medicale. Dar această lege nu se aplică companiilor care proiectează chatboți.

„Când cineva își încarcă dosarul medical într-un model lingvistic mare, asta este foarte diferit de a-l preda unui nou medic”, a spus Minor. „Consumatorii trebuie să înțeleagă că standardele de confidențialitate sunt complet diferite.” Atât OpenAI, cât și Anthropic afirmă că informațiile medicale ale utilizatorilor sunt păstrate separate de alte tipuri de date și sunt supuse unor protecții suplimentare de confidențialitate. Companiile nu folosesc datele de sănătate pentru a-și antrena modelele. Utilizatorii trebuie să opteze pentru a-și partaja informațiile și pot deconecta în orice moment.

Teste recente sugerează că chatboții pot întâmpina dificultăți. Deși există entuziasm în jurul AI-ului, testarea independentă a tehnologiei este la început. Studiile timpurii sugerează că programele precum ChatGPT pot trece examene medicale de nivel înalt, dar adesea se împiedică în interacțiunile cu oamenii. Un studiu recent cu 1.300 de participanți realizat de Universitatea Oxford a constatat că persoanele care foloseau chatboți AI pentru a cerceta condiții de sănătate ipotetice nu au luat decizii mai bune decât cei care utilizau căutări online sau judecată personală.

Chatboții AI care au primit scenarii medicale într-o formă scrisă, cuprinzătoare, au identificat corect condiția de bază de 95% din timp. „Aceasta nu a fost problema”, a spus autorul principal Adam Mahdi de la Oxford Internet Institute. „Locul unde lucrurile au căzut a fost în interacțiunea cu participanții reali.” Mahdi și echipa sa au găsit mai multe probleme de comunicare. Oamenii nu ofereau adesea chatboților informațiile necesare pentru a identifica corect problema de sănătate. Pe de altă parte, sistemele AI răspundeau adesea cu o combinație de informații bune și proaste, iar utilizatorii aveau dificultăți în a le distinge între cele două.

A avea posibilitatea ca chatboții să pună întrebări suplimentare și să obțină detalii cheie de la utilizatori este un domeniu în care Wachter vede loc de îmbunătățire. „Cred că asta va deveni cu adevărat bun, când instrumentele devin puțin mai asemănătoare cu medicii în felul în care interacționează cu pacienții”, a spus Wachter. Pentru moment, un mod de a te simți mai încrezător în informațiile pe care le primești este să consulți mai mulți chatboți — similar cu obținerea unei a doua păreri de la un alt medic. „Uneori voi introduce informații în ChatGPT și informații în Gemini”, a spus Wachter, referindu-se la instrumentul AI de la Google. „Și când ambele sunt de acord, mă simt un pic mai încrezător că acesta este răspunsul corect.”