Opinie: Chatbot-urile devin medicii primari ai oamenilor – Impresionant, dar riscant

Trecem destul de repede de la Dr. Google la Dr. Chatbot. În august, OpenAI a raportat peste 200 de milioane de utilizatori activi săptămânal, și deși interogările cele mai populare ale utilizatorilor sunt legate de scris și codificare, unii le folosesc pentru probleme mai personale, de la sfaturi pentru întâlniri amoroase, la rutine de îngrijire a pielii și diagnosticarea bolilor.

Un studiu recent a dezvăluit că botii de chat AI au performanțe superioare medicilor în precizia diagnosticului. Dar, putem cu adevărat să ne încredem în IA ca în doctorii noștri?

La fel cum gama de subiecte despre care oamenii se informează s-a extins, preocupările legate de riscurile și pericolele de a se baza pe AI în domeniul medical au ridicat, de asemenea, alarme – inclusiv cele legate de probleme de viață sau de moarte.

Dr. Chatbot Devine Viral pentru „Miracolele” Sale

Cu câteva zile în urmă, o femeie a devenit virală pe Reddit deoarece a împărtășit cum ChatGPT a ajutat-o să-și îmbunătățească pielea mai bine decât un dermatolog, cu imagini impresionante înainte și după tratament.

O femeie caucaziană de 37 de ani a folosit ChatGPT pentru a crea o rutină personalizată de îngrijire a pielii pentru a-și trata comedoanele închise, iar acesta chiar a ajutat-o! pic.twitter.com/vwkm13G2Hs

— AshutoshShrivastava (@ai_for_success) 11 noiembrie 2024

„Apoi i-am dat chatGPT un prompt pentru a acționa ca un dermatolog profesionist și să mă ajute să creez o rutină pentru piele care să mă ajute să scap de comedoanele închise, acnee, să minimizeze porii și să strângă pielea, și să reducă liniile fine. I-am dat și fotografii cu pielea mea de atunci”, a scris ea și apoi a explicat că i-a spus chatbotului să ia în considerare toate produsele pe care le deținea deja și să sugereze altele noi cu o rutină de îngrijire a pielii.

După două luni, Redditorul a fost uimită de îmbunătățirile pe care le-a observat la pielea ei.

Nu este un caz izolat. Mulți utilizatori au dezvăluit cum chatbot-urile au putut să înțeleagă și să explice radiografiile și analizele de sânge mai bine decât propriii lor medici. Chiar și medicii au fost uimiți de analiza imaginilor și datelor interpretate de inteligența artificială.

De ce folosesc oamenii chatbot-urile ca pe medici?

IA se poate transforma în profesionistul de care ai nevoie – un medic generalist, un terapeut, un dermatolog, un nutriționist, un radiolog – atunci când ai nevoie, iar există multe motive pentru care oamenii aleg IA în locul oamenilor.

Specialiștii Pot Fi Costisitori

Femeia cu problema de piele a dezvăluit că a cheltuit aproximativ 400 de dolari pentru produsele sugerate de chatbot.

„A fost o investiție destul de mare, dar când mă gândesc la cât ar fi costat o consultație la un dermatolog, acest lucru nici măcar nu este rău”, a scris ea.

Conform BetterCare, în 2024, un pacient fără asigurare de sănătate în Statele Unite trebuie să plătească aproximativ $150 pentru o vizită la dermatolog și până la $1000 pentru tratament. Și costul mediu al unei ședințe de psihoterapie – o altă utilizare populară a instrumentelor AI – variază între $100 și $200 pe ședință, conform Forbes Health.

Chatbot-urile AI sunt alternative mai ieftine și pot fi văzute ca singura opțiune, în special pentru persoanele cu venituri mai mici.

Desigur, apare o altă întrebare: Dacă ceva merge prost, este cu adevărat o măsură de economisire a costurilor?

Mai Rapid și Mai La Îndemână

Recent am avut o erupție pe braț. Deși am văzut postarea acelei femei despre miracolul pielii sale, am preferat să consult un dermatolog în Spania. Cea mai apropiată programare disponibilă a fost peste trei luni, chiar și cu asigurare medicală privată. Sunt norocoasă că pare doar să fie uscăciune, că nu mă deranjează și că, sper, va dispărea până când medicul mă va putea vedea.

Termenele de îngrijire medicală depind de oraș și de planul de asigurare al pacientului. Cu toate acestea, vizitarea specialiștilor și chiar a medicilor primari a devenit o încercare de răbdare în multe părți ale lumii.

Chatbot-urile nu sunt doar literalmente la îndemâna noastră, dar pot analiza interogările noastre și pot răspunde în câteva secunde.

Mai puțin stânjenitor

Am o prietenă doctor la care pot apela oricând am o consultație medicală, dar faptul că ea este prietena mea o face uneori stânjenitoare. Înainte să îi trimit un mesaj, întotdeauna mă întreb: M-am interesat de ea recent? Este o persoană minunată și un profesionist remarcabil și sunt sigură că nu își va înceta niciodată să îmi răspundă la îngrijorările medicale. Dar, de la om la om, nu pot să nu îmi pese de sentimentele ei.

Unul dintre avantajele inteligenței artificiale este propria sa condiție artificială. Nu are sentimente sau o zi proastă, nu te va judeca sau îți va spune „Încetează să fii așa de ipohondru” (nu că prietenul meu mi-ar fi spus vreodată asta) deoarece acestea sunt instruite să fie politicoase și să răspundă tuturor preocupărilor noastre cu toate informațiile pe care le dorim. Face parte din ceea ce face tehnologia adictivă, și probabil de ce mulți preferă să pună întrebări inconfortabile în „intimitatea” smartphone-urilor lor.

Riscurile și pericolele de a ne baza pe chatbots

Totul sună cool și distractiv până când ne luăm timp să ne gândim la riscurile și provocările cu care se confruntă AI și umanitatea.

Prompt greșit, vrăji greșite

În acel studiu în care AI a depășit medicii, s-a ajuns la o concluzie importantă: grupul de medici cărora li s-a permis să folosească AI ca un aliat pentru diagnosticare nu s-au descurcat semnificativ mai bine decât cei cărora nu li s-a permis să o folosească. De ce? Ei bine, o parte a problemei a fost că nu știau cum să scrie instrucțiunile corecte pentru a obține maximum de la AI.

„O trataseră ca pe un motor de căutare pentru întrebări direcționate: ‘Este ciroza un factor de risc pentru cancer? Care sunt posibilele diagnostice pentru durerea de ochi?’,” a declarat Dr. Jonathan H. Chen, unul dintre autorii studiului, pentru New York Times.

Aceasta este una dintre problemele cu care se confruntă mulți utilizatori și, de asemenea, tehnologiile AI. Chatbot-urile sunt bune în diagnosticare, dar multe simptome trebuie analizate individual, într-un mod personalizat. Ce se întâmplă dacă o persoană nu reușește să furnizeze contextul corect chatbot-ului? Sau uită să includă detalii importante sau condiții pe care un adevărat medic în fața unui pacient nu le-ar omite?

Inexactități și Halucinații

Chatbot-urile sunt profesioniști care știu totul, și uneori spun lucruri greșite cu multă încredere. Și noi le credem. Și utilizatorii care se bazează zilnic pe această tehnologie încep să aibă tot mai multă încredere în ea.

Este greu să uităm acel moment—în mai—când Google Gemini a sugerat utilizatorilor să adauge „aproximativ ⅛ ceașcă de lipici non-toxic la sos pentru a-i conferi mai multă lipiciositate” unei pizza.

A fost amuzant pentru că am putut observa imediat halucinația—acel nume sofisticat pentru momentele în care AI oferă răspunsuri absurde. Dar ce se întâmplă dacă este vorba despre un subiect mai complex, dacă persoana care citește răspunsul AI este speriată, singură și îngrijorată de starea sa de sănătate?

Chiar dacă AI se îmbunătățește luna de luna, posibilitatea unei erori încă există.

Cui I se atribuie vina dacă ceva merge prost?

Dezbaterea etică este un subiect fierbinte în acest moment. Dacă chatbotul oferă un diagnostic eronat sau un sfat groaznic, cine este de vină? Dezvoltatorii, modelul, compania AI, sursele care au instruit acel model?

Un caz tragic a stârnit îngrijorări acum câteva săptămâni, după ce o mamă americană a dat vina pe IA pentru moartea fiului ei de 14 ani și a intentat un proces împotriva startup-ului Character.ai – o platformă pentru crearea de personaje AI. Adolescentul suferea de depresie și a devenit obsedat de tehnologie. Avatarul său, Daenerys Targaryen, a discutat cu el un plan de a se sinucide și chiar l-a încurajat să o facă.

Deși IA a fost considerată de Forumul Economic Mondial ca fiind un instrument puternic pentru a atenua crizele de sănătate mintală la nivel mondial și pentru a reduce procentul în creștere de cazuri de anxietate și depresie, aceasta poate fi, de asemenea, periculoasă, în special pentru copii.

Faceți-o „Pe Propria Răspundere”

Deși încă mai are nevoie de îmbunătățiri, îmi place să cred că AI are un mare potențial pentru a reduce timpul de așteptare în îngrijirea sănătății – atât pentru programările la specialiști cât și pentru îngrijirea de urgență – pentru a accelera progresul științific și pentru a susține medicii, în special pe cei copleșiți de sarcini de muncă excesive și salarii mici, așa cum se întâmplă adesea în țările din America Latină, asistând pacienții cu întrebări de bază de acasă.

Ar putea, de asemenea, să ajute la umplerea decalajelor în accesul la îngrijirea sănătății între diferitele clase sociale, deschizând calea pentru o democratizare a medicinei cum nu s-a mai văzut până acum. Toate acestea sunt acum la îndemâna noastră, doar la o întrebare distanță pentru oricine are acces la un smartphone.

Cu toate acestea, este esențial să înțelegem că încă ne aflăm în fazele incipiente și trebuie să protejăm populația cea mai vulnerabilă. Oricine alege să folosească Dr. Chatbot pentru a-și îmbunătăți sănătatea astăzi trebuie să o facă având în vedere detaliile din termenii și condițiile de utilizare, cu gândire critică și cu conștientizarea faptului că – pentru moment – își asumă responsabilitatea pentru riscurile implicate.