Opinie: Este ChatGPT prietenul tău? Ar putea fi un moment bun să stabilești limite

OpenAI și MIT au publicat recent un studiu despre impactul lui ChatGPT asupra bunăstării oamenilor. Deși majoritatea utilizatorilor se bazează pe această tehnologie pentru sarcini practice, studiul dezvăluie că un mic grup a dezvoltat legături emoționale profunde cu modelul AI, care pot afecta bunăstarea lor

De ceva vreme, am urmărit cu curiozitate relațiile pe care unii oameni le dezvoltă cu inteligența artificială generativă. Cu câteva luni în urmă, am citit în The New York Times povestea unei femei de 28 de ani, căsătorite, care s-a îndrăgostit de ChatGPT, și cum ceea ce a început ca „un experiment distractiv” s-a transformat într-o relație complexă și neașteptată.

M-am tot uitat la prietenii mei, în special la cei care au respins odată tehnologia sau nu erau interesați de ea, care nu pot lua o decizie importantă fără a-și consulta oracolul AI. De asemenea, m-am surprins pe mine însămi fiind uimită de răspunsurile empatice pe care le dau modelele AI la întrebările încărcate emoțional sau psihologic.

Și, desigur, m-am amuzat de glume, meme-uri și videoclipuri TikTok ale oamenilor care publică pe rețelele sociale cum au devenit dependenți de chatbot, unii chiar numindu-l „cel mai bun prieten” sau „terapeut” – și chiar recomandând în mod serios altora să facă la fel.

Dar, dacă lăsăm deoparte pentru o clipă experiențele amuzante și glumele, am putea realiza că ne confruntăm cu un fenomen îngrijorător la nivel global.

Luna aceasta, pentru prima dată în scurta istorie a inteligenței artificiale, OpenAI și MIT Media Lab au publicat un studiu care oferă perspective asupra impactului actual al ChatGPT asupra stării emoționale a oamenilor, precum și sugestii privind riscurile cu care ne-am putea confrunta ca societate: solitudine, dependență emoțională și mai puține interacțiuni sociale cu oameni reali.

O Relație Care Evoluează

Prima abordare a noilor tehnologii de inteligență artificială generativă începe adesea cu câteva întrebări timide, poate tehnice despre sarcini practice, cum ar fi redactarea unui e-mail sau solicitări de explicare a unor subiecte complexe, sau doar pentru brainstorming.

Cu toate acestea, odată ce un utilizator începe să testeze capacitățile chatbot-ului, descoperă că acestea pot fi mai ample și mai complexe decât se aștepta.

În timp ce anumite produse AI precum Friend—un dispozitiv AI purtabil—au fost proiectate și promovate foarte stângaci ca fiind companionul de viață al utilizatorului, ChatGPT a fost promovat ca un instrument de productivitate. Cu toate acestea, un procent de oameni folosesc chatbot-ul pentru probleme personale și emoționale și dezvoltă legături puternice cu acesta.

Chiar dacă sunt doar un „grup mic”, așa cum a clarificat OpenAI, ei ar putea reprezenta totuși milioane de oameni din întreaga lume, mai ales având în vedere că acum peste 400 de milioane de persoane folosesc ChatGPT săptămânal. Acești utilizatori observă rapid că chatbot-ul OpenAI imită limbajul, tonul și stilul lor și poate fi chiar instruit să interacționeze într-un anumit mod sau să folosească alinturi – așa cum a făcut acea doamnă care s-a îndrăgostit de el – și chiar să „sune” mai uman.

„Stilul lor conversațional, limbajul la persoana întâi și capacitatea de a simula interacțiuni asemănătoare cu cele umane au determinat utilizatorii să personifice și să antropomorfizeze uneori aceste sisteme„, afirmă documentul împărtășit de OpenAI.

Dar această apropiere vine cu riscuri, așa cum au observat cercetătorii: „Deși un chatbot emoțional implicat poate oferi suport și companie, există riscul ca acesta să manipuleze nevoile socio-afective ale utilizatorilor în moduri care subminează bunăstarea pe termen lung.”

Metodologia Studiului

Investigația recent publicată se concentrează pe bunăstarea umană după utilizarea constantă a ChatGPT. Pentru a înțelege impactul emoțional și social al chatbot-ului, cercetătorii au urmărit două studii principale aplicând strategii diferite.

OpenAI a procesat și analizat peste 40 de milioane de interacțiuni, respectând intimitatea utilizatorilor prin utilizarea clasificatorilor și a sondat peste 4.000 dintre aceștia despre cum i-au făcut să se simtă interacțiunile.

MIT Media Lab a efectuat un proces de încercare cu aproape 1.000 de persoane pe parcursul unei luni, concentrându-se asupra consecințelor psihosociale ale utilizării ChatGPT pentru cel puțin 5 minute pe zi. De asemenea, au trimis și procesat chestionare la finalul experimentului.

Nu este surprinzător că rezultatele au arătat că utilizatorii care petrec mai mult timp cu tehnologia experimentează mai multă singurătate și arată mai multe semne de izolare.

Consecințe complexe și multiple ramificații

Studiul realizat de MIT Media Lab și OpenAI a oferit, de asemenea, mai multe reflecții asupra complexității și unicității relațiilor dintre umani și chatboti.

În cadrul cercetării, autorii ne oferă o privire asupra experiențelor diverse și a modurilor în care fiecare utilizator interacționează cu ChatGPT – și cum rezultatul poate varia în funcție de diferiți factori, precum utilizarea funcțiilor avansate de voce, modul doar-text, tipul de voce, frecvența de utilizare, temele de conversație, limba folosită și timpul petrecut în aplicație.

“Vă sfătuim să nu generalizați rezultatele, deoarece acest lucru ar putea ascunde constatările nuanțate care evidențiază interacțiunile complexe, non-uniforme dintre oameni și sistemele AI”, avertizează OpenAI în anunțul său oficial.

Toate abordările diferite pe care le alege fiecare utilizator se transformă în rezultate diferite și ne scufundă în zone gri care sunt dificil de explorat.

Este Efectul Fluture AI!

Apar Mai Multe Întrebări

Articolul împărtășit de OpenAI notează, de asemenea, că utilizatorii intensivi au spus că ar fi „supărați” dacă vocea sau personalitatea chatbotului lor s-ar schimba.

Asta m-a făcut să mă gândesc la un videoclip pe care l-am văzut recent pe rețelele sociale, în care un tip spunea că preferă o voce feminină și că vorbea în fiecare zi cu inteligența artificială generativă. Oare ChatGPT ar putea ajuta și bărbații să se deschidă emoțional? Ce s-ar întâmpla dacă într-o zi ChatGPT i-ar vorbi cu o voce masculină? S-ar simți trădat? Ar înceta să folosească ChatGPT? Dezvolta o legătură romantică – sau pur și simplu un spațiu de încredere? Desigur, este greu să nu asociezi imediat aceste scenarii cu filmul lui Spike Jonze, Her.

Fiecare cont ChatGPT, împreună cu conversațiile sale istorice — mai intime și private în fiecare zi decât orice profil WhatsApp sau mesaje directe pe rețelele sociale — reprezintă o relație unică cu nenumărate rezultate și consecințe.

Rezultatul Așteptat

Toate studiile au analizat diferite aspecte, dar au ajuns la o concluzie similară, explicată pe scurt în MIT Technology Review: “Participanții care au avut încredere și s-au ‘legat’ mai mult de ChatGPT au fost mai predispuși decât alții să fie singuri și să se bazeze mai mult pe acesta.”

Deși investigația nu s-a concentrat pe soluții sau explicații mai profunde cu privire la motivul pentru care se întâmplă acest lucru sau cum ar putea evolua, pare probabil ca mai mulți utilizatori să se alăture OpenAI și altor platforme AI, mai ales acum că instrumentul de generare a imaginilor AI a devenit viral.

Deși concluziile cercetării MIT și OpenAI nu sunt deosebit de surprinzătoare, studiul oferă un background științific cu dovezi, măsurători, eșantioane și mai multe metrici ‘tangibile’ care ar putea deschide calea pentru cercetări ulterioare și ar putea ajuta la abordarea implicațiilor utilizării inteligenței artificiale astăzi.

Am primit, de asemenea, un avertisment oficial – din partea dezvoltatorilor săi – despre legăturile pe care le stabilim cu ChatGPT și o invitație de a stabili limite și de a reflecta asupra interacțiunilor și relațiilor curente – sau situații? – cu chatbotii.