Apple îndemnată să elimine funcția de IA după controversa generată de un titlu de știre fals

Un important organ de supraveghere a jurnalismului a îndemnat Apple să retragă funcția sa de IA generativă, după ce instrumentul a atribuit în mod eronat un titlu despre un caz de crimă de înalt profil BBC News.

BBC a relatat joi că a apărut o controversă după ce noua funcție a Apple, Apple Intelligence, a generat în mod incorect un titlu de știre. Acesta sugera că Luigi Mangione, un suspect în cazul asasinării CEO-ului unei companii de asigurări de sănătate, Brian Thompson, s-ar fi împușcat. BBC nu a publicat un astfel de articol.

Reporteri Fără Frontiere (RSF), o organizație internațională care militează pentru libertatea presei, a criticat Apple, subliniind că incidentul evidențiază riscurile pe care le prezintă instrumentele AI imature pentru credibilitatea mass-media și încrederea publicului.

Vincent Berthier, șeful departamentului de tehnologie și jurnalism al RSF, a condamnat greșeala, numind-o „o lovitură pentru credibilitatea postului” și o amenințare la adresa accesului publicului la informații fiabile. RSF a cerut Apple să elimine imediat această funcție.

„Legea Europeană privind IA – în ciuda faptului că este cea mai avansată legislație din lume în acest domeniu – nu a clasificat sistemele de generare a informațiilor prin IA ca fiind sisteme cu risc ridicat, lăsând un vid legal critic. Acest gol trebuie umplut imediat”, a declarat Berthier.

BBC a confirmat că a depus o plângere formală la gigantul tech și a solicitat o rezoluție, dar rămâne neclar dacă Apple a răspuns.

Rezumatul eronat al IA nu s-a limitat la Știrile BBC. Pe 21 noiembrie, funcția a rezumat inexact un articol din New York Times, sugerând în mod fals că prim-ministrul israelian Benjamin Netanyahu a fost arestat, așa cum a fost raportat în articolul BBC.

Această notificare, evidențiată ulterior de jurnalistul Ken Schwencke, se referă de fapt la un mandat al Curții Penale Internaționale împotriva lui Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Inteligența Apple își propune să reducă întreruperile cauzate de notificări prin rezumarea și gruparea lor. Disponibilă pe iPhone-uri care rulează iOS 18.1 și modele mai noi, precum și pe unele iPad-uri și Mac-uri, unealta a primit critici pentru că a denaturat informații provenind de la publicații de știri reputabile.

Purtătorul de cuvânt al BBC a subliniat că, deși unele notificări grupate au rezumat corect știri despre evenimente globale, dezinformarea implicându-l pe Mangione a demonstrat potențialul tehnologiei de a prejudicia atât instituțiile media, cât și înțelegerea publicului.

RSF a avertizat că „Acest incident ilustrează faptul că serviciile de AI generative sunt încă prea imature pentru a produce informații fiabile pentru public și nu ar trebui să fie permise pe piață pentru astfel de utilizări.”

Ars Technica a examinat rezumatele de notificări ale Apple, observând mai multe probleme care apar frecvent. În primul rând, deși unele rezumate sunt factual corecte, ele sună robotic și stângace, în special în subiecte sensibile precum relațiile sau sănătatea mentală. Altele înțeleg greșit sarcasmul, argoul sau expresiile idiomatice, interpretându-le adesea prea literal.

Pierderea contextului este o altă problemă majoră, în special când rezumatele omit mesajele anterioare dintr-un fir de discuție sau nu iau în considerare conținutul multimedia. În conversațiile de grup cu mai multe subiecte, rezumatele pot deveni supraîncărcate, amestecând subiectele și ducând la inexactități.

În cele din urmă, unele rezumate sunt pur și simplu greșite, adesea din cauza încercării de a condensa prea multe informații în prea puține cuvinte, ceea ce duce la relatări distorsionate. În general, aceste probleme, care afectează utilitatea și acuratețea funcției, sunt frecvente în utilizarea de zi cu zi.

Mangione, acum acuzat de crimă de gradul întâi, a devenit un punct central în dezbaterile legate de riscurile asociate cu IA in jurnalism. Încrederea publicului în știrile credibile rămâne în joc, în timp ce Apple se confruntă cu presiuni crescânde pentru a aborda problema.