Linia Clară între Videoclipurile Reale și cele Generate de AI ar putea Dispare în 2025

Conținutul generat de AI este aici pentru a rămâne. Se îmbunătățește tot mai mult și am observat o îmbunătățire semnificativă a tehnologiilor AI în 2024. Vom fi capabili să distingem între ceea ce este real și ceea ce nu este în 2025?

Am ajuns recent să mă întreb, „Este aceea o femeie reală?”—strâmbând ușor din ochi—după ce am văzut o postare pe Instagram. „Nu, trebuie să fie generată de AI”, am concluzionat după o clipă. Apoi m-am întrebat imediat: Vom mai putea face diferența în câteva secunde, anul viitor? Toate semnele indică faptul că nu, mai ales pe rețelele de socializare, așa cum sugerează dezvoltările recente majore în tehnologia AI.

Acum câteva zile, conducătorul Instagram, Adam Mosseri, a împărtășit un mesaj care abordează această problemă pe Threads. „AI generativ produce în mod clar conținut care este dificil de diferențiat de înregistrările realității și se îmbunătățește rapid”, a scris el. Mosseri a recunoscut public că au dificultăți la Meta în a eticheta conținutul creat de AI și în a controla și monitoriza cantitățile masive de media împărtășite în fiecare secundă pe platformele lor de social media.

Mosseri a eliberat Meta de responsabilitate și a avertizat utilizatorii că depinde de ei să discrimineze dacă o postare era reală sau nu. „Va fi din ce în ce mai important ca vizualizatorul sau cititorul să aibă o minte discernântă atunci când consumă conținutul care pretinde a fi un cont sau o înregistrare a realității”, a adăugat el.

Doar câteva zile mai târziu, OpenAI a lansat Sora Turbo, puternicul său generator de videoclipuri AI, permițând utilizatorilor Pro și Plus să genereze videoclipuri realiste din text. În doar câteva minute, utilizatorii au început să creeze videoclipuri realiste fascinante și au început să le împărtășească pe rețelele de socializare.

Exact când totul părea să atingă un nou nivel de producție video, Google a anunțat cel mai recent instrument AI de video, Veo 2, cu o rezoluție mai mare și clipuri mai lungi decât Sora. Desigur, rezultatele împărtășite de cei care au avut acces la tehnologia avansată au fost și mai impresionante.

„Nimeni nu poate spune acum că este AI”, a scris un utilizator.

S-a terminat.

Google Veo 2 tocmai a eliminat competiția și a devenit noul rege al lumii media AI.

Nimeni nu poate spune acum că este AI.

10 exemple sălbatice: pic.twitter.com/MKAN4Lwj6m

— el.cine (@EHuanglu) 17 Decembrie, 2024

Se întâmplă deja

În cursul anului 2024, am fost martori la modul în care conținutul generat de AI a influențat populațiile, alegerile și utilizatorii de social media.

În ianuarie, locuitorii din New Hampshire au primit un apel „de la Joe Biden” care îi îndemna să nu voteze la alegerile primare. Consultantul politic Steve Kramer a fost în spatele acestei înșelătorii și a fost amendat cu 6 milioane de dolari pentru apelurile robotizate deepfake AI. Guvernele au început să înțeleagă impactul pe care IA îl poate avea și națiuni precum Singapore dezvoltă legi și strategii pentru a ajuta populația să identifice conținutul deepfake.

În Venezuela, videoclipurile generate de IA au răspândit dezinformări—dar au ajutat și jurnaliștii să informeze prin avatare AI pentru a ocoli cenzura.

Oamenii au întâmpinat dificultăți în a distinge ce este real și ce nu, și nu este vina lor: conținutul generat de AI devine tot mai bun și mai convingător.

Conținutul de înaltă calitate generat de AI este o afacere în creștere în toate formele sale; text, audio și video. Mulți creatori OnlyFans se bazează în prezent pe chatbots pentru a angaja conversații cu fanii lor, un loc de muncă care obișnuia să fie atribuit lucrătorilor gig în țările cu venituri mai mici. Noile modele de AI specializate în tehnici de flirt au generat chiar și $1,000 în bacșișuri de la urmăritorii lor.

În aprilie, startup-ul susținut de Nvidia, Synthesia a lansat avatare AI care pot exprima emoții umane și pot vorbi în 130 de limbi. TikTok le permite companiilor să creeze reclame generate de AI utilizând conținutul Getty Images, iar acum creatorii de pe YouTube pot folosi noua funcție de dublare automată AI pentru a-și traduce conținutul în 9 limbi și viitoarele actualizări vor replica vocea originală.

Zoom lucrează la crearea de avatare AI care arată exact ca utilizatorii pentru a-i ajuta să înregistreze mesaje și chiar să participe la ședințe. Acest instrument va fi lansat anul viitor, dar oamenii au testat deja mai multe unelte și companiile pot deja să creeze clone AI fotorealiste.

Ești sigură că ai vorbit cu o persoană reală în timpul ultimului tău apel Zoom?

Cum să îți dai seama dacă a fost creat de AI? Deocamdată

Trăim în vremuri confuze în această eră digitală. Filtrele pot face pe oricine să arate ca un manechin cu piele fără cusur, iar corecțiile demne de Photoshop sunt la un clic distanță pe Instagram sau Snapchat – câte persoane ar vrea să își împărtășească imaginea „naturală”, cu toate imperfecțiunile, când aceasta poate fi îmbunătățită în câteva secunde? Vedem tot mai multe reclame care prezintă imagini fotorealistice generate de inteligența artificială, convingându-ne treptat ochii de familiaritatea și „normalitatea” lor. Și în fiecare zi, evenimentele surprinzătoare din întreaga lume ne fac să ne întrebăm: ce este real și ce nu mai este?

Marele companii de AI lucrează la crearea de filigrane pentru a identifica cu ușurință conținutul generat de AI. Google DeepMind a lansat propriul sistem de filigran open-source în octombrie, pentru a marca videoclipurile, textele și audio generate de AI, iar Meta a inclus și ea unul în instrumentul său de video AI.

Însă eficacitatea acestuia este discutabilă, începând cu Meta care recunoaște că nu pot marca tot conținutul generat de AI. Actorii rău-intenționați pot găsi în continuare modalități de a elimina filigranele și sunt necesare mai multe legi, parteneriate și acorduri între companiile de social media și guverne pentru a realiza un sistem mai eficient.

Deocamdată, pe lângă faptul că ne bazăm pe instinct, ne putem pune câteva întrebări înainte de a distribui pe rețelele de socializare sau de a crede ceea ce vedem:

• Exact cum a recomandat Mosseri, ia în considerare următoarele: Cine distribuie această informație? Este o sursă de încredere?
• Expresia sau mișcările persoanei par robotice? Deși avatarele AI pot fi destul de realiste, este încă posibil să recunoști o rigiditate ciudată sau lipsa de emoție – deși trebuie să ții cont că deja există câteva companii precum Synthesia care îmbunătățesc acest aspect.
• Conținutul este creat pentru a provoca o reacție emoțională puternică? Actorii rău intenționați știu cât de ușor distribuim știrile negative și interacționăm cu materialul încărcat emoțional pe rețelele sociale, iar cercetările confirmă acest lucru. Înainte de a distribui acel conținut care ți-a făcut să-ți fierbe sângele pentru a-i face pe ceilalți la fel de indignați ca tine, gândește-te dacă este conceput pentru a stârni controverse sau dacă este de fapt știri reale sau un eveniment real.
• Poți corobora conținutul cu alte surse? Verificarea cu surse de încredere nu strică niciodată.

Și în final, te-ai întrebat pe tine sau asistentul tău virtual preferat cum să îți îmbunătățești gândirea critică? Dezvoltarea unei minți critice ar trebui cu siguranță să fie printre rezoluțiile de Anul Nou ale fiecăruia.