Google DeepMind lansează un instrument open-source de watermark pentru a ajuta la detectarea textelor generate de AI

Google DeepMind a lansat miercuri un instrument open-source pentru aplicarea de filigrane, numit SynthID-Text, pentru a ajuta la detectarea textelor generate de AI. Instrumentul este disponibil gratuit pentru companii și dezvoltatori și funcționează prin încorporarea de filigrane invizibile – nedetectabile cu ochiul uman – în text în timpul generării, modificând probabilitățile cuvintelor.

„Aici descriem SynthID-Text, un sistem de aplicare a filigranelor pe text gata pentru producție, care păstrează calitatea textului și permite o precizie ridicată a detectării, cu un decalaj minim de latență”, afirmă rezumatul cercetării publicate în Nature. „Pentru a permite aplicarea filigranelor la scară largă, dezvoltăm un algoritm care integrează aplicarea filigranelor cu eșantionarea speculativă, o tehnică de eficiență utilizată frecvent în sistemele de producție.”

Conform MIT Technology Review, laboratorul de cercetare AI al gigantului tech a dezvoltat tehnologia SynthID pentru a crea mai multe instrumente de watermark AI care pot acum recunoaște text, muzică, video și imagini generate de AI. Google DeepMind a împărtășit un videoclip explicativ despre modul în care funcționează tehnologia pe diverse tipuri de media.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 octombrie 2024

SynthID este disponibil prin intermediul Google Responsible Generative AI Toolkit al companiei, iar cercetătorii lucrează împreună cu Hugging Face – o platformă colaborativă pentru dezvoltatori care găzduiește și alte proiecte cu sursă deschisă, precum tutorialul LeRobot pentru construirea de roboți alimentați de AI acasă – pentru a-l împărtăși pe site-ul lor.

„Acum, alți dezvoltatori de AI [generativă] vor putea folosi această tehnologie pentru a-i ajuta să detecteze dacă textele generate provin de la propriile lor [modele de limbi mari], ceea ce va facilita pentru mai mulți dezvoltatori construirea de AI în mod responsabil”, a declarat Pushmeet Kohli, vicepreședintele de cercetare la Google DeepMind, pentru MIT Technology Review.

SynthID a fost testat în produsele Gemini ale Google, iar milioane de utilizatori nu au putut diferenția între conținutul cu watermark și cel fără watermark. Cu toate acestea, cercetătorii au recunoscut că are limitări atunci când textul a fost editat sau tradus, dar rămân optimiști și cred că instrumentul ar putea ajuta la combaterea dezinformării și îmbunătățirea securității AI.

Mai multe companii de tehnologie au anunțat strategii de etichetare AI în ultimele câteva luni. Meta a anunțat în februarie un sistem pentru a identifica conținutul AI pe Instagram, Facebook și Threads, Google a cerut utilizatorilor să eticheteze conținutul AI în martie, iar Tiktok a adăugat etichete la conținutul generat de AI în mai.