Amenințarea Inteligenței Artificiale în Umbră Pune în Pericol Securitatea Întreprinderilor

Pe măsură ce tehnologia AI evoluează rapid, organizațiile se confruntă cu o amenințare de securitate emergentă: aplicațiile AI nesupravegheate. Aceste aplicații neautorizate, dezvoltate de angajați fără supraveghere IT sau de securitate, se răspândesc în companii și adesea trec neobservate, așa cum a fost evidențiat într-un articol recent VentureBeat.

VentureBeat explică faptul că, deși multe dintre aceste aplicații nu sunt intenționat rău intenționate, ele reprezintă riscuri semnificative pentru rețelele corporative, variind de la încălcări ale securității datelor până la nerespectarea normelor de conformitate.

Aplicațiile Shadow AI sunt adesea construite de angajați care caută să automatizeze sarcinile de rutină sau să eficientizeze operațiunile, utilizând modele AI instruite pe datele proprietare ale companiei.

Aceste aplicații, care se bazează frecvent pe instrumente AI generative precum ChatGPT de la OpenAI sau Google Gemini, nu au măsuri de protecție esențiale, ceea ce le face foarte vulnerabile la amenințările de securitate.

Conform lui Itamar Golan, CEO al Prompt Security, „Aproximativ 40% dintre acestea apelează la formare pe orice date le furnizați, ceea ce înseamnă că proprietatea voastră intelectuală poate deveni parte a modelelor lor,” după cum a relatat VentureBeat.

Atractivitatea inteligenței artificiale în umbră este clară. Angajații, aflați sub presiunea crescândă de a respecta termene limită strânse și de a gestiona sarcini de lucru complexe, se întorc spre aceste instrumente pentru a crește productivitatea.

Vineet Arora, CTO la WinWire, remarcă pentru VentureBeats, „Departamentele se aruncă pe soluții AI nesanționate deoarece beneficiile imediate sunt prea tentante pentru a fi ignorate.” Cu toate acestea, riscurile pe care aceste instrumente le introduc sunt profunde.

Golan compară inteligența artificială clandestină cu medicamentele care îmbunătățesc performanța în sport, spunând, „Este ca dopajul în Turul Franței. Oamenii vor un avantaj fără a realiza consecințele pe termen lung,” așa cum a fost raportat de VentureBeats.

În ciuda avantajelor lor, aplicațiile shadow AI expun organizațiile la o serie de vulnerabilități, inclusiv scurgeri accidentale de date și atacuri de injecție promptă pe care măsurile de securitate tradiționale nu le pot detecta.

Scala problemei este uluitoare. Golan dezvăluie pentru VentureBeats că compania sa cataloghează zilnic 50 de aplicații AI noi, cu peste 12.000 în prezent în uz. „Nu poți opri un tsunami, dar poți construi o barcă,” sfătuiește Golan, indicând faptul că multe organizații sunt luate prin surprindere de amploarea utilizării shadow AI în rețelele lor.

De exemplu, o firmă financiară a descoperit 65 de instrumente AI neautorizate în timpul unui audit de 10 zile, mult mai mult decât cele mai puțin de 10 instrumente la care se aștepta echipa lor de securitate, așa cum a relatat VentureBeats.

Pericolele AI-ului clandestin sunt în mod deosebit acute pentru sectoarele reglementate. Odată ce datele proprietare sunt introduse într-un model AI public, devine greu de controlat, ducând la posibile probleme de conformitate.

Golan avertizează, „Următorul act AI al UE ar putea să eclipseze chiar și GDPR în ceea ce privește amenzile”, în timp ce Arora subliniază pericolul scurgerilor de date și sancțiunile cu care organizațiile s-ar putea confrunta pentru eșecul în a proteja informațiile sensibile, după cum a fost raportat de VentureBeats.

Pentru a aborda problema în creștere a AI-ului ascuns, experții recomandă o abordare multifacetică. Arora sugerează ca organizațiile să creeze structuri centralizate de guvernanță AI, să efectueze audituri regulate și să implementeze controale de securitate conștiente de AI care pot detecta exploatările conduse de AI.

În plus, companiile ar trebui să furnizeze angajaților instrumente AI pre-aprobate și politici clare de utilizare pentru a reduce tentația de a utiliza soluții neaprobate.