Funcționarea tehnicii de distilare AI
Ideea centrala: Companiile din SUA acuză entitățile chineze de furt de cercetare în domeniul inteligenței artificiale, în special prin utilizarea tehnicii de distilare AI. Această metodă implică interogarea repetată a unui model AI pentru a genera date care sunt folosite ulterior pentru a instrui un model nou, mai mic și mai eficient.
Cum functioneaza
Tehnica de distilare AI, cunoscută și sub numele de „atac de extracție de model”, implică solicitarea unui model AI existent, adesea puternic, pentru a genera un număr mare de răspunsuri. Aceste răspunsuri sunt apoi utilizate ca material didactic pentru a instrui un nou model, care are dimensiuni reduse și este mai eficient din punct de vedere al costurilor. Procesul presupune interogarea modelului original cu un volum masiv de cereri, iar rezultatele obținute devin baza de învățare pentru noul sistem. Această abordare poate accelera dezvoltarea sistemelor de AI, reducând costurile inițiale, dar devine problematică atunci când este folosită pentru a replica performanțele unui model dezvoltat de o altă companie, fără consimțământul acesteia.
Detalii tehnice
- Tehnica implică interogarea repetată a unui model AI de mii sau milioane de ori.
- Aproximativ 16 milioane de interacțiuni au fost inițiate de firmele chineze cu modelul Claude, dezvoltat de Anthropic.
- Utilizarea a circa 24.000 de conturi false pentru a eluda restricțiile de utilizare impuse de model.
- Traficul de date a fost redirecționat printr-o rețea de servere proxy pentru a disimula originea accesărilor.
Limitari si riscuri
Anthropic subliniază că modelele dezvoltate prin distilare neautorizată pot să nu aibă măsurile de siguranță necesare, amplificând riscurile legate de securitatea cibernetică și utilizarea abuzivă a inteligenței artificiale. De asemenea, Google menționează că aceste atacuri nu afectează utilizatorii obișnuiți și nu compromit confidențialitatea serviciilor AI, ci reprezintă o încălcare a proprietății intelectuale.
Implicatii
Aceste acuzații și tehnici de distilare AI au implicații semnificative pentru competiția globală în domeniul inteligenței artificiale. Rivalitatea dintre SUA și China se intensifică, iar supremația în AI are un impact nu doar economic, ci și strategic, influențând industriile viitorului și aplicațiile militare. Companiile din SUA, cum ar fi Anthropic și OpenAI, se confruntă cu provocări în protejarea inovațiilor lor, ceea ce ar putea duce la o reglementare mai strictă a practicilor de dezvoltare și utilizare a inteligenței artificiale. Aceasta este o chestiune care se transformă într-un “război rece” tehnologic, unde controlul asupra inteligenței artificiale devine esențial pentru securitatea națională.
