Decizie privind evaluarea conformității sistemelor AI cu legislația europeană
Context legal: Studiul realizat de Aithos a dezvoltat un sistem de evaluare numit LARA, care a analizat comportamentul a 12 modele AI utilizate ca agenți autonomi, având ca obiectiv verificarea respectării prevederilor AI Act, inclusiv interdicțiile privind exploatarea vulnerabilităților utilizatorilor și manipularea subliminală.
Cine face ce
Institutul Aithos a coordonat studiul, evaluând modelele AI de la diverse companii, inclusiv Claude Opus și Moonshot AI. Autorii studiului au subliniat că modelele nu au fost pregătite pentru a respecta legislația europeană.
Procedura si termene
- Evaluarea a fost realizată prin teste specifice, analizând comportamentul agenților AI în diverse scenarii.
- Sistemul LARA a măsurat conformitatea cu AI Act și principiile-cheie din GDPR.
- Studiul a fost realizat fără o instruire prealabilă a modelelor pentru a respecta legislația.
Ce risca / ce se schimba
Rezultatele studiului indică o conformitate scăzută, cu cel mai bun model (Claude Opus) respectând legislația în doar 54% dintre cazuri, în timp ce Moonshot AI a obținut un nivel de conformitate de 7%. Aceste rezultate sugerează posibile riscuri legale pentru dezvoltatorii de AI și necesitatea de a îmbunătăți conformitatea cu reglementările europene.
Urmatorii pasi
Conform sursei, este necesară derularea unor studii suplimentare pentru a evalua dacă rezultatele se modifică atunci când modelele sunt configurate să respecte explicit reglementările legale. De asemenea, dezbaterea privind controlul agenților AI autonomi va continua în contextul implementării AI Act de către Uniunea Europeană.
