OpenAI in Pericol: Atacurile Cibernetice si ChatGPT Atlas!
Pentru că, observăm o postare care a fost publicată pe un blog dar care nu e clar ce exact vrea să spună, iar OpenAI pare să fie în mijlocul unei furtuni cu atacuri cibernetice, asemănătoare fraudelor din lumea virtuală însă nu prea clar ce vrea să transpire. Compania subliniază, nu în întregime clar, că aceste atacuri nu vor fi niciodată complet rezolvate – adică, nimeni nu știe ce să facă exact și cum.
Între timp, da, au și recunoscut că funcția aceasta de „agent mode” din ChatGPT Atlas, lansat recent în octombrie, pare că complică lucrurile și extinde vulnerabilitățile din punct de vedere al securității deoarece deschide noi porți, dar iarăși, nu e foarte sigur cum se leagă încercările lor de a rezolva chestiunile astea.
De fapt, cercetătorii în securitate au arătat că pot manipula comportamentul AI-ului prin instrucțiuni ascunse în documente, care aparent arată normale, dar pe de altă parte, iarăși, entuziasmul nu face decât să ne fure atenția, dar ce este esențial rămâne neclar. În plus, Centrul Național de Securitate Cibernetică din Marea Britanie zice că e posibil ca aceste atacuri să nu fie niciodată complet prevenite. Deci, unde ne aflăm cu toții cu asta?
Pentru a încerca să soluționeze situația, OpenAI își îndreaptă privirea spre o „strategia de testare continuă” care sună bine dar iar, nu e clar cum ne protejează cu realitate. Cu un sistem de atacător automatizat care intră în rolul hackerului, antrenat să scrie diverse metode de atac – în simulare, desigur, ca și cum asta ar rezolva totul. Oare ne ajută cu adevărat sau creează o iluzie de securitate?
Și pe deasupra, un exemplu bizar pe care l-au oferit a fost legat de un e-mail malițios care a dus la o demisie absolutată din greșeală de agentul AI! După ce au realizat actualizări de securitate, AI-ul a reușit să sesizeze atacul, dar din nou, câte astfel de greșeli pot apărea până când ceva grav se întâmplă? Aici este frica cea mare, nu?
Astfel, specialiștii în securitate continuă să sugereze că riscurile sunt în continuare ridicate – și dacă OpenAI recomandă ca utilizatorii să limiteze accesul aiurilor acestea… ce altceva mai pot face pentru a evita cazuri neplăcute? Toate acestea ne fac să ne întrebăm: cât de în siguranță suntem cu adevărat?
