Șeful Anthropic, una dintre companiile IT care furnizează inteligență artificială, a lansat un apel public pentru încetinirea cursei globale în inteligența artificială și pentru impunerea de reglementări stricte. Apelul a primit imediat susținerea publică a marilor rivali din industrie.
Mai mulți cercetători de la Anthropic spun că dezvoltarea inteligenței artificiale avansează prea repede și că măsurile de siguranță nu țin pasul. „Pot vorbi în numele celor care lucrează aici (la Anthropic) și vă pot confirma că sunt în mod real înspăimântați. Sunt realmente îngrijorați de soarta umanității pentru următorii doi ani, atunci când își planifică viața.”, a spus Jacob Coxon, fost cercetător la Anthropic.
Oamenii nu pot da detalii pentru că sunt restricționați de secretul profesional, dar alarmați de rezultatele muncii lor, unii demisionează. „Nu este deloc o exagerare să afirmăm că oamenii implicați în fondarea acestor companii (de intelifență artificială) și în dezvoltarea tehnologiei consideră că există o posibilitate de extincție a rasei umane. Cred că dacă nu încetinim actualul ritm, atunci da, există o posibilitate reală să murim în viitorul imediat.”, a afirmat același Jacob Coxon.
Nu există în prezent nicio legislație care să limiteze concret responsabilitatea sau activitatea algoritmilor care se dezvoltă exponențial, atât în Statele Unite, cât și în China, într-o adevărată cursă a tehnologiei.
Anthropic este compania care dezvoltă programul Claude, folosit în lumea întreagă, inclusiv de angajați și antreprenori din România. Compania dezvoltă și produse AI militare secrete, în contracte cu Pentagonul – de unde și contradicția: este dezvoltat pentru apărare, dar creatorii săi spun că inteligența artificială ar fi în sine o amenințare.
„Companiile trebuie să lucreze împreună să stabilească standardele de securitate sau poate să stabilească ritmul în care lansează produsele (de inteligență artificială). Dar pentru asta trebuie să existe și implicarea administrației, pentru că vorbim despre ritmul lansărilor de A.I., dacă sunt sigure.”, a spus Dario Amodei, director executiv Anthropic.
Liderii industriei susțin însă că nu statele, ci doar companiile însele au capacitatea să gestioneze AI-urile. Deja, unele dintre acestea și-au depășit sarcinile și au dovedit că pot acționa și dincolo de instrucțiunile primite explicit. Ele ar putea amenința umanitatea dacă ar dobândi capacitatea de a acționa autonom, cu obiective incompatibile cu interesele noastre – prin atacuri cibernetice asupra unor infrastructuri critice.
