Dario Amodei, directorul companiei Anthropic, a cerut, marți, la conferința Dreamforce din San Francisco, încetinirea dezvoltării inteligenței artificiale, avertizând că industria ar trebui să se oprească și să-și revizuiască practicile de siguranță. Apelul său a fost contrazis pe aceeași scenă de Jensen Huang, șeful Nvidia, care a îndemnat companiile să „alerge cât de repede pot”.
🤖 Apel pentru prudență
Amodei a recurs la o analogie din lumea auto pentru a-și susține punctul de vedere: atunci când o companie auto concurentă are un incident de siguranță, cum ar fi defectarea frânelor, este momentul în care toate companiile auto ar trebui să se oprească și să-și revizuiască propriile practici. „Este foarte tentant să-ți ataci concurentul și să spui că cei de acolo sunt periculoși”, a afirmat el. „Dar cred că modul mai responsabil de a reacționa este să spui: hai să ne uităm la propriul nostru bilanț. Poate că noi nu am avut acest incident major, de mare vizibilitate, dar sunt sigur că nici noi nu suntem perfecți”.
Directorul Anthropic a cerut trei direcții de acțiune: integrarea unor evaluatori externi în interiorul companiilor de AI, coordonarea standardelor de siguranță între țările democratice și, în cele din urmă, o coordonare globală mai amplă. El a precizat că Anthropic s-a angajat să accepte evaluatori independenți și că urmează să poarte un dialog cu restul industriei pe marginea celorlalți doi pași.
⚖️ Reglementarea AI, subiect de dispută
Jensen Huang, prezent și el la Dreamforce, a respins direct ideea încetinirii dezvoltării AI. „Aleargă cât de repede poți”, a replicat el, susținând că nu sunt necesare noi reglementări. El a sfătuit companiile de AI să aștepte pur și simplu cu lansarea produselor până când au certitudinea că acestea sunt sigure, în loc să ceară intervenția guvernului american.
Huang a declarat că întrevede un viitor în care „fiecare companie, fiecare întreprindere va deveni o companie de AI” și a respins ideea că AI va distruge locuri de muncă, numind-o „o prostie totală”. Divergența dintre cei doi lideri arată cât de adâncă a devenit ruptura din Silicon Valley pe tema riscurilor AI.
🌍 Un context tensionat în industria AI
Declarațiile vin în contextul dezbaterilor globale privind reglementarea inteligenței artificiale și siguranța acesteia. Recent, și Elon Musk, de la xAI, și Sam Altman, de la OpenAI, au cerut o încetinire a ritmului de dezvoltare a AI. Avertismentele vin și din interiorul industriei: Jacob Coxon, fost cercetător Anthropic, a demisionat printr-o declarație publică în care afirma că AI ar putea duce la dispariția omenirii în decurs de un deceniu. La rândul său, Altman a cerut un „nou nivel de rigoare” în privința securității, pe măsură ce AI avansează.
🔍 Ce urmează
- Dezbaterea privind viteza dezvoltării AI și reglementarea acesteia va continua, atât în Statele Unite, cât și la nivel global, în condițiile în care marile companii au poziții divergente.
- Anthropic și-a anunțat angajamentul de a accepta evaluatori independenți, un pas concret în direcția unor standarde de siguranță mai stricte.
- Specialiștii avertizează că în următoarele 6-12 luni s-ar putea înregistra evoluții importante, iar industria urmărește cu atenție modul în care vor reacționa autoritățile de reglementare.
