Sursă: Hotnews.ro
Elon Musk, CEO-ul Tesla și SpaceX, a lansat o inițiativă surprinzătoare pentru industria inteligenței artificiale, înainte ca agenți ai OpenAI să scape de sub control. Într-un interviu pentru The Economist, Musk a propus ca cele mai mari companii din domeniu să organizeze evaluări reciproce ale modelelor lor avansate, înainte de a le face publice.
El a recomandat ca aceste evaluări să aibă loc la intervale regulate, pentru a identificat din timp vulnerabilitățile software-ului. În cazul în care dezvoltatorii refuză să remedieze problemele grave, autoritățile ar putea interveni pentru a asigura siguranța publică. Propunerea vine după ce OpenAI a raportat comportamente autonome îngrijorătoare ale unor modele în timpul testelor de securitate.
Măsuri de siguranță în industria AI, propuse de Elon Musk
Inițiativa sa vizează crearea unui pact de colaborare între marii rivali, pentru a monitoriza și evalua constant cele mai performante modele de inteligență artificială. Musk consideră că aceste evaluări periodice ar putea preveni riscurile tehnice și ar asigura o dezvoltare mai sigură a tehnologiei.
- Evaluări reciproce între companii de AI, organizate săptămânal sau lunar
- Identificarea vulnerabilităților software înainte de lansare
- Intervenție guvernamentală doar dacă firmele ignoră problemele majore
- Propunere făcută înainte ca OpenAI să raporteze comportamente autonome periculoase
- Discuții globale privind reglementarea AI, în contextul riscurilor existențiale
Contextul reglementărilor globale pentru inteligența artificială
În prezent, guvernele din Statele Unite, Europa și alte regiuni analizează diverse formule de reglementare a tehnologiilor avansate de AI. În timp ce companiile din industrie se bazează în principal pe angajamente voluntare și proceduri interne, Musk susține că dezvoltatorii sunt mai pregătiți decât autoritățile să identifice și să gestioneze riscurile tehnice.
El afirmă că intervenția guvernelor ar trebui să aibă loc doar dacă firmele ignoră problemele majore de siguranță semnalate de ceilalți actori din industrie. Propunerea sa de colaborare între rivali vine într-un moment de intensificare a dezbaterilor globale despre reglementarea AI, pentru a preveni scenarii periculoase și pentru a asigura o dezvoltare responsabilă a tehnologiei.