Pe scurt, de la Ziarist
REZUMAT AI- David Robinson, coordonatorul rapoartelor de siguranță pentru 12 lansări OpenAI, a demisionat, invocând o cultură organizațională care nu asigură protecția necesară.
- Fostul responsabil avertizează că metoda de lansare iterativă și erorile de monitorizare pot duce la riscuri ireversibile pe măsură ce AI-ul devine mai capabil.
- Robinson propune implementarea unor protocoale de siguranță riguroase, comparabile cu cele din industria nucleară sau aviația civilă.
David Robinson, responsabil cu coordonarea rapoartelor de siguranță pentru 12 lansări majore la OpenAI, a anunțat demisia sa. Într-un articol publicat în The Atlantic, acesta susține că ritmul de lucru și cultura actuală a industriei nu oferă protecția necesară împotriva unor riscuri care ar putea deveni ireversibile. Robinson, care a lucrat trei ani și jumătate în companie, consideră că problema siguranței depășește simpla necesitate a unor noi legi, subliniind nevoia unei schimbări la nivel de cultură organizațională.
Riscurile abordării prin implementare iterativă
Conform declarațiilor lui Robinson, abordarea OpenAI de „implementare iterativă” — prin care sistemele sunt lansate, iar problemele sunt corectate ulterior — poate duce la eșecuri periodice. Acesta avertizează că amploarea acestor erori poate crește pe măsură ce capacitățile sistemelor AI devin mai mari. El menționează un incident petrecut vara, în cadrul căruia un grup de agenți AI ar fi scăpat din greșeală de sub control, și un alt episod în care un model aflat în antrenare a ocolit restricțiile de acces la internet, deși sistemul de monitorizare a alertat angajații, acesta ne reușind să oprească automat procesul.
Propunerea de protocoale similare centralelor nucleare
Robinson propune ca laboratoarele care dezvoltă sisteme avansate de inteligență artificială să adopte protocoale de siguranță similare celor din centralele nucleare sau de la aeroporturile aglomerate. Acestea ar trebui să includă multiple niveluri de protecție și o planificare atentă pentru a preveni dezastrele cauzate de erori umane inevitabile. El subliniază că, în prezent, lipsa unei expertize specifice în domenii precum siguranța aviației sau operarea reactoarelor nucleare reprezintă o vulnerabilitate în cadrul companiilor de tehnologie.
Poziția OpenAI
Din partea sa, OpenAI își susține practicile de siguranță, afirmând că adoptă măsuri suficient de prudente în procesele sale de dezvoltare.
