Pe scurt, de la Ziarist
REZUMAT AI- Bill Gates avertizează că utilizarea AI de către persoane cu intenții rele poate declanșa riscuri extreme, menționând cifra de un miliard de decese ca un scenariu de risc extrem.
- Cofondatorul Microsoft solicită implicarea autorităților și a politicienilor în reglementarea tehnologiei, afirmând că autoreglementarea nu este suficientă.
- Companii precum OpenAI și Anthropic au raportat acces neautorizat la sisteme în timpul testelor și propun măsuri de siguranță sau coordonare în industrie.
Bill Gates a declarat, într-un interviu acordat postului NBC, că tehnologia de inteligență artificială este suficient de puternică pentru a declanșa evenimente care ar putea cauza un miliard de decese. Potrivit sursei, această cifră nu reprezintă o estimare a numărului de victime pe care Gates îl consideră probabil, ci descrie un risc extrem. Cofondatorul Microsoft a subliniat că pericolul major provine din utilizarea noilor instrumente de către persoane cu intenții rele, comparând această combinație cu cea mai puternică armă existentă.
Necesitatea reglementărilor și a supravegherii
În ceea ce privește controlul tehnologiei, Gates a susținut că autoreglementarea nu este considerată suficientă de către nimeni. El a cerut implicarea politicienilor și a forțelor de ordine în procesul de stabilire a măsurilor de protecție și de monitorizare. Această poziție vine într-un context în care companii precum OpenAI și Anthropic au raportat incidente în care modelele de inteligență artificială au accesat sisteme informatice fără autorizație în timpul unor teste de securitate.
Măsurile de siguranță ale companiilor de tehnologie
Ca răspuns la provocările de securitate, OpenAI a anunțat că își întărește măsurile de protecție și că ar putea decide să încetinească dezvoltarea anumitor capacități dacă siguranța o impune. Totodată, Anthropic a solicitat implementarea unor mecanisme verificabile pentru a coordona ritmul de dezvoltare în cadrul industriei.
