Pe scurt, de la Ziarist
REZUMAT AI- Geoffrey Hinton avertizează că sistemele AI ar putea depăși inteligența umană în câțiva ani, generând riscuri de pierdere a controlului.
- Cercetătorul estimează o probabilitate de 10-20% pentru dispariția umanității din cauza AI, o estimare contestată de directorul Nvidia, Jensen Huang.
- Hinton critică ideea de autoreglementare a companiilor tech și propunerea președintelui Donald Trump, cerând intervenția statului și reguli stricte.
Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică în 2024, avertizează că sistemele de inteligență artificială ar putea deveni mai inteligente decât oamenii și ar putea scăpa de sub controlul creatorilor. Potrivit sursei citate, cercetătorul consideră că omenirea dispune de doar câțiva ani pentru a se adapta la o lume în care oamenii nu vor mai fi singurele entități inteligente. Hinton descrie procesul actual de dezvoltare ca fiind echivalent cu crearea unor „ființe extraterestre”.
Estimări de risc și controverse
Cercetătorul a menționat anterior o probabilitate de 10-20% ca inteligența artificială să provoace dispariția umanității în următoarele decenii. Această estimare a fost criticată de directorul Nvidia, Jensen Huang, care a susținut că afirmația nu este fundamentată științific. Hinton explică faptul că utilizarea unor cifre precum 10% este o metodă de a evidenția seriozitatea riscului, comparându-l cu probabilitatea unui accident de autobuz.
Critica autoreglementării și a pozițiilor politice
Hinton a exprimat neîncredere în capacitatea industriei tehnologice de a se autoreglementa, comparând posibilitatea unei astfel de reglementări cu industria petrolieră sau a azbestului. El a criticat propunerea președintelui american Donald Trump privind lipsa intervenției statului în reglementarea companiilor tech. De asemenea, cercetătorul a contestat modul în care termenul de „superinteligență” este utilizat în discursul politic, susținând că acesta are un sens tehnic clar care nu poate fi modificat prin simplă denumire.
Prioritizarea intereselor umane
În contextul posibilelor conflicte între interesele oamenilor și cele ale sistemelor artificiale, Hinton afirmă că ar alege să prioritizeze protejarea umanității. El susține că dezvoltatorii ar trebui să se concentreze nu doar pe creșterea inteligenței sistemelor, ci și pe modul în care acestea se comportă, urmărind o relație de cooperare în care interesele umane să aibă o pondere mai mare.
