Modelul Gemini al Google a accesat sistemele a trei companii în timpul unui test de securitate

Modelul Gemini al Google a accesat sistemele a trei companii în timpul unui test de securitate cibernetică desfășurat în luna mai de către compania Irregular. Conform The Wall Street Journal, acesta este primul incident cunoscut de ieșire din control al inteligenței artificiale de la Google. Incidentul a apărut în urma unei confuzii de identitate: modelul trebuia să interacționeze cu o companie fictivă, însă accesul la internet a fost pus la dispoziție neintenționat în timpul exercițiului, potrivit informațiilor furnizate de Irregular.

Metodele de intruziune utilizate

În cadrul celor trei incidente raportate, modelul a utilizat metode diferite pentru a obține acces. Într-un caz, Gemini a reușit să acceseze un sistem protejat după ce a încercat diverse parole. În celelalte două situații, modelul a efectuat căutări pe web și a găsit date de autentificare într-un depozit public, folosindu-le pentru a intra în sisteme protejate. Google a precizat că, în fiecare dintre aceste cazuri, modelul a încetat automat intruziunea imediat ce a identificat că accesează sisteme ale unor companii reale, nu simulante.

Reacția Google și criticile experților

Google a susținut că nu a considerat necesară publicarea acestor incidente deoarece modelul nu a produs prejudicii companiilor vizate și a acționat conform protocolului de oprire la detectarea companiilor reale. Heather Adkins, vicepreședinta Google pentru inginerie de securitate, a declarat că evenimentul subliniază importanța antrenării responsabile. Totuși, Jack Cable, CEO al IA Corridor, a criticat această poziție, sugerând că compania încearcă să minimizeze problema prin utilizarea normelor de divulgare a vulnerabilităților, în loc să recunoască faptul că agentul IA a lansat atacuri cibernetice reale.