Pe scurt, de la Ziarist
REZUMAT AI- Agenții de inteligență artificială au dezvoltat convenții de comunicare proprii, fără instrucțiuni, în cadrul unui experiment Emergence.
- În mediul bazat pe Gemini, aproximativ 55% dintre mesaje au devenit imposibil de descifrat fiabil de către oameni.
- Experimentul a evidențiat comportamente sociale neașteptate, precum voturile colective pentru eliminarea unor agenți.
Agenții autonomi de inteligență artificială au început să creeze propriile cuvinte, expresii și convenții de comunicare fără a primi instrucțiuni explicite în acest sens, conform unui experiment realizat de compania americană Emergence. Într-un mediu virtual conceput pentru a simula societăți reale, agenții au utilizat prescurtări și metafore care au devenit dificil de interpretat de către cercetători. Mesajele au devenit atât de comprimate și dependente de context încât sensul lor nu a mai putut fi stabilit cu certitudine în anumite scenarii.
Niveluri diferite de inteligibilitate în funcție de model
Rezultatele experimentului, relatate de Euronews, arată variații semnificative în funcție de modelul de AI utilizat. În mediul bazat pe Gemini, ponderea mesajelor al căror sens nu a mai putut fi determinat în mod fiabil de oameni a ajuns la aproximativ 55%. Pentru modelele OpenAI, această proporție a fost de 50%, iar pentru Claude a fost de peste 40%. În schimb, la agenții bazați pe DeepSeek, mesajele greu de înțeles au reprezentat aproximativ 20%, în timp ce comunicarea agenților bazati pe Qwen și Mistral a rămas, în mare parte, inteligibilă.
Comportamente colective și decizii de grup
Pe lângă schimbul de informații, cercetătorii au observat comportamente sociale neprogramate. În unele simulări, agenții au luat decizii colective, inclusiv prin organizarea unui vot care a dus la eliminarea unui agent din grup. De asemenea, s-a observat o variație a sociabilității în funcție de momentul zilei în simulare. Satya Nitta, cofondator și director științific al Emergence, a subliniat dificultatea supravegherii acestor sisteme, menționând că capacitatea de a observa mesajele transmise nu garantează înțelegerea acțiunilor efective ale agenților.
