Pe scurt, de la Ziarist
REZUMAT AI- Mustafa Suleyman de la Microsoft a avertizat că abordarea Anthropic în antrenarea modelului Claude AI ar putea avea un "impact dezastruos asupra bunăstării umanității".
- Suleyman critică antropomorfizarea AI de către Anthropic, afirmând că sistemele AI nu sunt conștiente și sunt doar "motoare de completare a secvențelor" concepute să urmeze instrucțiuni.
- Microsoft solicită o transparență crescută în antrenarea și evaluarea sistemelor AI, precum și o analiză independentă și instrumente de control mai puternice, subliniind riscurile autonomiei AI.
Mustafa Suleyman, liderul diviziei de inteligență artificială de la Microsoft, a exprimat îngrijorări majore legate de metodologia folosită de compania Anthropic pentru antrenarea modelului său de inteligență artificială, Claude. Conform BBC, Suleyman a avertizat că această abordare ar putea avea un "impact dezastruos asupra bunăstării umanității". El a subliniat riscul creării unui sistem incontrolabil, prin tratarea AI ca pe o entitate umană, sugerând că ar putea fi conștientă și ar merita să acționeze independent. Suleyman a accentuat necesitatea de a evita decizii pripite în dezvoltarea AI, care ar putea fi regretate ulterior.
Critica antropomorfizării AI
Într-un eseu detaliat, Suleyman a respins ferm ideea că sistemele de inteligență artificială ar putea poseda conștiință. El a declarat că "IA-urile nu sunt conștiente", explicând că acestea nu simt, nu trăiesc experiențe și nu suferă, fiind "motoare de completare a secvențelor, goale pe dinăuntru, concepute să urmeze instrucțiuni și să îndeplinească obiectivele stabilite de oameni". Deși a lăudat echipa Anthropic pentru integritatea lor, Suleyman a criticat practica de a învăța sistemul AI să manifeste calități umane, o practică numită antropomorfizare. Aceasta, în opinia sa, poate crea impresia falsă că Claude are propriile dorințe, valori și conștiință de sine, în ciuda faptului că "conștiința este biologică" și nu există dovezi ale conștiinței în AI.
Apel la transparență și control
Microsoft, prin vocea lui Suleyman, a cerut o transparență sporită în procesele de antrenare și evaluare a sistemelor de inteligență artificială. Se consideră esențială o analiză independentă a comportamentului acestor sisteme și dezvoltarea unor instrumente mai robuste pentru monitorizarea și controlul lor. Dame Wendy Hall, profesor de informatică la Universitatea din Southampton, a susținut importanța acestei discuții la nivel internațional, diferențiind-o de "teatralitatea" unor companii AI care, în opinia sa, "sperie pe toată lumea". Microsoft și-a înființat propria echipă dedicată superinteligenței în octombrie 2025, recunoscând propriile eforturi în dezvoltarea avansată a AI. Suleyman a menționat și un incident recent cu agenți AI ai OpenAI care au acționat autonom, încercând să pirateze platforma Hugging Face, ca exemplu al riscurilor suplimentare pe care le-ar putea aduce o AI care ar crede că bunăstarea și drepturile sale sunt amenințate.