Marti, 25 Februarie 2025, ora 11:08
260 citiri
Într-o postare recentă, fizicianul Cristian Presura aduce în atenție un avertisment serios al expertului Roman Yampolskiy, care a studiat sute de articole științifice despre inteligența artificială.
Yampolskiy susține că nu există dovezi concludente care să arate că inteligența artificială poate fi controlată.
“Gândește-te: înainte să ne angajăm în crearea de mașini superinteligente, nu ar trebui să ne asigurăm că le putem ține sub control? Dar iată surpriza: cu cât maşinile care folosesc inteligența artificială au mai multă autonomie, cu atât controlul nostru scade!
Ai auzit vreodată de termenul „cutie neagră”? În lumea inteligenţei artificiale, asta înseamnă că deciziile sistemului sunt adesea misterioase și greu de explicat. Roman Yampolskiy subliniază că, dacă nu putem înțelege cum ia decizii inteligența artificială, cum putem avea încredere în ea? Această lipsă de transparență poate duce la erori sau chiar la decizii periculoase. Şi, pe măsură ce AI-ul devine mai autonom, capacitatea noastră de a-l controla scade. Roman Yampolskiy argumentează că agenții mai puțin inteligenți (noi, oamenii) pur și simplu nu pot controla permanent un sistem supradeștept. E ca și cum te-ai aștepta ca un copil mic să gestioneze o navă spațială; drăguț în teorie, dar dezastruos în practică”, susține Cristian Presură.
Un alt punct cheie este dificultatea de a programa AI-ul cu valorile umane. Yampolskiy subliniază că încercările de a ajusta AI-ul la valori umane pot duce la sisteme care nu răspund corect nevoilor utilizatorilor sau care interpretează greșit intențiile acestora.
În final, expertul pune întrebarea: ce soluții avem pentru a aborda problema controlului asupra superinteligentei artificiale? Un subiect provocator care merită o reflecție atentă înainte de a face pași mai mari în dezvoltarea tehnologiilor AI.
Ți-a plăcut articolul?
Vrem să producem mai multe, însă avem nevoie de susținerea ta. Orice donație contează pentru jurnalismul independent
Articol preluat de pe: Tech Ziare.com
