Conform Mediafax: Îngrijorări privind extincția umană și riscurile inteligenței artificiale
Dezbaterea privind potențialele pericole ale inteligenței artificiale (AI) a luat amploare, după ce cercetători de la compania Anthropic au lansat avertismente sumbre. Jacob Coxon, cercetător la Anthropic, a părăsit compania invocând teama că sistemele AI ar putea scăpa de sub control, o postare a sa strângând peste 100 de milioane de vizualizări. Ulterior, Evan Hubinger, care coordonează cercetarea privind alinierea sistemelor AI la valorile umane, a estimat riscul extincției umane în următorul deceniu la peste 10%.
Scenarii de risc existențial și predicții alarmiste
Scenariile invocate de cercetătorii preocupați de riscul existențial se bazează pe ideea că sistemele AI viitoare ar putea depăși radical capacitățile cognitive umane și că obiectivele lor ar putea să nu fie aliniate cu interesele oamenilor. Un exemplu clasic descrie o superinteligență care urmărește un obiectiv aparent banal într-un mod incompatibil cu supraviețuirea umană. Altele includ utilizarea AI avansate pentru crearea de arme biologice sau alte acțiuni cu efecte catastrofale. Totuși, Michael Vermeer, cercetător la RAND, consideră că multe dintre aceste predicții se bazează pe presupuneri neverificabile, transformând discuția într-una de ordin spiritual mai degrabă decât empiric.
Riscuri concrete și capacități îngrijorătoare ale modelelor AI
Analize mai concrete, precum cele ale RAND, au examinat scenarii asociate armelor nucleare, biotehnologiei și modificării atmosferei. Cercetătorii au concluzionat că extincția totală prin arme nucleare este improbabilă în scenariile analizate, însă alte tipuri de dezastre nu pot fi excluse. Un factor important este timpul necesar pentru declanșarea unui astfel de dezastru, AI având nevoie de o capacitate semnificativă de interacțiune fizică cu lumea, ceea ce ar permite detectarea și oprirea sa. În același timp, cercetătorii specializați în siguranța AI atrag atenția asupra unor riscuri mai imediate: dezinformarea, atacurile cibernetice, facilitarea dezvoltării armelor biologice, erori în sisteme critice și utilizarea nesigură a modelelor AI.
Solicitări de încetinire a dezvoltării și opoziție
Companiile de AI au publicat evaluări proprii despre riscuri. Anthropic a demonstrat că modelele sale pot executa sarcini complexe în domenii militare, necesitând anterior experți umani. OpenAI a raportat că modelul GPT-6 Astra a atins un nivel „critic” în securitatea cibernetică, capabil să identifice vulnerabilități și să conceapă metode de exploatare. Directorul general al Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare a sistemelor AI de vârf, cerere susținută de Sam Altman (OpenAI) și Elon Musk (xAI). Aceștia consideră că măsurile de siguranță trebuie să țină pasul cu progresul tehnologic.
Există însă și opoziție față de aceste solicitări. Fostul președinte american Donald Trump s-a opus public încetinirii ritmului. În Congresul american, senatorul Bernie Sanders și congresmanul Greg Casar au propus o lege care ar interzice dezvoltarea „superinteligenței artificiale” și ar impune o pauză temporară în dezvoltarea AI avansate, până la stabilirea unor reglementări federale. lipsa unui cadru global unic pentru reglementarea AI, pe fondul competiției dintre SUA și China pentru supremația tehnologică, complică eforturile de coordonare internațională.
Datele disponibile nu permit o concluzie științifică certă privind distrugerea omenirii de către AI, dar nici excluderea completă a unei catastrofe existențiale. Ceea ce este documentat este capacitatea tot mai mare a modelelor AI în domenii precum programarea, cercetarea și securitatea cibernetică. OpenAI și Anthropic afirmă că AI accelerează dezvoltarea generațiilor viitoare de sisteme, alimentând discuția despre o posibilă participare a AI la propria sa evoluție. Întrebarea centrală pentru cercetători rămâne nu doar posibilitatea unui astfel de scenariu, ci și cât de bine pot fi măsurate și controlate riscurile înainte ca sistemele să devină mult mai puternice.
Sursa: Mediafax
