Conform HotNews: Apel la o pauză în dezvoltarea inteligenței artificiale din partea Anthropic
Compania de inteligență artificială Anthropic, un jucător important în domeniu, condus de Dario Amodei, a lansat un apel către marii lideri ai industriei tehnologice pentru a lua în considerare o pauză coordonată și verificabilă în dezvoltarea accelerată a inteligenței artificiale. Avertismentul companiei, fondată de foști angajați ai OpenAI, vizează potențialul ca sistemele AI să atingă un nivel de autoîmbunătățire recursivă rapidă, greu de gestionat.
Riscul autoîmbunătățirii recursive și pregătirea societății
Anthropic susține că abiltatea sistemelor AI de a îndeplini sarcini în mod autonom s-a dublat la fiecare patru luni. Acest ritm alarmant ar putea duce la „autoîmbunătățirea recursivă”, un scenariu în care tehnologia se perfecționează pe sine fără intervenție umană. „Dacă sistemele sunt capabile să își construiască integral propriii succesori, modalitățile prin care le securizăm, le monitorizăm și le modelăm comportamentul devin cu atât mai importante”, a declarat startup-ul californian.
Co-fondatorul Anthropic, Jack Clark, și directoarea Anthropic Institute, Marina Favaro, au subliniat că societatea nu este încă pregătită pentru o astfel de evoluție. „Nu am ajuns încă acolo, iar autoîmbunătățirea recursivă nu este inevitabilă. Dar ar putea apărea mai devreme decât sunt pregătite majoritatea instituțiilor”, au avertizat ei. Compania, fondată în 2021, a fost creată de persoane care părăsiseră OpenAI din cauza îngrijorărilor legate de siguranța dezvoltării AI.
Anthropic, un gigant AI cu preocupări de siguranță
Anthropic a cunoscut o creștere rapidă, fiind evaluată la aproape un trilion de dolari. Deși chatbotul său Claude este mai puțin popular decât ChatGPT, compania a câștigat încrederea investitorilor prin instrumentele AI destinate profesioniștilor și afacerilor. Un exemplu al preocupărilor de siguranță ale companiei este refuzul de a lansa modelul Mythos, considerat prea periculos din cauza capacității sale de a identifica vulnerabilități în codul informatic. Acest model a fost prezentat doar unui grup select de companii pentru analiză.
Îngrijorările legate de controlul inteligenței artificiale au crescut odată cu avansarea tehnologiei, în timp ce eforturile de reglementare au rămas lente, în special în Statele Unite. Recent, administrația Trump a transferat responsabilitatea siguranței asupra laboratoarelor AI, cerându-le să supună voluntar modelele avansate unor teste de securitate.
Elon Musk a susținut anterior o inițiativă de suspendare a dezvoltării AI, dar ulterior și-a lansat propria companie în domeniu, xAI, ridicând întrebări despre motivele sale. Anthropic s-a poziționat constant ca un laborator AI axat pe siguranță, refuzând anterior colaborarea cu armata americană pentru aplicații de supraveghere sau arme autonome, decizii care au stârnit reacții negative din partea guvernului.
Antropic a fost inclusă de administrația Trump pe o listă neagră privind securitatea națională, dar există semne de relaxare a tensiunilor în anumite cercuri guvernamentale. Cu toate acestea, compania a continuat să lanseze modele tot mai performante, renunțând în februarie la angajamentul de a nu dezvolta AI potențial periculoase dacă rivalii se apropie de performanțele lor. Luna aceasta, Anthropic a fost evaluată la 965 de miliarde de dolari într-o rundă de finanțare și a depus documentația pentru o ofertă publică inițială (IPO) în SUA, depășind astfel OpenAI în evaluare și atragerea de fonduri.
Nevoia unei acțiuni coordonate în industria AI
Anthropic a avertizat că încetinirile unilaterale sau slab coordonate pot fi contraproductive dacă actorii mai puțin precauți continuă să avanseze, diminuând securitatea generală. O pauză semnificativă ar necesita un acord între mai multe laboratoare puternic finanțate și lideri în tehnologie, cu stabilirea unor reguli clare privind declanșarea, încheierea și supravegherea unei astfel de pauze.
Compania americană a anunțat că Anthropic Institute, divizia sa de cercetare, va studia sistemele necesare pentru o astfel de încetinire și va organiza discuții cu factori de decizie politică, cercetători și companii rivale pe tema gestionării riscurilor AI. OpenAI, xAI, Alphabet, Meta Platforms și Mistral nu au oferit comentarii imediate privind posibilitatea de a se alătura apelului.
Sursa: HotNews
