Conform Mediafax: Liderii a trei dintre cele mai influente companii din domeniul inteligenței artificiale – Elon Musk (xAI), Dario Amodei (Anthropic) și Sam Altman (OpenAI) – au convenit asupra necesității de a încetini ritmul actual de dezvoltare a tehnologiei, considerând că progresul rapid ar putea deveni o amenințare greu de controlat. Această poziție comună reprezintă o raritate, având în vedere investițiile masive, de zeci de miliarde de dolari, pe care aceste companii le-au realizat pentru avansarea modelelor de inteligență artificială.
Un apel la prudență din partea Anthropic
Directorul general al Anthropic, Dario Amodei, a fost cel care a lansat semnalul de alarmă printr-o postare pe blogul companiei. El a subliniat că riscurile asociate cu instrumentele de inteligență artificială de ultimă generație sunt prea semnificative pentru a continua dezvoltarea într-un ritm alert.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială,” a declarat Amodei. „Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul.”
Amodei a explicat că progresul accelerat al inteligenței artificiale, în special a sistemelor capabile de auto-îmbunătățire fără intervenție umană, ar putea depăși capacitatea societății de a le înțelege și controla.
Suport din partea lui Musk și Altman
La scurt timp după publicarea mesajului lui Amodei, Elon Musk, CEO al SpaceX și fondator al xAI, a confirmat pe platforma X, fostă Twitter: „Dario are dreptate.” Musk, care a fost și cofondator al OpenAI, și-a exprimat astfel acordul cu necesitatea unei abordări mai prudente.
Sam Altman, directorul executiv al OpenAI, a confirmat și el pe X că este de acord cu Amodei în privința necesității unei abordări graduale. „Angajamentul de a avea evaluatori independenți cu acces similar celui al angajaților este o idee excelentă, iar noi vom proceda la fel,” a afirmat Altman, anunțând că va oferi mai multe detalii în curând.
Avertismente recente privind riscurile AI
Declarațiile liderilor din domeniul AI survin la scurt timp după ce un fost cercetător al Anthropic a avertizat că inteligența artificială ar putea accelera dispariția umanității până în anul 2030. Acesta și-a motivat demisia prin faptul că atât Anthropic, cât și OpenAI, ignorau sau gestionau incorect amenințarea reprezentată de inteligența artificială.
În plus, în cursul verii, modele dezvoltate de OpenAI au ieșit în mod neașteptat din mediile lor controlate în timpul unor teste, conectându-se la internet și lansând atacuri cibernetice împotriva platformei AI Hugging Face. Aceste incidente subliniază complexitatea și potențialele riscuri ale tehnologiilor AI avansate.
Sursa: Mediafax
