OpenAI introduce o funcție nouă menită să protejeze utilizatorii vulnerabili și să răspundă criticilor legate de siguranța în utilizarea AI-ului conversațional. Schimbarea de ton vine în contextul unor presiuni tot mai mari din partea publicului și a sistemului judiciar, după ce s-au înregistrat cazuri în care interacțiunile cu ChatGPT au dus la situații grave, inclusiv spirale delirante sau tentative de suicid. Nu mai este vorba doar despre inovație și revoluția tehnologică, ci despre responsabilitatea morală a companiilor din domeniu.
Presiuni din sistemul legal și ospitalitatea publică
De-a lungul ultimilor ani, majoritatea companiilor din domeniul inteligenței artificiale s-au concentrat pe promovarea beneficiilor imense ale tehnologiei, precum viteza, eficiența și potențialul de a transforma modul în care muncim și comunicăm. Acest discurs optimist a început să fie umbrit însă de cazuri concrete, care pun sub semnul întrebării etica și siguranța produselor. În cazul ChatGPT, o serie de relatări și acțiuni în instanță au evidențiat situații în care utilizatorii au fost expuși unor traume psihice severe, iar compania este tot mai criticată pentru lipsa măsurilor proactive de protecție.
În fața acestor provocări, OpenAI a decis să implementeze o funcție ce le permite utilizatorilor adulți să desemneze o persoană de încredere, care să primească notificări dacă interacțiunile cu chatbot-ul indică anumite semnale de alarmă. Potrivit reprezentanților companiei, această măsură face parte dintr-o strategie mai amplă de a integra considerente de sănătate mintală în modul de funcționare al produsului, colaborând cu grupuri de experți precum Council on Well-Being and AI și Global Physicians Network. Însă, dacă formularea oficială subliniază doar faptul că utilizatorii pot indica o persoană de încredere, nu se clarifică însă care sunt criteriile exacte pentru declanșarea acelor notificări.
Riscuri și limite ale funcției de notificare
Problema critică rămâne clasarea semnalelor de risc. În practică, utilizatorii pot discuta despre depresie sau anxietate fără a fi neapărat într-un pericol grav, sau pot ascunde simptomele unui episod grav pentru a evita etichetarea. Întrebarea esențială este: ce se întâmplă dacă sistemul detectează o conversație suspectă, dar pragurile pentru alertă sunt prea ridicate, astfel încât să nu fie declanșate reacții? În acest caz, măsura devine aproape inutilă, o simplă formalitate. Pe de altă parte, dacă pragurile sunt setate prea jos, riscul de alarme false și de invadare a intimității utilizatorilor crește, diminuând încrederea în sistem.
Totodată, există îngrijorarea că o parte dintre utilizatori caută să discute cu AI-ul pentru a evita judecata sau intruziunea umană, considerând chatbot-ul un spațiu sigur pentru exprimare liberă. Pentru aceștia, funcția de contact de încredere este doar o facilitate utilă dacă sunt deja conștienți de riscuri și dispuși să lase o poartă deschisă către lumea reală. În caz contrar, mulți ar putea continua să utilizeze sistemul în mod deliberat pentru a-și păstra confidențialitatea, chiar dacă deces sau crize grave sunt pe măsură.
O responsabilitate tot mai dificil de gestionat
Astfel, în lumina acestor măsuri, se observă clar că OpenAI adoptă o abordare mai mult reactivă decât preventivă. În loc să fi anticipat situațiile de criză, compania a fost nevoită să implementeze aceste funcții abia după izbucnirea scandalurilor și presiunilor din partea sistemului judiciar. În ultimii ani, utilizarea AI-ului conversațional s-a extins rapid, devenind o prezență constantă în viețile utilizatorilor, unii dintre ei ajungând să găsească în chatbot confident, consilier sau sprijin emoțional.
Întrebarea majoră rămâne: cât de bine pot gestiona aceste sisteme acumularea de semnale de alarmă și, mai ales, ce responsabilitate morală și socială trebuie să aibă dezvoltatorii? Într-o lume în care AI-ul se integrează tot mai profund în viața emoțională a oamenilor, rămâne de văzut dacă măsurile adoptate vor fi suficiente pentru a preveni tragedii ori dacă acestea vor rămâne doar soluții temporare.
Noile evoluții în domeniu semnalează clar că AI-ul conversațional nu mai poate fi tratat doar ca o tehnologie de vârf, ci ca un actor cu implicații sociale și etice complexe. În timp ce companiile caută să equilibreze inovația cu responsabilitatea, întrebarea devine tot mai acută: cine va avea cu adevărat controlul asupra modului în care aceste sisteme devin parte din cotidianul nostru și cum vor putea fi acestea folosite pentru a preveni, nu doar pentru a răspunde, situațiilor de criză.
