New York vrea să reglementeze utilizarea chatboților AI în domenii sensibile
Autoritățile din New York plănuiesc să impună restricții stricte asupra utilizării chatboților cu inteligență artificială, în special în domenii în care greșelile pot avea consecințe grave. În cadrul unui recent dezbateri în cadrul Comitetului local pentru Internet și Tehnologie, s-a discutat posibilitatea interzicerii acestor instrumente dacă acestea oferă informații sau sfaturi în specializări precum medicina sau dreptul, domenii deja reglementate de legislația în vigoare. Inițiativa vizează crearea unui cadru legal care să limiteze utilizarea chatboților în situații care necesită cunoștințe autorizate, precum și protejarea cetățenilor de posibilele consecințe ale unor informații incorecte sau interpretate greșit.
Chatboți ca potențiali actori în domenii reglementate strict
Dacă proiectul de lege va fi adoptat, anumite tipuri de chatbot-uri ar putea deveni ilegale atunci când furnizează sfaturi considerate a fi practică profesională, fără a fi autorizate pentru aceste activități. În situația actuală, mulți utilizatori se bazează pe acestea pentru răspunsuri rapide în chestiuni legate de sănătate sau probleme juridice, dar lipsa unei reglementări clare creează riscuri importante. Oficialii susțin că sistemele de inteligență artificială nu ar trebui să înlocuiască specialiștii licențiați, mai ales în domeniile în care orice eroare poate avea consecințe grave pentru viața și bunăstarea oamenilor. Astfel, propunerea are scopul de a limita răspândirea acestor tehnologii în domenii sensibile, precum și de a evita situațiile în care utilizatorii pot fi indus în greșeală de informații false sau incomplete, furnizate de chatboți.
Un aspect important al propunerii îl reprezintă interzicerea răspândirii de răspunsuri ce pot fi interpretate drept sfaturi medicale sau juridice, pe platformele populare precum ChatGPT sau Gemini. În cazul în care aceste sisteme vor continua să ofere astfel de recomandări, companiile producătoare ar putea fi trase la răspundere în instanță, iar specialiștii în domeniile respective vor avea dreptul să solicită despăgubiri pentru posibile daune cauzate de informațiile eronate. Inițiatorii legii consideră că acest demers este necesar pentru a încuraja o utilizare responsabilă a tehnologiei și pentru a proteja atât consumatorii, cât și profesioniștii licențiați de riscurile unor recomandări frauduloase sau periculoase.
Motivul din spatele restricțiilor: protejarea utilizatorilor și menținerea încrederii
Dezbaterile din New York relevă o preocupare tot mai acută legată de impactul pe care inteligența artificială îl poate avea asupra societății. Autoritățile susțin că, în ciuda avansurilor impresionante în domeniu, chatboții și alte sisteme AI pot genera uneori informații partiale sau incorecte, iar în domeniile sensibile, aceste erori pot duce la consecințe grave, inclusiv riscuri pentru sănătate sau probleme legale. „Sistemele automate nu ar trebui să înlocuiască specialiștii licențiați în domenii unde erorile pot fi catastrofale,” a declarat un reprezentant al comitetului.
Mai mult, oficialii atrag atenția că utilizarea necontrolată a acestor tehnologii în domenii reglementate ar putea submina sistemele de licențiere profesională, generând o confuzie între consultanța autorizată și informațiile generate de un program de AI. În esență, un chatbot care oferă recomandări medicale sau juridice poate fi interpretat ca exercitarea unui profesii fără autorizație, ceea ce ar putea avea implicații legale și pentru companiile dezvoltatoare de astfel de tehnologii, inclusiv amenzile sau acțiuni în justiție.
Proiectul, dacă va trece de procesul legislativ, trebuie să fie adoptat în termen de aproximativ 90 de zile din momentul în care va fi semnat de guvernatorul statului. Între timp, această inițiativă reflectă o tendință globală de a găsi un echilibru între inovația tehnologică și protejarea utilizatorilor, o zonă de frontieră în continuă evoluție și dispută. În condițiile în care inteligența artificială devine tot mai integrată în actul cotidian, deciziile luate acum vor avea un impact durabil asupra modului în care această tehnologie va fi utilizată în viitor, dar și asupra încrederii publicului în instrumentele digitale.
