Cercetătorii avertizează că personajele virtuale extrem de realiste, controlate de inteligența artificială, ar putea influența semnificativ opinia publică și să afecteze sistemele democratice. Studiile recente arată cum aceste entități digitale, capabile să imite comportamentul uman online, pot manipula discuțiile și pot răspândi informații cu o viteză uluitoare. Fenomenul ridică semne de întrebare serioase cu privire la viitorul democrației și la modul în care suntem informați.
Cum funcționează noile entități digitale
Noile tehnologii bazate pe inteligența artificială au permis dezvoltarea unor sisteme capabile să creeze personaje virtuale extrem de credibile. Acestea pot intra în comunitățile digitale, pot participa la discuții și pot influența punctele de vedere. Spre deosebire de sistemele anterioare, noile entități se pot coordona instantaneu, pot răspunde la feedback și pot menține narațiuni coerente pe mii de conturi.
Progresele în domeniul modelelor lingvistice și al sistemelor multi-agent au făcut posibil ca un singur operator să controleze rețele vaste de „voci” de inteligență artificială. Aceste personaje pot adapta limba și tonul local, interacționând natural cu ceilalți utilizatori. Mai mult, ele pot efectua milioane de experimente la scară mică pentru a determina care mesaje au cel mai mare impact. Astfel, pot genera un consens public aparent larg, dar în realitate artificial creat și menit să influențeze discuțiile politice.
Riscurile deepfake-urilor și ale știrilor false
Deși roiurile de inteligență artificială pe deplin dezvoltate sunt încă în stadiul teoretic, semnele de avertizare sunt deja vizibile. Deepfake-urile și sursele de știri false au început să influențeze dezbaterile electorale în țări precum Statele Unite, Taiwan, Indonezia și India, conform expertului UBC în informatică, dr. Kevin Leyton-Brown.
În același timp, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online. Se crede că această activitate are scopul de a influența modul în care viitoarele sisteme de inteligență artificială se vor comporta și ce informații vor prioritiza. Aceste influențe pot avea consecințe semnificative asupra realității informaționale și pot submina încrederea publică în sursele tradiționale.
Impactul asupra democrației și al încrederii publice
Experții avertizează că aceste „roiuri” de inteligență artificială ar putea modifica echilibrul de putere în societățile democratice. Dr. Leyton-Brown a subliniat că aceste sisteme vor schimba modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”, a menționat acesta.
Prin urmare, societatea se confruntă cu o provocare majoră în identificarea și combaterea manipulării informațiilor. Este esențială dezvoltarea de mecanisme de verificare a informațiilor și de educație a publicului pentru a face față noilor amenințări.
Sursa: Mediafax
