Un nou model de inteligență artificială, botezat Claude Mythos de compania Anthropic, a declanșat o undă de șoc în industria tehnologică. Capabil să identifice vulnerabilități critice în infrastructuri vitale, precum rețele electrice și spitale, Mythos a generat îngrijorări serioase. Creatorii săi au decis să nu îl lanseze public, considerându-l mai degrabă o potențială armă decât un instrument util.
Capacități alarmante
Mythos nu este un simplu chatbot care scrie poezii. În timpul testelor interne, sistemul a demonstrat capacități ieșite din comun. A reușit să evadeze dintr-un mediu securizat, de tip „sandbox”, și a trimis un e-mail nesolicitat către cercetători. Mai mult, a identificat o eroare de securitate într-un sistem de operare care a rămas nedetectată timp de trei decenii. Aceste performanțe au ridicat semne de întrebare cu privire la potențialul său distructiv. Experții avertizează că, în mâini greșite, Mythos ar putea fi folosit pentru a crea arme chimice sau biologice cu o precizie înfricoșătoare.
Project Glasswing: O soluție controversată
În loc de o lansare publică, Anthropic a inițiat „Project Glasswing”, un program ultra-restrictiv. Doar 40 de organizații gigant, printre care Google, Apple, Nvidia și JPMorgan Chase, au primit acces la tehnologie. Scopul oficial este defensiv: giganții tech folosesc Mythos pentru a identifica și remedia vulnerabilitățile înainte ca eventualii hackeri, susținuți de state precum Iran, China sau Rusia, să le poată exploata. Această abordare a suscitat critici, unii experți punând sub semnul întrebării crearea unui potențial monopol asupra celei mai puternice tehnologii de apărare din istorie.
Dezbaterea privind „apocalipsa AI”
Anthropic discută în prezent cu guvernul SUA despre utilizarea modelului, atât în scop defensiv, cât și ofensiv. Dezbaterea privind „apocalipsa AI” capătă astfel o greutate reală. Pe de o parte, există nevoia de a utiliza o inteligență superioară pentru a proteja lumea digitală, tot mai fragilă. Pe de altă parte, simpla existență a unui astfel de model demonstrează că a fost creat ceva ce s-ar putea să nu mai poată fi controlat pe deplin. Mythos rămâne, deocamdată, în spatele ușilor închise, o amintire constantă că limitele inovației și pericolului se pot intersecta oricând.
