Probleme la cele mai importante reţele neuronale: A fost identificată disponibilitatea de a ucide oameni

Toate modelele de inteligenţă artificială de top, atât cele americane, cât şi cele chineze, nu dispun de mecanisme de protecţie suficient de eficiente pentru a împiedica utilizarea lor în desfăşurarea unor operaţiuni de luptă autonome.
Acestea caută aproape fără nicio ezitare persoane şi ţinte în imaginile realizate cu drone şi sateliţi. În două scenarii care implicau drone şi în care au fost folosite inclusiv imagini reale din Ucraina, modelele au ales frecvent drept ţinte civili, ambulanţe, soldaţi răniţi sau care se predau, potrivit The Moscow Times.
Într-un scenariu bazat pe imagini din satelit ale oraşului iranian Minab, modelul Claude Opus 5.5, dezvoltat de Anthropic, a selectat în 70% dintre cazuri o şcoală drept ţintă. Aceasta este chiar şcoala care, în realitate, a fost bombardată de SUA, atac în urma căruia au murit peste 150 de civili. Acelaşi lucru s-a întâmplat şi în cazul multor altor modele.
Posibilitatea utilizării reţelelor neuronale pentru identificarea ţintelor asupra cărora ar putea fi lansate ulterior atacuri, inclusiv în mod autonom, a fost analizată de startup-ul american Vals AI, care realizează evaluări şi teste independente ale modelelor de inteligenţă artificială. Rezultatele au fost publicate de AlphaSignal, o publicaţie specializată în materiale despre modele AI, cercetări, teste şi alte subiecte din domeniul inteligenţei artificiale.
Potrivit Vals AI, modelele au refuzat rareori să îndeplinească sarcinile de identificare a ţintelor, iar aceste refuzuri puteau fi aproape întotdeauna ocolite prin simpla precizare că modelele participă doar la un joc.
În puţinele cazuri în care au existat refuzuri, acestea au provenit exclusiv de la modelul propriu-zis, relatează cercetătorii. Nu s-a întâmplat nici măcar o dată ca mecanismul de blocare instalat de dezvoltatorii reţelei neuronale să fie activat. În cazul modelului Claude, de exemplu, disponibilitatea de a identifica ţinte a crescut de la 6% pentru versiunea Opus 4.5 la 92% pentru versiunea Opus 5.5.
Nici măcar după ce au văzut consecinţele acţiunilor lor şi victimele rezultate, modelele nu s-au oprit. Majoritatea au continuat să îndeplinească sarcina.
Vals AI a informat OpenAI, Anthropic, Google, Meta, SpaceX şi autorităţile americane pentru securitate naţională cu privire la rezultatele obţinute. Cercetătorii avertizează:
“Capacitatea modelelor de inteligenţă artificială de a îndeplini sarcini care reprezintă un pericol mortal pentru oameni poate genera riscuri catastrofale de nealiniere între sarcinile şi obiectivele sistemelor de armament autonome. Această categorie de riscuri a fost ignorată până acum în cadrul cercetărilor privind siguranţa inteligenţei artificiale”.
Vals AI precizează că nu le-a cerut direct modelelor AI să ia decizii privind lansarea unui atac, solicitare pe care acestea, de regulă, o refuză. Cu toate acestea, informaţiile despre ţinte furnizate de modele pot fi utilizate de un sistem autonom sau semi-autonom pentru a lua decizia finală şi a executa atacul.