Proiect închis din cauza unei inteligenţe artificiale care şi-a inventat propria limbă
Maşina comunica într-o limbă engleză incorectă, articulată în mod repetitiv, iar acest lucru avea un sens foarte concret pentru ea.
(Shutterstock)
Departe de a fi o simplă curiozitate, se evidenţiază o problemă cu această tehnologie: că, în viitor, nu vom înţelege comunicarea între maşini. În laboratorul de cercetare privind inteligenţa artificială, de la Universitatea Tehnologică din Georgia (SUA), un proiect menit să creeze o inteligenţă artificială capabilă să înveţe şi să dezvolte noi tactici de negociere a luat o întorsătură neaşteptată.
Managerii de proiect au fost nevoiţi să încheie procesul, deoarece inteligenţa artificială a dezvoltat propriul limbaj, aproape imposibil de descifrat pentru cercetători, dar mult mai logic şi potrivit pentru sarcina pe care trebuia să o îndeplinească.
Limbajul pare o corupere a limbii engleze - limba în care iniţial a fost programată inteligenţa artificială - dar lipsită de sens pentru programatori prin repetarea ciudată a pronumelor şi a anumitor factori determinanţi.
Analizând propoziţiile, cu toate acestea, cercetătorii au descoperit că aparenta dezordine avea o structură logică coerentă care permitea inteligenţei artificiale să negocieze între diferiţi agenţi utilizând mai puţine cuvinte sau cu un risc mic de eroare.
„Nu am programat o recompensă astfel încât inteligenţa artificială să nu se abată de la regulile limbajului natural” şi, prin urmare, reţeaua sa neuronală – un set de rutine care optimizează funcţionarea - a început să favorizeze abrevieri şi expresii noi care au făcut mult mai rapide sau mai simple sarcinile sale, relatează pentru publicaţia FastCo unul dintre conducătorii proiectului.
Cercetătorii sugerează că fenomenul este similar celui care favorizează crearea unor anumite abrevieri sau a jargonului în anumite comunităţi umane, doar la o viteză mult mai mare şi fără supraveghere sau control efectuat de către alte persoane.
Incidentul, departe de a fi o simplă curiozitate, scoate în evidenţă una dintre problemele inteligenţei artificiale.
Cu excepţia cazului în care se limitează capacitatea sa de optimizare, este probabil ca viitoare rutine să dezvolte forme de comunicare proprii, mult mai eficiente între ele şi departe de limbajul uman. Complet de neînţeles chiar pentru creatorii lor.
Din întâmplare, tocmai în această săptămână Mark Zuckerberg, fondatorul Facebook şi Elon Musk, creatorul de Tesla şi Spacex, au menţinut o discuţie aprinsă pe net cu privire la pericolele pe care le-ar putea avea dezvoltarea a ceea ce este cunoscut sub numele de inteligenţă artificială, adică, inteligenţă artificială multifuncţională „puternică”, care este egală sau mai mare decât inteligenţa umană medie.
Suntem încă departe de acest obiectiv (unii cercetători îl consideră chiar nerealist), dar Elon Musk crede că ar putea avea consecinţe grave pentru viitorul civilizaţiei umane. Zuckerberg, cu toate acestea, crede că această viziune catastrofală este contraproductivă şi întârzie numeroasele beneficii pe care le oferă maşinile din ce în ce inteligente.
Mai multe informaţii: FastCo. Design: AI Is Inventing Languages Humans Can’t Understand. Should We Stop It?
