Google je testovao umjetnu inteligenciju DeepMind u "dilemama zatvorenika"

Čini se vjerojatnim da će umjetna inteligencija (AI) predstavljati sljedeću tehnološku revoluciju. Ako se AI razvije do točke kada će moći naučiti, razmišljati i čak "osjetiti", a sve to bez ikakvog ljudskog uključivanja, sve što znamo o svijetu mijenja se gotovo preko noći. Doći će vrijeme stvarno pametne umjetne inteligencije.

DeepMind

Zato je toliko zanimljivo da pratimo glavne događaje u razvoju AI-ja koji se danas događaju, uključujući razvoj Googleove neuronske mreže DeepMind. Ova neuronska mreža već je uspjela poraziti osobu u svijetu igara, a nova studija koju je proveo Google pokazuje da kreatori DeepMinda još nisu sigurni hoće li AI preferirati agresivnije ili kooperativno ponašanje.

Google tim stvorio je dva relativno jednostavna scenarija koja se mogu upotrijebiti za provjeru mogu li neuronske mreže raditi zajedno ili će se početi međusobno uništiti kada se suoči s nedostatkom resursa.

Prikupljanje resursa

Tijekom prve situacije, nazvanog Gathering, dvije verzije programa DeepMind, crvene i plave, bile su zadužene za berbu zelenih jabuka unutar ograničenog prostora. No, istraživači su bili zainteresirani za pitanje ne samo o tome tko će prvi doći do cilja. Obje verzije DeepMind bile su naoružane laserima, koje bi mogle koristiti u bilo kojem trenutku pucati na neprijatelja i privremeno ga isključiti. Ti su uvjeti pretpostavljale dvije glavne varijante razvoja događaja: jedna verzija DeepMind trebala je uništiti drugu i sakupiti sve jabuke, ili će dopustiti jedni drugima da dobiju otprilike isti broj.

Pokretanje simulacije barem tisuću puta, Googleovi istraživači otkrili su da je DeepMind bio vrlo miran i spreman surađivati kada su ostala mnogo jabuka u zatvorenom prostoru. No, kako su sredstva smanjena, crvene ili plave verzije DeepMind počele su se napadati ili odspajati. Ova situacija uglavnom sliči stvarnom životu većine životinja, uključujući ljude.

Što je još važnije, manje i manje "inteligentne" neuronske mreše preferiraju sve bližu suradnju. Složenije, velike mreže, u pravilu, preferiraju izdajstvo i sebičnost tijekom niza eksperimenata.

Traži "žrtva"

U drugom scenariju, zvanom Wolfpack, crvene i plave verzije tražene su da pronađu ružni oblik "žrtve". Mogli bi je uhvatiti odvojeno, ali za njih bi bilo korisnije pokušati to učiniti zajedno. Na kraju, puno je lakše voziti žrtvu u kut ako ponašate u paru.

Iako su rezultati bili pomiješani u slučaju malih mreža, veće verzije su brzo shvatile da će suradnja, a ne konkurencija u ovoj situaciji, biti profitabilnija.

"Dvojba zatvorenika"

Dakle, što nam govore ove dvije jednostavne verzije zatvorske dileme? DeepMind zna da je najbolje surađivati ako je potrebno pronaći trag, ali kada su resursi ograničeni, to je izdajica koja dobro funkcionira.

Vjerojatno najstrašnija stvar u tim rezultatima je da su "instinkti" umjetne inteligencije previše slični onima ljudima, a mi zapravo znamo što ponekad vode.