Googlen DeepMind-tekoälystä tulee 'erittäin aggressiivinen' stressaantuessaan. Skynet, kukaan?

Googlen DeepMind on yksi tunnetuimmista esimerkeistä tekoälystä.

Viime vuonna se tunnetusti voitti maailman parhaan Go-pelaajan hankalassa kiinalaisessa lautapelissä. Se on myös olemista käytetty Moorfields Eye Hospitalissa tunnistaa silmäsairaudet skannauksista.

Mutta uusi tutkimus osoittaa, että DeepMind reagoi sosiaalisiin tilanteisiin samalla tavalla kuin ihminen. Erityisesti se alkoi toimia 'aggressiivisesti', kun sitä painostettiin.

Googlen tietotekniikan tutkijat ajoivat 40 miljoonaa eri kierrosta Kokoontuminen hedelmiä keräävä videopeli, joka pyysi kahta eri DeepMind-pelaajaa kilpailemaan toisiaan vastaan ​​kerätäkseen eniten omenoita.

DeepMind-logo

Kun omenoita oli tarpeeksi jaettavaksi, kaksi tietokonetaistelijaa olivat kunnossa - keräilivät tehokkaasti virtuaalisia hedelmiä. Mutta heti kun resurssit tulivat vähiin, kaksi agenttia tulivat aggressiivisiksi ja yrittivät pudottaa toisensa pois pelistä ja varastaa omenat.

Alla oleva video näyttää prosessin - DeepMind 'pelaajat' on esitetty punaisena ja sinisenä, kun taas omenat ovat vihreitä. Lasersäteet ovat keltaisia ​​- ja vaikka taistelijat eivät saa mitään palkintoa osumasta, se pudottaa vastustajan pelistä tietyksi ajaksi.

'Luonteistamme, kuinka opittu käyttäytyminen kullakin alalla muuttuu ympäristötekijöiden, mukaan lukien resurssien runsauden, funktiona', tiimi kirjoitti paperiin selittää tuloksiaan.

”Kokeilumme osoittavat, kuinka ristiriita voi syntyä kilpailusta yhteisistä resursseista ja valaisevat, kuinka todellisen maailman sosiaalisten dilemmien peräkkäisyys vaikuttaa yhteistyöhön.

(Kuva: Getty)

'Havaitsimme, että ympäristöissä, joissa esiintyy vähän tai kalliita konflikteja, opitut käytännöt olivat erittäin aggressiivisia, kun taas korkean runsauden tai alhaisten konfliktien kustannuksissa opitut käytännöt olivat vähemmän aggressiivisia. Toisin sanoen Gathering-peli ennustaa, että konflikti voi syntyä kilpailusta niukoista resursseista, mutta se on vähemmän todennäköistä, kun resursseja on runsaasti.

Tulokset ovat mielenkiintoisia siinä mielessä, että ne osoittavat, että tietokoneet pystyvät sopeutumaan tilanteisiin ja muokkaamaan käyttäytymistään vastaavasti.

Monet asiantuntijat ovat varoittaneet todellisen tekoälyn vaaroista koneissa. Elon Musk valitsi erityisesti DeepMindin seurattavaksi.

'Tekoälyn (en tarkoita kapeaa tekoälyä) kehitysvauhti on uskomattoman nopeaa. Jos et ole suoraan altistunut DeepMindin kaltaisille ryhmille, sinulla ei ole aavistustakaan kuinka nopeasti - se kasvaa vauhtia lähellä eksponentiaalista', hän kirjoitti vuonna 2014.

tescon polttoainetarjous 2018

Elon Musk on huolissaan tekoälystä (Kuva: Bloomberg)

'En ole ainoa, joka ajattelee, että meidän pitäisi olla huolissaan.'

'Johtavat tekoälyyritykset ovat ottaneet suuria askeleita turvallisuuden takaamiseksi. He tietävät vaaran, mutta uskovat pystyvänsä muokkaamaan ja hallitsemaan digitaalisia superälyjä ja estämään pahoja pääsemästä Internetiin. Se jää nähtäväksi...'

Joten vaikka Googlen superälykkäät tietokoneet voivat olla tyytyväisiä voittamaan toisensa virtuaalisten omenoiden keräämiskilpailussa, tulevaisuuden näkymät voivat olla huolestuttavat. Varsinkin jos nimesi on Sarah Connor.