Tamo je velika rasprava koja se u Silicijskoj dolini vodi o umjetnoj inteligenciji i nažalost ulozi su prilično visoki: Hoćemo li slučajno izgraditi super pametan A.I. koji se okreće prema nama i sve nas ubija ili porobljava?
porsha williams datum rođenja
Ovo bi moglo zvučati kao scenarij ljetnog filma katastrofe, ali zabrinulo je neka prilično velika imena, od Elona Muska do kasnih Stephen Hawking .
'Recimo da stvorite samopoboljšavajući A.I. brati jagode, ' Musk je rekao , objašnjavajući svoje strahove, 'a branje jagoda postaje sve bolje i branje sve više i više se poboljšava, pa sve što zapravo želi je ubrati jagode. Pa bi onda sav svijet imao polja jagoda. Polja jagoda zauvijek. ' Ljudi koji su na putu ovoj jagodičkoj pakalipsi bili bi samo potrošni iritant za A.I.
Ali sigurno ljudi ne bi bili toliko blesavi da slučajno osmisle A.I. natjeran da cijelu civilizaciju pretvori u jednu divovsku farmu bobica? Možda ne, ali kao Janelle Shane , istraživač koji trenira neuronske mreže, tip algoritma strojnog učenja, nedavno primijećen na njezin blog, A.I. Čudnost , sasvim je moguće da bi to mogli učiniti greškom.
Zapravo, bilo bi to daleko od prvog puta da ljudi misle da grade robote za jedan zadatak samo da bi se okrenuli i otkrili da roboti igraju sustav na načine koje nikada nisu namjeravali. Fascinantni post kopa po akademskoj literaturi da bi podijelio nekoliko primjera podivljalih robota. Oni su smiješni, pametni i, skupa uzevši, više nego pomalo jezivi.
1. Tko trebaju noge kad možete pasti?
'Simulirani robot trebao se razviti kako bi putovao što je brže moguće. No, umjesto da razvije noge, jednostavno se sastavio u visoki toranj, a zatim pao. Neki od tih robota čak su naučili pretvoriti svoje padajuće kretanje u salto, dodajući dodatnu udaljenost ', piše Shane.
2. Robot koji može-može-može.
'Drugi skup simuliranih robota trebao je evoluirati u oblik koji može skočiti. No programer je prvotno definirao visinu skakanja kao visinu najvišeg bloka pa su - još jednom - roboti evoluirali u vrlo visoke ', objašnjava Shane. 'Programer je to pokušao riješiti definiranjem visine skakanja kao visine bloka koja je prvotno bila' najniža '. Kao odgovor na to, robot je razvio dugu mršavu nogu koju bi mogao udariti visoko u zrak u svojevrsnoj konzervi s robotom. '
3. Sakrijte test i ne možete ga uspjeti.
'Postojao je algoritam koji je trebao sortirati popis brojeva. Umjesto toga, naučila je brisati popis, tako da više nije tehnički nesortiran ', prenosi Shane.
4. Matematičke pogreške pobjeđuju mlazno gorivo.
'U jednoj su simulaciji roboti naučili da male pogreške zaokruživanja u matematici koje izračunavaju sile znače da su kretanjem dobili malo dodatne energije. Naučili su se brzo trzati, stvarajući puno besplatne energije koju su mogli iskoristiti ', kaže Shane. Hej, to je varanje!
5. Nepobjediva (ako je destruktivna) strategija tik-takta.
Jednom kada je skupina 'programera izgradila algoritme koji se mogu daljinski igrati krpelja-takte jedni protiv drugih na beskrajno velikoj ploči', napominje Shane. 'Jedan programer, umjesto da dizajnira strategiju svog algoritma, neka razvija svoj vlastiti pristup. Iznenađujuće, algoritam je odjednom počeo pobjeđivati u svim svojim igrama. Ispostavilo se da je strategija algoritma bila smjestiti svoj potez vrlo, jako daleko, tako da kada bi protivničko računalo pokušalo simulirati novu uvelike proširenu ploču, ogromna bi igraća ploča uzrokovala da joj ponestane memorije i pad, oduzimajući igra.'
6. Nijedna korisna greška u igri ne ostaje neiskorištena.
'Algoritmi računalnih igara doista su dobri u otkrivanju vrsta Matrixovih kvarova koje ljudi obično nauče iskoristiti za brzo trčanje. Algoritam koji je igrao staru igru Atari Q * bert otkrio je ranije nepoznatu grešku gdje je mogao izvesti vrlo specifičnu seriju poteza na kraju jedne razine, a umjesto prelaska na sljedeću razinu, sve platforme počele bi brzo treptati, a igrač bi počeo skupljati ogroman broj bodova ', kaže Shane.
7. Oprosti, pilote.
Ovaj je primjer super visok na ljestvici jezivosti: 'Postojao je algoritam koji je trebao shvatiti kako primijeniti minimalnu silu na avion koji slijeće na nosač zrakoplova. Umjesto toga, otkrio je da će, ako primijeni 'ogromnu' silu, preplaviti memoriju programa i umjesto toga će se registrirati kao vrlo 'mala' sila. Pilot bi umro, ali, hej, savršen rezultat. '
Pa jesmo li svi osuđeni?
Sve to skupa sugerira da su ljudi prilično loši u pretpostavljanju kako će roboti riješiti probleme koje smo im postavili ili čak i kako će ih definirati. Znači li to da znači da je Shane jednako zabrinut zbog slučajne izgradnje ubojitog A.I. nadmoćnici kakav je Musk? Ne baš, ali ne zato što je sigurna da ljudski programeri stvarno izvrsno upravljaju robotima koje stvaraju. Umjesto toga, ona računa na lijenost robota da nas spasi.
'Kao programeri moramo biti vrlo vrlo oprezni da naši algoritmi rješavaju probleme koje smo za njih htjeli riješiti, a ne iskorištavati prečace. Ako postoji drugi, lakši put prema rješavanju određenog problema, strojno učenje će ga vjerojatno pronaći ', primjećuje ona. 'Na našu sreću,' ubiti sve ljude 'zaista je jako teško. Ako i 'ispeci nevjerojatno ukusnu tortu' također riješi problem i lakše je nego 'ubiti sve ljude', tada će uz kolač ići i strojno učenje. '
