Samo devet divovskih tehnoloških tvrtki u SAD-u i Kini stoji iza velike većine napretka u umjetnoj inteligenciji u svijetu. U svojoj novoj knjizi, Velika devetka: Kako bi tehnološki titani i njihovi strojevi za razmišljanje mogli iskriviti čovječanstvo (PublicA дела, 5. ožujka), Amy Webb predviđa tri moguće budućnosti, u rasponu od optimistične do apokaliptične, koje bi mogle proizaći iz radnji koje poduzimamo - ili ne poduzimamo - da bismo kontrolirali razvoj A.I. i oblikuju njegov globalni utjecaj. U ovom odlomku ona iznosi niz teških etičkih pitanja koja su ljudi koji grade A.I. sustavi trebaju koristiti za usmjeravanje svog rada.
Pravila - algoritam - po kojima žive svaka kultura, društvo i nacija, i koji su ikada živjeli, uvijek je stvorilo samo nekoliko ljudi. Demokracija, komunizam, socijalizam, religija, veganstvo, nativizam, kolonijalizam - to su konstrukti koje smo razvijali kroz povijest kako bismo pomogli u vođenju naših odluka. Ni u najboljim slučajevima nisu za budućnost. Tehnološke, socijalne i ekonomske snage uvijek interveniraju i uzrokuju da se prilagodimo.
Deset zapovijedi čine algoritam namijenjen stvaranju boljeg društva za ljude žive prije više od 5000 godina. Jedna od zapovijedi je uzeti cjelodnevni odmor tjedno i taj dan uopće ne raditi. U moderno doba većina ljudi ne radi točno iste dane ili sate iz tjedna u tjedan, pa bi bilo nemoguće ne prekršiti pravilo. Kao rezultat toga, ljudi koji slijede Deset zapovijedi kao vodećeg načela fleksibilni su u interpretaciji, s obzirom na stvarnost duljih radnih dana, nogometne prakse i e-pošte. Prilagođavanje je u redu - stvarno dobro funkcionira za nas i za naša društva, omogućujući nam da ostanemo na dobrom putu. Dogovaranje oko osnovnog skupa smjernica omogućuje nam optimizaciju za sebe.
Josh Blaylock i Johanna Braddy se razvode
Ne bi bilo načina stvoriti skup zapovijedi za A.I. Nismo mogli zapisati sva pravila za ispravnu optimizaciju za čovječanstvo, a to je zato što, iako misleći strojevi mogu biti brzi i moćni, nedostaje im fleksibilnosti. Ne postoji jednostavan način da se simuliraju iznimke ili da se unaprijed pokuša razmisliti o svakom pojedinom slučaju. Kakva god pravila mogla biti napisana, uvijek će se dogoditi okolnost u kojoj će neki ljudi možda htjeti različita tumačenja pravila ili ih potpuno ignorirati ili izraditi izmjene i dopune kako bi se upravljalo nepredviđenim okolnostima.
Znajući da nikako ne možemo napisati niz strogih zapovijedi koje bismo slijedili, bismo li trebali umjesto toga svoju pažnju usmjeriti na ljude koji grade sustave? Ti ljudi - plemena A.I. - trebali bi si postavljati neugodna pitanja, počevši od:
večerašnja plaća stevea higginsa
- Što je naša motivacija za A.I.? Je li usklađen s najboljim dugoročnim interesima čovječanstva?
- Koje smo vlastite pristranosti? Koje ideje, iskustva i vrijednosti nismo uspjeli uključiti u svoje pleme? Koga smo previdjeli?
- Jesmo li u svrhu stvaranja budućnosti A.I. uključili ljude koji nisu za nas sami? bolje - ili smo jednostavno uključili raznolikost u svoj tim kako bismo ispunili određene kvote?
- Kako možemo osigurati da naše ponašanje bude uključivo?
- Kakve su tehnološke, ekonomske i socijalne implikacije A.I. razumjeli oni koji su uključeni u njegovo stvaranje?
- Koja bismo temeljna prava trebali ispitivati skupove podataka, algoritme i procese koji se koriste za donošenje odluka u naše ime?
- Tko može definirati vrijednost ljudskog života? Protiv čega se odmjerava ta vrijednost?
- Kada i zašto oni u plemenima A.I. smatraju da je njihova odgovornost baviti se društvenim implikacijama A.I.?
- Da li vodstvo naše organizacije i naše A.I. plemena odražavaju mnogo različitih vrsta ljudi?
- Kakvu ulogu imaju oni koji komercijaliziraju A.I. igrati u rješavanju društvenih implikacija A.I.?
- Trebamo li nastaviti uspoređivati A.I. ljudskom razmišljanju, ili je za nas bolje da ga kategoriziramo kao nešto drugačije?
- Je li u redu graditi A.I. koja prepoznaje i odgovara na ljudske osjećaje?
- Je li u redu da A.I. sustavi sposobni oponašati ljudske osjećaje, pogotovo ako uči od nas u stvarnom vremenu?
- Koji je prihvatljivi trenutak u kojem smo svi u redu s A.I. razvijati se bez ljudi izravno u petlji?
- Pod kojim okolnostima bi A.I. simulirati i iskusiti uobičajene ljudske emocije? Što je s boli, gubitkom i samoćom? Jesmo li dobro što uzrokujemo tu patnju?
- Razvijamo li A.I. tražiti dublje razumijevanje sebe? Možemo li koristiti A.I. da pomogne čovječanstvu da živi ispitivaniji život?
Postoji devet velikih tehnoloških tvrtki - šest američkih i tri kineske - koje su u glavnom odgovorne za budućnost umjetne inteligencije. U SAD-u su to Google, Microsoft, Amazon, Facebook, IBM i Apple ('G-MAFIA'). U Kini su to NRT: Baidu, Alibaba i Tencent.
G-MAFIA je počeo rješavati problem vodećih načela kroz razne istraživačke i studijske skupine. Unutar Microsofta je tim nazvan FATE - za pravednost, odgovornost, transparentnost i etiku u A.I. Nakon skandala Cambridge Analytica, Facebook je pokrenuo etički tim koji je razvijao softver kako bi osigurao da njegov A.I. sustavi izbjegavali pristranost. (Primjetno je da Facebook nije otišao toliko daleko da je stvorio etički odbor usredotočen na A.I.) DeepMind je stvorio tim za etiku i društvo. IBM redovito objavljuje o etici i A.I. Nakon skandala u Baiduu - tražilica je dala prednost zavaravajućim medicinskim tvrdnjama iz vojne bolnice, gdje je liječenje rezultiralo smrću 21-godišnjeg učenika - izvršni direktor Baidua Robin Li priznao je da su zaposlenici kompromise zbog rasta zarade Baidua i obećao da će se u budućnosti usredotočiti na etiku.
koliko godina ima laurie greiner
Velika devetka proizvodi studije etike i bijele knjige, saziva stručnjake za raspravu o etici i domaćin je panela o etici - ali taj napor nije dovoljno isprepleten sa svakodnevnim radom različitih timova koji rade na A.I.
Velika devetka A.I. sustavi sve više pristupaju našim stvarnim podacima kako bi stvorili proizvode koji pokazuju komercijalnu vrijednost. Razvojni ciklusi ubrzavaju se kako bi išli u korak s očekivanjima investitora. Bili smo voljni - ako ne i nenamjerno - sudionici budućnosti koja se stvara na brzinu i bez prethodnog odgovora na sva ta pitanja. Kako je rekao A.I. sustavi napreduju i više svakodnevnog života postaje automatizirano, što manje kontrole imamo nad odlukama koje se donose o nama i umjesto nas.
Amy Webb pojavit će se na Inc. Kuća osnivača u Austinu 11. ožujka.
