I en ikke altfor fjern fremtid blir Johannesburg, råtten av kriminalitet, den første byen som noensinne har distribuert en flåte med autonome robotpolitiske droider. Til å begynne med virker maskinene som en effektiv løsning. Kriminalitet synker drastisk og prosjektet hylles som en suksess - til noe går galt. Rap-rave gangstere som leter etter en rask lønningsdag kaprer en skadet droid planlagt til riving. Ved hjelp av en ingeniør som ble tvunget til pistol, omprogrammerer de droid, kalt Chappie, som et autonomt middel, og skaper effektivt singulariteten, der kunstig intelligens blir smartere enn menneskelig intelligens.
Som mest god science fiction fungerer regissør Neill Blomkamp sin nye film, Chappie , som en kommentar til menneskets natur og aktuelle problemer, inkludert fattigdom, kriminalitet, diskriminering, mobbing og politiets brutalitet. Men det reiser også mer prescient spørsmål om hva mange tror - for bedre eller verre - vil være en uunngåelig fremvekst av sentient kunstig intelligens.
"I det siste, over hele linjen, er alt mennesker unnfanget av, uavhengig av etikk og moral, blitt prøvd ut og om mulig gjort, " sier Wolfgang Fink, fysiker ved University of Arizona og California Institute of Technology . "Autonome systemer vil dukke opp hvis noen finner ut hvordan de skal opprettes - det er en gitt."
Faktisk forfølger mange forskere, inkludert Fink, febrilsk denne forskningsgrensen, og det er allerede gjort fremskritt. Bortsett fra Chappie selv, er mye av robotikken som er avbildet i filmen faktisk allerede tilgjengelig eller veldig nær å være tilgjengelig. Eksternt betjente roboter som ligner på filmens Moose - den grusomme dødsmaskinen som minner om Robocops ED-209 som drives av Hugh Jackmans forvirrede politimann - eksisterer i dag.
På samme måte er roboter som Chappie- politiets droider - de som er programmert som regelbaserte systemer og er kunstig intelligente, men som mangler selvbevissthet eller autonomi - nesten klare, selv om deres batterilevetid og smidighet ikke samsvarer med modellene som vises. gatene i Johannesburg. Hvis og når slike maskiner blir satt ut, er det kanskje ikke så radikalt for oss å godta. "Vi er veldig flinke til å tilvenne og bli vant til endringer i miljøet, inkludert teknologiske, " sier Ali Mattu, en klinisk psykolog ved Columbia University Medical Center og skaper av Brain Knows Better, en science fiction-psykologblogg. "Ettersom roboter blir en del av vårt daglige liv, tror jeg på noen måter det kan føles sømløst."
En politidroid gjør imidlertid ikke en autonom stemning. Et virkelig selvstyrt, selvbevisst vesen som Chappie ville være en avgang fra alt som noen gang er sett før. "I tiden siden neandertaler, har vi aldri hatt potensial til å samarbeide med en helt ny art som er intelligent, " sier Mattu. "Hvis vi kan overvinne hindringene for å dele empati med en kunstig livsform, kan dette føre til en fantastisk alder for menneskeheten."
Maskinvare er ikke det hinderet som forhindrer at et slikt vesen dukker opp - det er ganske enkelt en ingeniøroppgave, sier Fink. I stedet er det å lage programvaren - spøkelset i maskinen - den virkelige utfordringen. Forskere tar to forskjellige tilnærminger mot dette problemet. Noen prøver å skape et klar-til-laste sentient vesen fra bunnen av, mens andre tenker at å skrive et grunnleggende program utstyrt med verktøyene det trenger for å lære, tilpasse og endre seg selv gjennom erfaring - som sett av Chappie - er veien å gå . Som Fink forklarer: "Det dreier seg om å enten bake paien og sette paien inn i systemet, eller gi systemet ingrediensene til paien og overlate det til systemet å bake den."
Når gjennombruddet kommer, vil det mest sannsynlig ikke skje gradvis, men plutselig, som avbildet i Chappie . Fink spår at - i stedet for at et universitet, regjering eller selskap tar æren - forstyrrelsen som fører til enestående vil bli levert av et lite team av forskere eller til og med et enkelt individ, sannsynligvis støttet av en velstående privat finansierer, begeistret av friheten å eksperimentere og gå fri fra konservativ mainstream-forskning. Det er faktisk nesten scenariet i Chappie : Chappie er ikke skapt av et massivt selskap, men av en selvstyrt ingeniør, spilt av Dev Patel, som bruker alle ressursene som tilbys av den koselige dagjobben sin for å støtte sitt eget enormt forskjellige arbeid på autonom kunstig intelligens om natten.
Når først virkelig selvstyrende kunstig intelligens dukker opp, vil det imidlertid være umulig å forutse hvor komplekst systemet vil bli, eller i hvilken retning det vil utvikle seg. I motsetning til organiske systemer som oss, ville det ikke være begrenset av den langsomme slog av biologisk evolusjon. Utviklingen vil være eksplosiv. Det er ingen garanti for at et slikt system vil ta i bruk eller beholde et sett av moralske eller etiske verdier - eller at disse verdiene vil omfatte mennesker. Når det gjelder Chappie - som utvikler seg som et menneskebarn, lærer og modnes når tiden går - går et tidlig løfte om ikke å skade mennesker langt i å holde robotens handlinger i sjakk. Men når Chappie trues med utslettelse, legger Chappie, som mange mennesker, i stor grad sin moral til side og opptrer av ren egeninteresse og forsvarer seg selv om det betyr å skade andre.
Og mens Chappie opplever som relatabel og menneskelignende, ville en robot i den virkelige verden muligens ikke overholde menneskelignende resonnement, og redusere vår evne til å forutse handlingene eller forstå dens motivasjoner. "Når du når dette nivået, har du i grunn mistet kontrollen over systemet, " sier Fink. "Det er både spennende og skummelt, fordi det ikke vil være menneskelig."
I tillegg, enten programvaren opprinnelig bor på skallet til en Chappie-lignende humanoidrobot, et romskip eller til og med et implantat i kroppen din, når den slipper unna rammen av den fysiske formen - slik det er avbildet (om enn cringe-verdig) i Transcendens - ville det være nesten umulig å inneholde det.
Mens science-fiction bøker og filmer har spekulert over spørsmålet om kunstig intelligens i flere tiår, påpeker Fink at det nødvendige gjennombruddet "bokstavelig talt kan skje når som helst nå." Det er ikke alle som er komfortable med dette. I januar i fjor donerte PayPal medgründer og administrerende direktør i Tesla Motors Elon Musk 10 millioner dollar for å forhindre at robotoverherrer en dag tar over planeten og eliminerer oss. Ved å forsøke å skape autonom kunstig intelligens, advarer han, "kaller vi demonen."
Musk er ikke alene i sin skremmelse om denne forskningsgrensen. I en nylig reddit “Ask Me Anything” -tråd skrev Microsoft medgründer og filantrop Bill Gates at han er “i leiren som er opptatt av super intelligens” og “forstår ikke hvorfor noen mennesker ikke er opptatt av” kunstige kunstige mennesker. vesener som overskrider våre egne kognitive evner og får autonomi. Fysiker Stephen Hawkings deler også den bekymringen, og artikulerer det enda mer tydelig: "Utviklingen av full kunstig intelligens kan utgjøre slutten på menneskeslekten, " sa han til BBC.
Til og med storfilmene på tegneserien trår på denne godt slitte banen, normalt forbeholdt science fiction-sjangeren. Som antydet i den siste traileren til Marvel’s Avengers: Age of Ultron, kjemper filmens helter med en robot som opprinnelig ble opprettet som planetens frelser fra krig, men bestemmer seg i stedet for å utrydde menneskeheten.
På flippen kan imidlertid mennesker være de aggressive, og true eksistensen av de autonome vesener vi selv skaper, som avbildet i Chappie . Om vi mennesker forfølger en fredelig vei avhenger i stor grad av to ting, sier Mattu: om vi kan kommunisere med robotene, og om vi har empati for dem. Det siste, forklarer han, er avhengig av tilsynelatende grunne faktorer som hvordan robotene ser ut - Har de øyne? Ser de like ut, men ikke for like, på oss? - og om de kommer over som generelt sett likelige. Å dele de samme målene som oss ville også hjelpe saken deres. Disse faktorene utnytter vår medfødte nevrologiske tendens til å kategorisere andre som enten en del av vår pålitelige gruppe eller som en del av en potensielt truende ut-gruppe. Robotikere tar hensyn til slike psykologiske faktorer når de designer sine nyeste maskiner.
Mattu påpeker imidlertid at selv om robotene tilfredsstiller alle disse forutsetningene, er det fortsatt ingen garanti for at ting vil gå bra. "Mennesker har vanskelig nok for å se hverandre som mennesker, enn si AI eller fremmed liv, " sier Mattu. "Vi har også en historie med at de første kontaktene går veldig dårlig."
Så det kan være at vi ødelegger vår skapelse før vi til og med blir kjent med det, eller at det motsatte går i oppfyllelse - at programvareavkomet vårt gjør slaver av oss alle som vi ser i Matrix, eller bestemmer, Skynet-stil, at menneskeheten rett og slett ikke er er ikke verdig tilværelsen. På den annen side kunne mennesker og autonome roboter omfavne hverandre og bli enige om å samarbeide om interessante sysler som romutforskning. Den eneste måten å finne ut om ting ender i flammer og tårer eller fremgang og vennskap, er imidlertid å skape disse vesener i utgangspunktet. Men hvis fortiden er noen indikator, vil det bare være et spørsmål om tid. "Vi er alltid drevet av nysgjerrighet, av et ønske om å utforske og oppdage det uventede, " sier Fink. "Og vitenskapelig etikk har en tendens til å henge etter vår fremgang."
"Noen ganger får vi atomkraft, og noen ganger får vi atomvåpen, " legger Mattu til. "Vi vet ikke hvilken retning det vil ta, men vi kan ikke stoppe vitenskapen."
