“ Du blir overvåket .” Denne advarselen åpner hver episode av hiten CBS TV-serien, “Person of Interest”, skapt av The Dark Knight manusforfatter Jonathan Nolan. I kjølvannet av nylige avsløringer om NSA-overvåkning, hugger disse ordene imidlertid nærmere virkeligheten enn science fiction.
“Maskinen” i sentrum av “Person of Interest” er en altoverskyggende kunstig intelligens som sporer bevegelsene og kommunikasjonene til hver person i Amerika - ikke gjennom teoretisk utstyr, men gjennom mobiltelefonnett, GPS-satellitter og overvåkningskameraer samhandle med hver dag. Showets to hovedpersoner, ex-CIA-agent John Reese (Jim Caviezel) og datamaskingeniet Harold Finch (Michael Emerson), bruker denne makten for godt, jager personnummer som systemet identifiserer for å forhindre voldelige forbrytelser, men de er konstant kjemper for å holde maskinen utenfor gale hender.
“Person of Interest” har vært foran kurven for myndighetsovervåking siden det debuterte i 2011, men showrunnerne Nolan og Greg Plageman ( NYPD Blue, Cold Case ) har fulgt temaet i mange år. Begge forfatterne vil vises på Lemelson Center-symposiet, "Inventing the Surveillance Society", fredag 25. oktober kl. 20.00. Vi fanget opp paret for å snakke om balansen mellom privatliv og sikkerhet, den "svarte boksen" til Gmail og mobiltelefonens panopticon i Nolans The Dark Knight .
Jeg vil begynne med elefanten i rommet: NSA-spionasjeavsløringer. Nå som vi har et definitivt bevis på at regjeringen ser på oss, kan dere si: "Jeg sa det, " med hensyn til overvåkingen av "Person av interesse." Hvordan reagerte du da du hørte om regjeringens PRISM-overvåking program, lekket av tidligere NSA-entreprenør Edward Snowden?
Jonathan Nolan: Med en blanding av jubel og redsel. “Vi hadde rett, å, kjære, vi hadde rett .” Shane Harris, som ble med oss på panelet på fredag, er den vi dro til igjen og igjen for forskning, og PRISM var virkelig toppen av isfjellet. Ikke for å høres snobbete ut, men for folk som leste avisene nøye, var de ikke avsløringer i det hele tatt. William Binney, en annen varslere fra NSA som ikke er på flukt, har sagt dette offentlig i mange år, noe som peker på dette andre interessante aspektet - det faktum at allmennheten kanskje ikke bryr seg om det er en massiv overvåkningsstat. Etter hvert som historien utviklet seg, har Glenn Greenwald og The Guardian og the Washington Post, med tanke på dokumentene de har fra Snowden, forsøkt å holde historien foran brenneren. Det er klart historien har fått trekkraft. Men i hvilken grad publikum faktisk vil stille opp med det, er faktisk et spørsmål vi prøver å ta tak i nå på showet.
Var du overrasket over publikums svar, eller mangel på det?
Greg Plageman: Ja, jeg tror virkelig at utryddelseskapasiteten er blitt smeltet av bekvemmelighet. Folk elsker telefonene sine, de elsker Wi-Fi-en, de elsker å være koblet til, og alt som er kablet skyves nå inn i skyen. Vi bruker det hele tiden, hver dag, og vi kan ikke forestille oss livene våre nå uten det. Hva presidenten har sagt, hvordan vi må få en balanse mellom privatliv og sikkerhet - problemet er at de ikke gjør det. Det gjør de aldri. Og de ville ikke brydd seg med å betale leppetjeneste for det hvis Snowden ikke hadde blåst fløyta. Så jeg tror nå folk kommer fra “OK, så hva?” Når du forteller dem at konsekvensen er at vi blir mindre sikre, eller at du mister litt bekvemmelighet i livet ditt, er det da folk har en tendens til å bli plassert. Jeg tror det er en skummel sone der vi kommer inn som underholdere og sier, la oss presentere for deg det hypotetiske, dramatisk, om hvorfor du bør bry deg. Det er moroa med showet vårt.
Hvordan veier du personlig inn på den debatten? Hvor mye frihet føler du at vi kan eller bør ofre for sikkerhet?
Nolan: Det er en grunn til at folk sender brev med voksforsegling. Den følelsen av privatliv, konflikten mellom staten og innbyggernes behov, har eksistert i en veldig lang tid. Vi er ganske mistillitlige, i hvert fall på forfatterrommet, til alle som kommer inn med et forenkelt svar på det spørsmålet. Det hele er forferdelig, eller i sikkerhets navn kan du få tilgang til alle tingene mine, er et svar som bare er akseptabelt, om mulig, på kort øyeblikk, der vi ikke er i krig, og det er ikke utbredt mistanke om den amerikanske offentligheten.
Vi har sagt dette fra begynnelsen, fra piloten og framover: personvernet er forskjellig fra hva du har i sekken. Når regjeringen tar personvernet ditt, vet du ikke nødvendigvis at det er tatt fra deg. Det er en fungibel, usynlig ting. Derfor er dette argumentet som Snowden har trukket ut til offentlig syn, veldig sunt for landet å ha. Hvis noen tar bort retten til å uttrykke deg eller retten til å sette sammen eller noen av rettighetene i Bill of Rights, vil du vite om det. Men når noen tar bort personvernet ditt, har du kanskje ingen anelse før det er altfor sent å gjøre noe med det.
Hvordan utviklet du maskinen i “Person of Interest”? Hvorfor fikk du det til å fungere slik det gjør?
Nolan: Vi bruker bare fantasien. Vi undersøkte. Aspekter av showet som ved første rødme, når piloten først kom ut, blir folk slags avskjediget som nysgjerrige - som hvorfor ikke finner de ut om personen er et offer eller en gjerningsmann, hvorfor får de ikke mer informasjon enn personnummer? Det er et flott hopppunkt for et fint stykke drama, absolutt. Vi er ikke sky over det. Men faktisk var mye av mekanismen til maskinen basert på Admiral Poindexter og Total Information Awareness, som var oldemor til PRISM.
Poindexter er en veldig interessant promethean skikkelse som fant ut mye av det allmennheten nå akkurat begynner å bli vind av. Verktøyene var allerede her for å skrelle tilbake alle lagene til hver person i USA. Det blir nå tydeligere at det ikke er noen måte å være sikker på at du har gjemt tale- eller e-postkommunikasjonen din fra myndighetene. Det er nesten umulig. Hvis du vil kommunisere privat, er det en samtale fra person til person, og mobiltelefonen din er bokstavelig talt igjen et annet sted eller ødelagt, som vi gjør i showet vårt hele tiden, eller håndskrevne meldinger. Vi har virkelig gått inn i det øyeblikket.
Så spørsmålet var hvordan du gjør dette samvittighetsfullt? Hvis vi skulle bygge dette, hvordan sikrer du at det ikke kan brukes til korrupte formål? Hvordan kan du være sikker på at det ikke brukes til å eliminere politiske rivaler eller å kategorisere amerikanere etter deres politiske profiler eller deres tilbøyeligheter, alt det slags? Det virket som det enkleste svaret på det spørsmålet var å gjøre denne tingen til en svart boks, noe som tar opp all denne informasjonen og spytter ut de riktige svarene, som interessant er nøyaktig hvordan Gmail fungerer. Derfor er vi alle villige til å bruke Gmail - fordi vi blir lovet at et menneske aldri vil lese e-postene våre. En maskin vil lese dem; det vil mate oss annonser uten å invadere personvernet vårt. Og det er et kompromiss vi har vært villige til å inngå.
(John P. Filo / CBS © 2011 CBS Broadcasting Inc.) Showet sier eksplisitt at maskinen ble utviklet som svar på 9/11, at 9/11 innledet denne nye overvåkningstiden. Akkurat nå ser det ut til at vi kanskje skal inn i en ny epoke etter Snowden, der vi, allmennheten, er klar over at vi blir overvåket. Hvordan vil showet svare på den nye virkeligheten - vår virkelighet utenfor showets verden?
Plageman: Når det gjelder hvorvidt vi kommer inn i en annen epoke, er det vanskelig å si når du innser at overgrepet mot personvern er både offentlig og privat nå. Det er Google, det er Facebook, det er det du frivillig har overgitt. Det Jonah og jeg og forfatterne har snakket om er: Hva har du personlig gjort med det? Har du endret surfevanene dine? Har du gått til en mer anonym e-postleverandør? Har noen av oss gjort noen av disse tingene? Det er litt redd, og vi reagerer alle og sier, vent litt, må jeg være mer personvernbevisst når det gjelder hvordan jeg bruker teknologi? Og sannheten er at det er en enorm smerte i rumpa. Jeg har prøvd et par av disse nett surfing-programvarene, men det bremser ting. Til slutt, hvis du vil være en person som er tilkoblet, og hvis du vil holde kontakten med kollegaene og familien din, innser du at du må overgi en viss grad av privatliv.
Jeg tror også, bare å ha en sønn som nå går inn i tenårene, at det er et stort generasjonsgap mellom hvordan vi ser på personvern. Jeg tror eldre generasjoner ser det som noe vi har krav på, og jeg tror til en viss grad at yngre generasjoner som har vokst opp med Facebook, ser det som noe som allerede er død eller lurer på om det virkelig betyr noe, fordi de ikke forstår ikke konsekvensene av personvernets død.
Nolan: Når det gjelder fortellingen om showet vårt, har vi allerede begynt å se på ideen om at det vil komme et tilbakeslag. Kanskje dette er ønsket, fordi vi har sett på dette problemet så lenge den litt underholdende responsen på avsløringene fra Snowden. Vi ser absolutt ikke etter folk til å ta revolusjon i gatene. Men du føler at det ville være en trøst om det var en aggressiv debatt om dette i kongressen - og snarere tvert imot. Du hadde begge politiske partier i lås bak denne presidenten, som ikke tok initiativ til denne politikken, men har hatt godt av den utvidede makten til den utøvende myndigheten, på plass i generasjoner av presidenter fra etterkrigsmiljøet, fra Hoover og FBI og fremover. Det er ikke mye debatt om disse spørsmålene, og det er veldig, veldig skremmende. Vi er veldig nær øyeblikket da sjansen kommer helt ut av flasken.
Et av spørsmålene Shane tar for seg mest eksplisitt i boka hans, er lagring. Det høres ut som en banalitet, som det minst sexy aspektet av dette, men lagring på mange måter kan faktisk være den mest dype delen av dette. Hvor lenge er myndighetene i stand til å henge på denne informasjonen? Kanskje vi stoler på president Obama og alle menneskene som er ved makten med denne informasjonen. Hvem vet hva vi vil mene om presidenten tre presidentene fra nå? Og hvis han fortsatt har tilgang til e-postene mine fra 2013, i et annet politisk miljø der plutselig politi som er mainstream nå blir politi, eller folk blir sortert i leire eller avrundet? Det høres ut som paranoia på hattefolie, men hvis vi ser på historien realistisk, skjer dårlige ting ganske regelmessig. Ideen om at ordene dine, assosiasjonene dine, livet ditt, til det punktet kunne bli bufret et sted og hentet - det føles veldig som et brudd på systemet, i form av å vitne mot deg selv, fordi i dette tilfellet er prosessen automatisk.
Disse spørsmålene vi er fascinert av er en del av showet vårt. Vi presenterte showet vårt som science fiction i begynnelsen - men det viser seg, kanskje ikke så fiktivt som folk skulle håpe. En annen science fiction-komponent som vi utforsker i andre halvdel av denne sesongen, er den kunstige intelligensen til det hele. Vi tok den holdningen at i dette hissige, etter 11/11 å forhindre at forferdelige ting skulle skje, ville den eneste sanne løsningen være å utvikle kunstig intelligens. Men hvis du skulle utlede motivene til et menneske, ville du trengt en maskin minst like smart som et menneske. Det er virkelig stedet der showet forble, til vår kunnskap, science fiction - vi er fremdeles langt unna. I andre halvdel av sesongen undersøker vi implikasjonene av mennesker som samhandler med data etter hvert som dataene blir mer interaktive.
Jonathan, du har utforsket ideen om overvåking i The Dark Knight. Hvordan utviklet du systemet Batman bruker for å tappe mobiltelefonene i Gotham?
Nolan: Det med en mobiltelefon er at det er utrolig enkelt og det er en total trojansk hest. Forbrukerne tenker på det som noe de bruker - sine små tjenere. De vil ha et stykke informasjon, de trekker det ut og de ber det. De tror ikke at det gjør noe annet enn det; det er ganske enkelt å jobbe på deres vegne. Og sannheten er, fra regjeringens perspektiv eller fra private virksomheters perspektiv, er det et fantastisk apparat for å komme ubevisst til forbrukeren. Det registrerer hastigheten deres, deres posisjon, deres holdning, selv om du ikke legger Twitter inn i miksen. Det er utrolig kraftig.
I The Dark Knight, riffing av historier fra eksisterende Batman tegneserier. Det er en skiftende side til der han alltid spiller på den kanten av hvor langt er for langt. I tegneseriebøkene har han i det minste en beredskap og en plan for alle. Han vet hvordan han skal ødelegge vennene og allierte, hvis de skulle bli fiender, og han er alltid et skritt foran. I et par forskjellige historier i tegneseriene Batman, leker de med ideen om at han ville begynne å konstruere. I tegneseriene handlet det hovedsakelig om å spionere på vennene hans og de allierte og resten av Justice League. Men for oss føltes det mer interessant å ta eksisterende teknologi og finne en måte noen som Bruce Wayne, som er dette strålende sinnet brukt på verktøybeltet. Det er alle disse dingsene og verktøyene rundt ham - hvorfor skal det stoppe der? Hvorfor ville han ikke bruke sin formue, sin innflytelse og sin glans for å undergrave et forbrukerprodukt til noe som kan gi ham informasjon?
I de forrige inkarnasjonene av Batman på film, var det vanligvis skurkene som gjorde det - å rigge opp en enhet som sitter på TV-en din og hypnotiserer deg og gjør deg til en acolyte for Riddler eller hva. I denne fant vi ideen videre fordi Batman, mest interessant, er litt av en skurk selv - eller i det minste er en hovedperson som kler seg som en skurk. Så han skaper dette altoppsiktsvekkende øyet, panopticon, som jeg har vært interessert i siden jeg var barn som vokste opp i England, hvor de hadde CCTV-kameraer overalt på 1970- og 1980-tallet.
ville distribuere de som et kjernefysisk alternativ når det gjelder å prøve å spore opp Joker-teamet, noe som definitivt talte til dualiteten til karakteren. Han gjør moralsk tvilsomme ting for en god slutt - forhåpentligvis. I The Dark Knight, så episk og så lang tid som det tok oss å gjøre det, fikk jeg bare klø på overflaten til denne saken, djevelens kjøp av: Hva om noen bygde dette for et virkelig godt, virkelig entall formål? Hvilket nivå av ansvar ville de føle overfor det, mot det de skapte?
Det er noe du virkelig håper at regjeringen sitter og plager over. Jeg håper regjeringen bruker like mye tid på å bekymre seg for dette som Bruce Wayne og Lucius Fox gjør i The Dark Knight, men jeg er ikke 100 prosent sikker på at det er tilfelle. Helt klart hvis du ser på politetens historie og måten myndighetene samhandler med kontroller og balanser, trenger du en krise, trenger du en skandale, trenger du noe for å fremme denne selvpolitiseringen.
Greg Plageman, Jonathan Nolan og Jim Caviezel i settet “Person of Interest.” (Foto med tillatelse fra CBS) Plageman: Sier du at FISA-domstolen er en vits, Jonah?
Nolan: Hvis det er en vits, er det en vits for oss alle. Men igjen, vi vil ikke høres usympatiske ut. "Person of Interest" tar for gitt forekomsten av denne enheten, og potensielt kontroversielt, ideen om at i rette hender kan en slik enhet være en god ting. Men jeg tror ikke Greg og jeg eller noen av forfatterne våre noen gang ser på dette problemet og reduserer det til svart og hvitt.
Noen ganger har vi lest at showet er en slags unnskyldning for PRISM og overvåkningstilstanden, akkurat som jeg hadde lest, for noen år siden, visse kommentatorer som så på The Dark Knight og innbiller meg at det var en slags unnskyldning for George Bush . Alle disse ideene er latterlige. Vi ser på dette showet som en flott mekanisme for å stille spørsmål, og ikke gi svar. Det er der vi håper det ikke er didaktisk, og The Dark Knight var absolutt ikke ment som didaktisk. Jeg tror hvor vi var foran kurven når det gjaldt “Person of Interest” var at det vi antok fortsatt var et spørsmål for alle andre. Vi startet showet på en måte etter posten Snowden, som du sa det. Showets forutsetning er at overvåkningstilstanden er en gitt, og vi endrer ikke det, og du stapper ikke genien tilbake i flasken. Så hva gjør vi med all den andre informasjonen? At jeg tror i økende grad vil bli den virkelige kvartalen de neste 10 til 15 årene.
Jonathan Nolan, Greg Plageman og Shane Harris vil tale i en paneldebatt fredag 25. oktober, som en del av Lemelson Center-symposiet, “Inventing the Surveillance Society.” Denne begivenheten er gratis og åpen for publikum. Sitteplasser er begrenset; førstemann til mølla.
