I fjor opprettet Facebook to chatbots og ba dem begynne å snakke med hverandre, og øve på forhandlingsferdighetene sine. Botsene, viser det seg, var ganske flinke til å forhandle - men de gjorde det ved å bruke sitt eget sammensatte språk som var uforståelig for mennesker.
Relatert innhold
- Denne kunstneren bor i den hemmelige verden av klassifiserte hemmeligheter og overvåking
Det er her verden går. Datamaskiner skaper innhold for hverandre, ikke oss. Bilder blir tatt av datamaskiner, slik at andre datamaskiner kan se og tolke. Det hele skjer stille, ofte uten vår viten eller samtykke.
Så å lære å se på en datamaskin - å synliggjøre disse maskin-til-maskinkommunikasjonene - kan være det viktigste ferdigheten i det 21. århundre.
Den 25. oktober 2018 spilte Kronos-kvartetten - David Harrington, John Sherba, Hank Dutt og Sunny Yang - en konsert på Smithsonian American Art Museum. De ble overvåket av 400 mennesker og et dusin kunstig intelligensalgoritmer, sistnevnte med tillatelse fra Trevor Paglen, kunstneren bak utstillingen "Sites Unseen", som for øyeblikket er å se på museet.
Mens musikerne spilte, viste en skjerm over dem oss mennesker hva datamaskinene så.
Mens Kronos jobbet seg gjennom et sorgfullt stykke opprinnelig fra Det osmanske riket, oppdaget overliggende algoritmer på skjermen musikernes ansikter, skisserte lepper, øyne og nese for hver person (og så noen ganger "spøkelses" ansikter der det ikke var noen - ofte i Kronos-grunnlegger Harringtons hårmopp). Etter hvert som algoritmene ble mer avanserte, bleknet videostrømmen til bare neonlinjer på svart bakgrunn var igjen. Til slutt ble ansiktskonturene forsvunnet inntil et abstrakt arrangement av linjer - antagelig all datamaskinen som var nødvendig for å forstå "ansikt", men helt uforståelig for mennesker - var alt som var igjen.
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Sight Machine, " Trevor Paglen, Kronos kvartett East Coast-debuten av forestillingen med tittelen "Sight Machine", som Paglenes andre arbeid, ba seere og lyttere om å lære å se slik datamaskiner gjør, og om å undersøke det menneskelige forholdet til teknologi - telefonene i lommene og øynene i himmelen, og alt derimellom.
Det er 2018, og ideen om at mobiltelefoner ser på oss føles ikke lenger som en konspirasjonsteori som er stilt av en tinn-folie-hatt-iført kjellerblogger. Google ble fanget tidligere i år og sporet Android-brukernes beliggenhet, selv om brukere deaktiverte funksjonen. Mange er overbevist om at telefonene våre lytter til oss for å få bedre annonser - Facebook og andre selskaper benekter disse anklagene, selv om det er teknisk og juridisk mulig for dem å gjøre det. Tech-journalister Alex Goldman og PJ Vogt undersøkte og fant det samme: Det er ingen grunn til at telefonene våre ikke ville lytte, men på den annen side kan annonsører skaffe nok informasjon om oss gjennom andre metoder som de bare ikke trenger å .
Det er i denne sammenhengen "Sight Machine" ble fremført. Tusenvis av kameraer som så på Kronos Quartet, sendte livevideo fra forestillingen til et datamaskinstativ, som bruker algoritmer for kunstig intelligens fra hylla for å skape det uhyggelige visuelle. Algoritmene er de samme som brukes på telefonene våre for å hjelpe oss med å ta bedre selfies, de som brukes av selvkjørende biler for å unngå hindringer, og de som brukes av rettshåndhevelse og våpenveiledning. Så mens resultatene på skjermen noen ganger var vakre, eller til og med morsomme, var det en understrøm av redsel.
"Det jeg er forbløffet over med dette arbeidet, er at han viser oss noe som er - og dette er sant for alt hans arbeid - han viser oss noe som er forstyrrende og han gjør det med triks, " sier John Jacob, museets kurator for fotografering, som organiserte "Unseen Sites."
"Det er et bevisst triks, " sier han, "og det fungerer."
Senere dømte sofistikerte ansiktsgjenkjenningsalgoritmer dommer om medlemmene i Kronos, og viste resultatene på en skjerm. "Dette er John [Sherba]. John er mellom 24-40 år gammel, " sa datamaskinen. "Sol [Yang] er 94, 4% kvinnelig. Solig er 80% sint og 10% nøytral."
"En av tingene jeg håper at forestillingen viser, " sier Paglen, "er noen av måtene den slags oppfatning av datamaskinene ikke er nøytral. Den er veldig partisk ... med alle slags politiske og kulturelle forutsetninger som er ikke nøytral. " Hvis kjønnsklassifiseringssystemet sier at Sunny Yang er 94, 4 prosent kvinnelig, betyr det at noen er 100 prosent kvinnelige. "Og hvem bestemte hva 100 prosent kvinnelig er? Er Barbie 100 prosent kvinnelig? Og hvorfor er kjønn en binær?" Spør Paglen. "Ser det som skjer i et øyeblikk der den føderale regjeringen prøver å bokstavelig talt slette queer-kjønnede mennesker, er det morsomt på den ene siden, men for meg er det også grufullt."
En senere algoritme dispenserte fra prosentene og flyttet for å ganske enkelt identifisere objekter i scenen. "Mikrofon. Fiolin. Person. Manet. Parykk." (De to sistnevnte er helt klart feil; algoritmen ser ut til å ha forvirret Hank Dutt for en manet og Harringtons virkelige hår for en toupee.) Da ble klassifiseringene mer komplekse. "Sunny holder en saks, " sa maskinen mens lyset glimret av cellosnorene hennes. "John holder en kniv." Hva som ville skje hvis klassifiseringen ga denne - uriktige - informasjonen til rettshåndhevelse, vil vi aldri vite.
De fleste sluttbrukere av AI-plattformer - som ikke er kunstnere - vil kanskje hevde at disse systemene kan ha sine egne skjevheter, men alltid får et endelig avmelding av et menneske. En Amazon-laget algoritme, Rekognition, som selskapet selger til rettshåndhevelse og muligens ICE, berømte 28 medlemmer av kongressen som en feil som er blitt siktet for en forbrytelse ved å sammenligne ansiktene deres til mugshots i en offentlig tilgjengelig database. Den gangen hevdet Amazon at ACLU, som brukte systemet til å lage fyrstikkene, hadde brukt Rekognisjon feil. Selskapet sa at systemets standardinnstilling for kamper, kalt en "tillitsgrense", bare er 80 prosent. (Med andre ord, algoritmen var bare 80 prosent sikker på at rep. John Lewis var en kriminell.) En talsperson for Amazon sa at den anbefaler at politiavdelingene bruker en tillitsgrense på 95 prosent, og at "Amazon Rekognition nesten utelukkende brukes til å hjelpe begrense feltet og la mennesker raskt kunne vurdere og vurdere alternativer ved å bruke sin dom. ”Datamaskiner kommuniserer muligens med hverandre, men - foreløpig - ber de fortsatt mennesker om å gjøre det endelige anropet.
Musikken, valgt av Paglen med innspill fra Kronos, har også noe å si for teknologi. Et stykke, "Powerhouse, " av Raymond Scott, er "sannsynligvis mest kjent for å bli brukt i tegneserier i fabrikkscener, " sier Paglen. "Hvis du noen gang ser en fabrikk som er for overproduserende og blir gal, er dette ofte musikken som snakker til det. For meg er det en måte å tenke på den nærmest tegneserieindustrialiseringen og på en måte lokalisere dem i teknologisk sammenheng." Et annet stykke, "Different Trains" av Steve Reich, lukket settet. Kronos utfører bare den første bevegelsen, som handler om Reichs barndom på 1930- og 40-tallet; Paglen sier at han tenker på stykket som å feire "en følelse av spådom og fremgang som togene letter." *
Det ble kombinert med bilder fra en offentlig tilgjengelig database kalt ImageNet, som brukes til å lære datamaskiner hva ting er. (Også kalt "treningsdata", så ja, det er litt av et ordspill.) Skjermen blinket bilder umulig raskt, og viser eksempler på frukt, blomster, fugler, hatter, folk som står, folk som går, folk som hopper og enkeltpersoner som Arnold Schwarzenegger. Hvis du ville lære en datamaskin hvordan du gjenkjenner en person, som Schwarzenegger, eller et hus eller begrepet "middag", ville du starte med å vise en datamaskin disse tusenvis av bilder.
Det var også korte videoklipp av mennesker som kysset, klemmer, ler og smilte. Kanskje en AI trent på disse bildene ville være en velvillig og vennlig.
Men "Different Trains" handler ikke bare om optimisme; de senere bevegelsene, som Kronos ikke spilte torsdag, men er "underforstått" av de første, handler om hvordan løftet om togreise ble bevilget til å bli et instrument for Holocaust. Tog, som virket som teknologisk fremgang, ble kjøretøyene der titusenvis av jøder ble flyttet til dødsleirer. Det som virket som en velvillig teknologi ble undergravet for det onde.
"Det er som:" Hva kan gå galt? " Sier Paglen. "Vi samler inn all informasjon om alle menneskene i verden."
Og faktisk, mens "Different Trains" tok slutt, skiftet fokuset. Skjermen viste ikke lenger bilder av Kronos eller treningsdataene fra ImageNet; I stedet viste den en live video-feed av publikum, da ansiktsgjenkjenningsalgoritmer plukket ut hver persons funksjoner. Selv når vi tror vi ikke blir overvåket, er vi det.
I en live video-feed av publikum, valgte ansiktsgjenkjenningsalgoritmer hver persons funksjoner. (Bruce Guthrie) For å rapportere denne historien forlot jeg huset mitt og gikk til t-banestasjonen, hvor jeg skannet et elektronisk kort knyttet til navnet mitt for å gå gjennom turnstilen, og igjen når jeg forlot t-banen i sentrum. I sentrum passerte jeg et halvt dusin sikkerhetskameraer før jeg kom inn i museet, hvor jeg oppdaget minst to til (en talsperson for Smithsonian sier at Smithsonian ikke bruker ansiktsgjenkjenningsteknologi; DC-metropolitiets politiavdeling sier det samme om kameraene sine).
Jeg spilte inn intervjuer ved hjelp av telefonen min og lastet opp lyden til en transkripsjonstjeneste som bruker AI for å finne ut hva jeg og fagene mine sier, og kanskje ikke kan målrette annonsering mot meg basert på innholdet i intervjuene. Jeg sendte e-post ved hjelp av Gmail, som fremdeles "leser" alt jeg sender (selv om jeg ikke lenger skal vise meg annonser).
Under rapporteringsprosessen, da jeg gikk gjennom byen, løp jeg inn på - jeg gjør ikke dette - Google Street View-bilen. To ganger. Det er ikke paranoia hvis de virkelig ser på deg, ikke sant?
Så hva er igjen, i denne verdenen hvor datamaskiner gjør det, og muligens dømmer om oss? "Sight Machine" oppfordrer oss til å lære å tenke som en datamaskin - men det minner oss også om at det er noen deler av oss som foreløpig fortsatt er menneskelige.
Musikk, sier Paglen, "er noe som virkelig ikke kan kvantifiseres ... når du ser på et datasynssystem som i hovedsak forhører utøvere, påpeker det virkelig for meg at det er en enorm kløft i oppfatninger mellom måten vi oppfatter kultur og følelser og mening. og alle måtene de er usynlige for autonome systemer på. "
Eller som Harrington uttrykker det, kan du lage musikk med en fiolin laget av tre eller en laget på en 3D-skriver. Du kan bruke en karbonfiberbue eller en laget av pernambuco-tre. Men, sier han, baugen må fremdeles trekkes over strengene. Musikken "blir mer dyrebar fordi den er håndlaget."
Og foreløpig er det fremdeles noe vi bare kan gjøre. Maskinene trenger ikke lenger oss. Men når det gjelder den høytidelige lyden av en bue på en fiolinstreng, og de emosjonelle strengene som bemerkes slepebånd, trenger vi ikke maskinene.
"Trevor Paglen: Sites Unseen, " kuratert av John Jacob, fortsetter på Smithsonian American Art Museum i Washington, DC til og med 6. januar 2019. Det er planlagt å reise til San Diego Museum of Contemporary Art 21. februar - 2. juni, 2019.
* Redaktørens notat 2. november 2018: Denne historien er redigert for å tydeliggjøre den tilsiktede betydningen og opprinnelseshistorien til Steve Reichs "Different Trains" -komposisjon.
