Hva får du når du kombinerer Netflix “Black Mirror” og sosialpsykolog Stanley Milgrams kontroversielle elektrosjokkeksperimenter om fri vilje kontra lydighet? Ingen kan si sikkert, men det er sannsynlig at dette dystopiske kjærlighetsbarnet vil se veldig ut som BeeMe, et sosialt eksperiment på nettet som startet klokka 23 onsdag kveld.
Som Dave Mosher rapporterer for Business Insider, er folk ved Massachusetts Institute of Technology's Media Laboratory bak eksperimentet, som vil tillate en gruppe internettbrukere å kontrollere et menneske fra den virkelige verden når han eller hun prøver å beseire en ond kunstig intelligens kalt Zookd .
"I tider hvor algoritmer tar mesteparten av beslutningene våre for oss, vil en person helt gi fra seg sin fri vilje for en dag, for å bli veiledet av et stort publikum av brukere gjennom en episk søken etter å beseire en ond AI, " uttaler nettstedet BeeMe . "Hvem er ansvarlig? Hvem er ansvarlig for ens handlinger? Hvor slutter den enkelte og andre begynner? ”
MIT-laboratoriet har noe av en tradisjon for å markere Halloween på en så skremmende måte. De siste årene har de brakt oss Nightmare Machine og Shelley. Førstnevnte forvandlet vanlige fotografier til marerittinduserende scener, mens sistnevnte har skrevet skrekkhistorier i samarbeid med Twitter-brukere.
Men i år har laget virkelig lagt opp spillet. I følge prosjektbeskrivelsen er BeeMe verdens første “reality augmented game” - en lekende reversering på det voksende feltet til augmented reality.
Niccolò Pescetelli, en kollektiv etterretningsforsker ved laboratoriet, forteller til Mosher at spillet vil inneholde en trent skuespiller som er ansatt for å skildre den menneskelige marsvinen på kommando av en fanget online publikum. Skuespillerens beliggenhet og identitet vil ikke bli avslørt, men deltakerne vil kunne se hans eller hennes handlinger gjennom en voyeuristic videoopptak.
For å styre “karakterens” trinn, må internettbrukere sende inn kommandoer som kan variere fra den verdige avgjørelsen om å “lage kaffe” til den mer forhåndsbestemte rekkefølgen av å “løpe vekk.” Deltakerne vil stemme om utvalget av innsendte handlinger, og skuespiller vil fremføre de som har flest stemmer.
Det er selvfølgelig parametere for spillet: BeeMe vil slutte å ikke tillate kommandoer som bryter loven eller sette skuespilleren, deres personvern eller sitt bilde i fare. Men spillet vil ikke pålegge grenser utover det, noe som lar døra være åpen for mye ondskap.
Hva er implikasjonene av å slette noens fri vilje, selv for bare en natt med faste begrensninger? Tilbake på 1960-tallet kastet Milgrams studier noe lys over dette og fant at individer under påvirkning av en autoritativ figur ofte følger ordrer i enestående grad. I sine eksperimenter var 65 prosent av deltakerne som opptrådte som "lærere" enige om å gi et maksimalt sjokkstøt på 450 volt til uvettige "elever", som faktisk var skuespillere som bare lot til å oppleve effekten av de dødelige sjokkene.
Som Verge 's Shannon Liao påpeker, føles BeeMe nesten som om den ble løftet fra en “Black Mirror” -episode fra 2014 med tittelen “White Christmas.” I showet passer en skjeve dateringsguru til motivene sine med en chip som gjør at han kan se og hør hva hans proteser opplever. Siden dette er "Black Mirror", viser episoden forutsigbart hvordan teknologi får frem det verste av menneskets natur.
BeeMe er selvfølgelig ikke helt på nivået med "White Christmas", men Pescetelli fra MIT forteller Boston Globes Steve Annear at han forventer at "litt online trolling for å prøve å tipse historien og få karakteren til å gjøre utpregede ting. ”Pescetelli fremhever likevel forholdsreglene teamet har satt i verk for skuespillerens sikkerhet.
"BeeMe vil omdefinere måten vi forstår sosiale interaksjoner på nettet og i det virkelige liv, " skriver MIT Lab i en urovekkende uttalelse, som spår eksperimentet "vil presse folkemengdene og kollektiv intelligens til det ytterste for å se hvor det bryter sammen."
Pescetelli forteller Annear at i tillegg til å vekke litt Halloween-moro, håper teamet å se om en stor gruppe er i stand til å få én person til å utføre en flytende serie med oppgaver, eller om overbelastningen av informasjon vil bli til en serie med usammenhengende opptøyer.
En tweet av BeeMes konto tilbake i august peker på en strategi for å lykkes. Innlegget siterer Charles Darwin, og skriver: "[I] ... den lange historien til menneskeheten (og dyrenes art) har også seiret de som lærte å samarbeide og improvisere mest effektivt."
