Robotkritikk fra hjemmekontoret – iHuman

Alle bildene er fra iHuman, Tonje Hessen Schei 2019. Foto: Euforia/Upnorth

 

Alexa, vil kunstig intelligens utslette menneskeheten? 

Som alt annet «i disse korona-tider» er det å høre på musikk, lese bøker og se film annerledes fra hva det var for bare noen uker siden. Bevisstheten om krisen ligger og ulmer konstant i bakgrunnen, enten man er blitt sugd inn av den 24 timers korona-mediedekningen, bruker tiden sin på å le av internettmemer eller søker tilflukt i virkelighetsfjern underholdning. Alt farges av virusets underlige lys.

Dette gjelder ikke minst for iHuman, Tonje Hessen Scheis nye dokumentar om kunstig intelligens, som kan beskrives som en dystopisk samtidsdokumentar. Filmen hadde verdenspremiere på prestisjetunge IDFA i Amsterdam før jul, og skulle hatt kinopremiere i Norge fredag den 13. mars, en dag etter at alle landets kinoer stengte. Distributøren Euforia kastet seg rundt og gjorde filmen tilgjengelig på en rekke streamingsteder i stedet.

Det er skjebnens bitre ironi at en film som i så stor grad er kritisk til løpsk teknologisk utvikling nå er avhengig av de selvsamme algoritmene den kritiserer for å nå sitt publikum. Ikke minst at store deler av befolkningen nå sitter hjemme med PC-skjermen oppe og sosiale medier som hovedkilde for informasjon og sosial omgang. Det kommer jeg tilbake til.

Overvåkning, undertrykking og krigføring

iHuman er en film som fremmer en lang rekke urovekkende påstander, og som ikke kvier seg for å forsterke dem gjennom sterke virkemidler. Den er strukturert rundt en rekke samtaler med ledende tekno-eksperter, kommentatorer og varslere, som skildrer farene ved at store mengder data havner i hendene til noen få mektige private eller statlige aktører, med lite demokratisk oversikt. Teknologien brukes allerede i dag av mindre skruppelløse stater i samsvar med tech-industrien til overvåkning, undertrykking og krigføring – og verre skal det bli.

Utviklingen i feltet drives av konkurranse mellom store teknologibedrifter som kjemper om inntektsbringende forsvarskontrakter, og mellom stater som slåss om maktpolitisk dominans. Dette fører til at enorme ressurser vies til innsamling av data og utvikling av intelligente «deep learning»-algoritmer som kan tolke den dataen. Det at denne utviklingen for det meste foregår bak lukkede dører, av aktører som ikke er bundet av offentlighetens regler, fremstår som bekymringsverdig.

«Dyp læring» innebærer at prosesser organiseres i såkalte «nevrale nettverk», som med minimal menneskelig inngripen, lærer seg selv å tilegne informasjon og kjenne igjen mønstre. Slike teknologier lærer mye fortere, og er mye mer effektive enn sine kunstige intelligente forgjengere. De er ikke bare i stand til å samle inn, kategorisere og tolke enorme mengder med informasjon til enhver tid. Den kan også forutse mønstre, og dermed også være med på å forme hvordan ressurser bør fordeles.

Ekspertene som selv jobber med teknologien spår at det ikke er lenge før deep learning-teknologier potensielt kan appliseres til nærmest alle samfunnsrelevante områder, gitt nåværende utviklingstrender.

På relativt kort sikt, hevdes det videre, kan kunstig intelligens rettes mot seg selv, og lære å utvikle enda mer komplekse og intelligente programmer. Dette kan føre til det noen kaller for «general artificial intelligence» – en form for kunstig intelligens som vil kunne gjøre alt mennesker allerede kan, på en uendelig bedre måte. Det spekuleres videre i at disse maskinene vil ha egne mål og ønsker, som ikke nødvendigvis er i tråd med menneskehetens egne interesser.

På tide å slå på krigstrommene?

iHuman er mildt sagt ikke interessert i nøktern og objektiv faktagjengivning. Med sine voldsomme og påkostede filmatiske virkemidler fremstår den som en krysning mellom en alarmerende CNN-reportasje og en Hollywood-dystopi. Det er en sjanger som ville ha egnet seg godt på kino. Et drivende soundtrack inspirert av Hans Zimmer i Dark Knight-modus akkompagnerer angstskapende bildemontasjer: Menneskefiendtlige bylandskap snus opp ned Inception-style, fremmedgjørende glass- og stålfasader smelter til vertikale datalinjer à la Matrix. Noen slående (data)animerte tittel- og mellomsekvenser, der et A.I.-uhyre kommer til live foran øynene våre, skaper litt ekstra robot-uhygge. Jeg hørte til og med et snev av noe Blade Runner-inspirert synthmusikk i miksen.

Jeg må si meg generelt sett tilhenger av slike påkostede og visuelt slående dokumentarer. Om man ikke nødvendigvis lærer noe nytt, blir man i det minste underholdt. Spørsmålet i dette tilfellet er om filmens retoriske strategi lykkes i å skape engasjement og vekke alarm, eller om den faller tilbake på sin egen mangel på nyanse.

Filmens alvor kan forstås i lys av den tilsynelatende eksistensielle faren den vil gjøre oss oppmerksomme på. En parallell til klimakrise kan dras her: Gitt at det den påstår faktisk kan være noe sant, er det på tide å slå på krigstrommene og gjøre alt som menneskelig kan for å tvinge frem større demokratisk innsyn i hvordan disse teknologiene anvendes.

Videre fremstår filmen på en måte som mer realistisk post-korona. Katastrofer kan skje. Faktisk er iHumans poeng at katastrofen allerede har skjedd: Filmens dyrking av dystopiske troper insinuerer at vi allerede lever i denne virkeligheten. Flere steder i verden har koronakrisen ført til innskrenkning av friheter; og det finnes historisk presedens for at kriser fører autoritære regimer til makt.

Historiens slutt 

På den andre siden viser også vår nåværende situasjon hvor håpløst det kan være å forutse fremtiden. Det er noe ufrivillig komisk i å høre unge «tech-dudes» med alvorlig mine spå menneskehetens uunngåelige fall, og ankomsten til det nye overmennesket.

Diskursen om kunstig intelligens, fortalt av aktørene som selv jobber i feltet, preges av en voldsom polarisering. Teknologien representerer enten løsningen til «fattigdom, klimakrise, arbeidsledighet», eller menneskehetens siste steg mot tilintetgjøring.

Det finnes grunner til å være skeptisk til en slik dommedags-tankegang. En tankegang som hviler på en forståelse om at det ikke finnes noe alternativ til teknokapitalistisme. Og at teknologiens fremmarsj er den eneste gjeldende faktor som organiserer og strukturerer virkeligheten.

iHuman stiller gode spørsmål til bruken av algoritmer, og hvordan dataene disse innhenter blir en selvforsterkende dynamikk som befester eksisterende ulikheter og strukturell diskriminering. Dataene hentet fra politiarbeidet i USA for eksempel er preget av raseprofilering, og det fryktes at «predictive policing» (bruken av algoritmer til å forutse hvor og når kriminalitet mest sannsynlig vil finne sted) i enda større grad vil virke negativt på den afroamerikanske befolkningen.

Samtidig fremstiller filmen bruken av kunstig intelligens som noe dårlig i seg selv. Det undersøkes ikke om teknologien til tider kan være et nyttig instrument for å bistå menneskelige avgjørelser i møte med en verden som etterhvert blir kompleks og mangefasettert. Og selv om det rettes mye kritikk mot at enkelte private aktører er i besittelse av mye av verdens data, foreslås det ingen konkrete løsninger eller alternativer.

Dokumentaren hadde muligens vært mindre retorisk tilspisset, men også kanskje mer interessant, om den hadde prøvd å abstrahere seg fra en slik enten/eller, teknofobisk og alarmistisk tankegang.

Algoritmer i koronaens tid

En effekt av «disse korona-tider» er at aksept for de radikale restriksjonene mot sosial omgang også innebærer et perspektivskifte fra individnivået til det kollektive. Plutselig, nesten over natta, var vi ikke bare tvunget til, men også fullstendig villige til, å se og forstå oss selv som en del av en flokk, statistisk innsamlede tall i virusets spredningsalgoritme.

I kjølvannet av korona-krisen her i Norge, har Telenor unntaksvis avlevert anonymiserte data-signaler til myndigheter for å kunne følge med store forflytninger i befolkningen; og forskere jobber med algoritmiske modeller som kan forutse smittespredningen. De mange mulighetene som ligger iboende i internett er utvilsomt allerede et biopolitisk instrument i myndighetenes hender.

Samtidig, på nettet, bugner det av fantastiske initiativer, kulturtilbud, og kreative, spontane uttrykk. Grupper som fordeler mat, varer og medmenneskelig kontakt til de som trenger det; utallige internett-memer, strømmede konserter og andre kulturtilbud. Internettet har på et vis blitt «bra igjen», som Aksel Kielland skriver i Morgenbladet: «I en kort periode har man kunnet oppleve en nettkultur som ligner den man hadde på nittitallet, da nettet var et redskap for å samtale og bygge fellesskap snarere enn et maskineri som overvåker deg og selger deg videre som en pakke med datapunkter.»

iHuman stiller relevante og gode spørsmål til en teknologi i rask utvikling, og hvis bruk definitivt burde vært et større tema i den offentlige diskursen. Men det er vanskelig å bli med på at denne teknologien representerer mer enn bare én av mange faktorer i en kompleks, mangefasettert og kaotisk verden. En verden som faktisk fortsatt er underlagt konkrete, materielle forhold, og dermed unntatt kunstig intelligens sin usynlige hånd.

Kunstig intelligens og dens algoritmer kan også lære oss noe: Måten vi fremstår i dens lys – som en større statistisk ansamling – hjelper oss til å å forstå oss selv som en del av noe større. Dette er et nyttig korrektiv til en liberalistisk ideologi, som legger vekt på individets egne ønsker, mål og selvrealisering, på bekostning av fellesskapet.

Ved å forstå oss selv som en del av algoritmen, bevisstgjøres vi også oss selv som gruppe. Korona-krisen har minnet oss på at vi utgjør et samfunn.

 

Tweet

Til toppen | Utskriftsvennlig versjon