Hvordan forbereder vi oss på at du og jeg blir deltagere i falske pornovideoer?

Kunstig intelligens brukes i dag blant annet til å lage såkalte falske bilder og videoer, såkalte deepfakes, av kjente personer. Både med og uten klær, og for å sverte politiske motstandere. Hva gjør vi den dagen AI brukes til å generere falske videoer og bilder av deg eller meg?

Celise Skaar har skrevet i VG om deepfakes og hvordan dette har blitt brukt i valgkamper og som en trussel mot demokratiske prosesser, og for å ramme kjendiser som Taylor Swift og Linnea Løtvedt. Inga Strumke fra NTNU har skrevet om hvordan dette fungerer og trekker frem at dette kan ramme informasjonsflyten i samfunnet. Det er ingen tvil om at slike verktøy har blitt mer tilgjengelige og nok blir enda bedre fremover. Hva betyr det for deg og meg? For dette gjelder kanskje deg også…

Nå er det ingen tvil om at det er mer av en mediesak om falske bilder eller videoer rammer Taylor Swift, Joe Biden, eller Erna Solberg enn om det rammer de fleste av oss andre i samfunnet. Det er uansett mer enn problematisk nok når det rammer tilliten til demokratiet enn om det rammer meg som person. Likevel, de siste ukene har jeg tenkt mer på mulighetene for deepfakes og hva vi egentlig skal gjøre med det, på det personlige plan.

Så spør du kanskje, “hvorfor skulle det være interessant å gjøre dette mot meg?”. Jeg tror det er mer interessant enn du tror. Særlig etter hvert med synkende ressurskrav for å lage gode deepfakes. Mange av oss har nok fått noen av disse trussel-spam-epostene som går internett rundt en gang imellom. Såkalte sextortion-eposter. Det er de som gjør at jeg tror at det kan være interessant å lage deepfakes av hvem som helst. For hva om det ikke er en tom trussel om at noen har hacket og filmet deg, men isteden truer med å lage en video eller sammenheng som ville være utrolig pinlig for deg, og som ville kreve litt arbeid å begrense, fjerne, eller forklare. Om det i det hele tatt er mulig med tanke på Streisand-effekten.

Så hva om trusselen faktisk er at de kan lage videoen hvor det ser ut som at du ser på overgrepsmateriale, eller sosialt uakseptabel porno? Eller får det til å se ut som at du deltar på naziarrangementer eller har ikledd deg black- eller yellowface på en fest, hva da? Særlig om du som epostmottaker vet at dette faktisk er noe det faktisk går an å lage. Ville ikke det gjøre det mer fristende for mange å skulle betale løsepenger heller enn å risikere sitt gode navn og rykte?

Eller hva om dette brukes for å sverte deg, helt uten forvarsel eller trusselepost i forveien, for de fleste av oss har vel pådratt oss en uvenn opp gjennom tiden? Du har kanskje avvist eller gjort det slutt med noen. Det kan være mange, mindre gode, grunner til at noen kan ha et ønske om å ramme deg. Selv helt uten den økte risikoen som kommer hvis vi skulle ha en plan om å stille til valg eller legge oss lagelig til hugg på grunn av et eller annet.

Allerede i dag er det nok grunnlag for å tro at dette rammer skjevt. Det vil nok ramme kvinner og sosialt marginaliserte grupper mer enn andre. Ut ifra hva vi ser av digitale seksuelle krenkelser, for eksempel såkalt «hevnporno», så kan vi nok anta at dette i større grad vil ramme kvinner enn menn. Det er også grunnlag for å tro at grupper som har en mer utsatt sosial posisjon og som allerede er marginaliserte vil rammes hardere enn andre. Unge mennesker vil nok også lettere kunne rammes enn voksne. De blant oss som er mindre internettkyndige vil nok også rammes hardere enn de av oss med en tydelig internettkompetanse. De rammes allerede i større grad av ulike svindelforsøk, enten det er sextortion eller annet. Kort sagt, utsatte grupper vil bli mer utsatte.

Nå er det jo en viss fare for at jeg overdramatiserer dette. I dette våpenkappløpet mellom de som skaper slike verktøy og de som lager detektorer for å oppdage deepfakes så kan det jo være at “den snille siden” klarer å henge med. Vi vil nok også bli bedre på å oppdage falske bilder og videoer etter hvert. Kanskje. Uansett rammer det nok kjendiser lenge før det rammer flertallet av oss. Men hva hvis…?

Så hva er løsningen? GPS-tracking av hvor vi beveger oss slik at vi kan vise at vi ikke var i nærheten på den festen eller det naziarrangementet? Tatoveringer eller piercinger steder på kroppen vi ikke viser frem før vi må dokumentere at det ikke er oss selv? Slutte å stille opp på bilder som publiseres offentlig? Hva tenker du? Hva gjør vi i fellesskap? Skal også dette inn i skolen?

^{Innlegget ble publisert av Utdanningsnytt 26.02.2024 under samme tittel.}