Original subtitles

Hei! Der var du jo.

Det er deilig å ha deg hjemme igjen.

Går det bra?

Ja. Det har vært litt mye.

-Gratulerer, da. -Med hva da?

Det er jo på nyhetene. At dronen deres reddet de gislene.

-Hæ? -Har du ikke sett det?

Det er jo overalt. Det er jo helt rått.

Nå, til Mali, der to gisler ble reddet takket være norsk hjelp.

En hypermoderne drone hjalp til da to gisler ble frigjort...

SCREEN MEDIA AS Arnstein Friling

Jeg skulle bare ønske at du av og til spurte meg før du tok avgjørelser.

Kan du ikke være glad for at jeg spurte deg? At du fikk det ansvaret?

-Mener du det? Ja. Synes du bør være stolt av det.

Kidnapperne var gjemt blant sivile, men ingen uskyldige liv gikk tapt.

Dronen, som ble utviklet av norske AGR, lokaliserte gislene-

-og hjalp franske styrker med å redde dem ut.

Til nå er det ukjent hvor mange gjerningspersoner...

-Vi skulle jo gå ut med detaljer. -Dette kommer ikke fra oss.

-Det er Alain som har lekket... -Alain? Hva?

Kommer det frem at det er sivile som er drept, kan han peke på oss.

Så kan han si at vår teknologi har skylden.

Sivile er drept? Sier du at sivile er drept?

-Dette er framstilt som en suksess. -Det vil vi sørge for at det forblir.

Madeleine, ring Rikke. Sørg for at hun pusher Bjørn på denne saken.

Hei, dette er Madeleine Jahrs mobil.

Hei, dette er Madeleine Jahrs mobil....

Bra jobba, Bjørn...

Bjørn!

Må begynne å trene igjen, si. Men du...

Nå koker det altså så bra. Vi får så mange henvendelser om KI at...

Se her. Jeg kan ta og ringe dem opp senere.

Vi kan velge og vrake i hvilke program vi vil snakke med.

Det er jo bare masse gratis reklame.

-Du er i Norge resten av uka, vel? -I Norge?

-Hvordan det? -Det er jo deg de vil snakke med.

Du er jo liksom direktøren for det hele og...

-Nei. Jeg tror ikke det. Det... -Jo. Jo.

Det er ikke jeg som har bygd den der dronen. Jeg vet jo ingenting om den.

Heller la noen som kan det snakke om det.

-Noen av utviklerne? -For eksempel.

Nei. Jeg ringer deg når vi har bestemt hvilket program vi går for.

Og så... Utviklerne vil sette deg godt inn i tingene.

Du må bare huske å ringe det norske gisselet de satte fri. Josef Cissé.

-Sorry, den her må jeg bare ta. -Vet du hvor Madeleine er?

Jeg prøver å ringe, men hun svarer ikke. Ole, da?

Teknisk.

Hvorfor kom du ikke på møtet?

Vi lovte læreren din at vi skulle stille på de møtene.

Det er ikke noen vits at jeg kommer på det.

Læreren skjønner jo ingenting uansett, da.

Kan du bare la det være? Vær så snill?

Nei, det kan jeg ikke! Du blir kastet ut av skolen.

Ja! Jeg har ikke noe imot det.

-Vær så snill, Birk. -Nei! Bare la det være! Ok?

Vær så snill. Ikke gjør saken større enn den er...

Neimen, se her, ja. Velkommen hjem.

-Du, det er noe jeg må fortelle deg. -Spytt ut.

Jeg vet ikke helt hvordan jeg skal få sagt dette her...

Ting gikk ikke så bra som de sier på nyhetene.

Alain skulle bruke dronen. Den kan ikke vært klar, for den bare klikket.

Bjørn, jeg har sett videoen, og jeg har snakket med Alain.

-Videoen av angrepet? -Vi har full kontroll på den.

Den slipper ikke ut herfra.

Vi har testet den dronen. Tusenvis av ganger, vel.

Jeg vet faktisk ikke hva jeg skal si. Vi prøver å finne ut hva som skjedde.

Men Rikke vil at jeg skal gå på TV og sånt.

Folk tror at dette her har gått bra. Hva skal vi si?

Bjørn, vi finner ut av det. Ok?

Jeg må i et møte. Ring når som helst.

Du husker kanskje den WikiLeaks-skandalen?

Den videoen med den amerikanske, menneskestyrte dronen-

-som dreper uskyldige mennesker i Irak.

Soldaten misforstår og tror at et kamera er et våpen.

Og velger å gå til angrep. Dette her er Kabul i fjor.

Samme problem.

I motsetning til soldater vil en autonom drone aldri bli overivrig,-

-impulsiv, sadistisk.

Den blir heller aldri hysterisk, sliten, sulten, sint.

En autonom drone følger oppdraget, utfører oppgaven.

Uten distraksjoner eller følelser, og uten menneskelig svikt, sånn som her.

Men...

Altså, kan du si noe om hvordan AI funker?

Altså sånn... Ja, eller KI, da.

-Hva mener du? -Jeg må jo kunne forklare det.

Sånn helt grunnleggende. Bare "ABC", liksom.

Men at det høres ut som jeg...

Men husk hva du sa til meg da jeg begynte.

Du sa til meg at historisk sett har det alltid vært-

-moralsk panikk overalt når man skal utvikle et våpen.

-Det var vel med geværet at folk... -Jeg husker hva jeg sa. Det er nok.

Du skjønner at du ikke kan angre nå? Du blir ikke sikkerhetsklarert igjen.

Og vi trenger deg.

Vi har jo utviklet dette systemet sammen...

Nei. Vi klarte ikke engang å kopiere algoritmene til HC.

Dette her er resultatet.

Hvis du bare prøver å snu på det. Ok? I ett sekund.

At du tenker at dette kan være starten på-

-noe som faktisk kan bli noe bra.

Du tror det? Vet du hva? Kan ikke du ta og hilse han der idioten.

Si at jeg ikke kommer tilbake. Han venter på meg.

Ja, ok. Så Bjørn Urdal er en idiot nå?

At han er teknologisjef er i hvert fall jævla idiotisk.

-Hei. -Hei.

Endre, han måtte... Han måtte dra.

Ok. Greit. Jeg tenkte jeg skulle få forberedt meg litt.

Jeg kan sikkert google det.

Hvordan var det på skolen i dag, da?

-Det var greit. -Greit?

Jørgen ville ha meg med på et lanseringsmøte. Så datt det ut.

"Nei, jeg skal ikke på noe lanseringsmøte med deg."

"Jeg sier opp." Så sa jeg bare opp.

Han ble helt paff. Og det føles bare så godt.

-Så bra, mamma. -Du sa opp? Men har du noen plan?

Ja. Jeg ringte han Marius. Han ble glad. Skal snakke med ham i morgen.

Marius på AGR?

Han ringte jo da du var i Mali. Fortalte jeg deg ikke det?

Nei, det har du ikke fortalt.

Uansett. Jeg ringte tilbake, og jeg får møte med dem i morgen.

Du kan ikke bare si opp jobben! Altså, du må jo...

Ja, det er Bjørn? Ja?

Ok...

I morgen?

Ja.

Jeg skal på Dagsnytt 18 i morgen, jeg.

-Bra. -Ja. Det er kjempegøy.

-Jeg må snakke med Ole. -Ole er litt opptatt akkurat nå.

Nei, jeg må snakke med ham. De sa han er her.

Det er viktig at han ikke forstyrres.

Hva er det for noe?

Jeg kan ikke stille på Dagsnytt 18.

Bjørn, ok. Bare slapp av.

Jeg har hørt så mange folk drite seg ut på det programmet. Orker ikke.

-Birk, jo. Kommer ikke pappa, eller? -Tror ikke det, ass.

Fred!

Vi reddet liv med teknologien vår. Dette er ikke et kritisk intervju.

Hva sier Ole?

Vil vi få inn flere penger til KI, så er det her veien å gå.

-Vi kan ikke drive og gjemme oss i... -Hva sier Ole?

Ole sier det samme som meg. Ok?

-Be ham om å ringe meg, da. -Ja, da. Jeg skal si det.

Helvete, altså.

Du er kommet til Mona. Legg igjen beskjed, så ringer jeg deg tilbake.

Birk har blitt banket opp. Jeg henter ham. Ring når du hører dette.

Den gjør tusen ørsmå kalkulasjoner i løpet av millisekunder.

Noe som vil sikre en naturlig og unikt tilpasset bevegelighet.

-Alt det er med KI? -Ja.

Den memorerer og automatiserer bevegelsene.

Slik vi automatiserer bevegelser når vi lærer oss å gå.

Bare veldig, veldig mye raskere, da.

I løpet av en kort innkjøringsperiode vil den fungere som en vanlig fot.

Kanon! Vi trenger at AGR assosieres med fysioterapi, rehabilitering.

Altså andre ting enn våpen og krig, liksom.

Vi skjemmes jo på ingen måte over våpenproduksjonen vår.

Den er vi stolt av. Men vi har noen av de minst farlige våpnene i verden.

-Hva? -For sivile.

Presisjonen de har, gjør at sivile tap minimeres.

Altså, det er ikke Kalasjnikover, liksom. Vi har noen tall på det.

Ja. Jeg er jo selvfølgelig ikke helt...

Hei! Du, få se på deg...

Det gjør vondt.

Jeg regner med at det er han der Fred igjen.

Tar ikke skolen tak i dette her, tar vi det til politiet.

Det var jeg som startet.

Ok...

Hvorfor startet du det, da?

Birk?

Du...

Du kan bare fortelle det. Jeg blir ikke sint uansett.

-Hva er det du har gjort? -Det er ikke min skyld.

Ok.

Men hvem sin skyld er det da?

Er det min?

Du...

-Hvordan kan det være min skyld? -Det var venner av familien hans.

De eide et firma som skulle ha noen penger, og så...

-Men de mente at du hadde... -Jeg skjønner.

Det var da de begynte.

Har det vart så lenge?

Det ble ikke noe bedre da du ble vikarlærer heller.

Jeg vet ikke hva jeg skal si, Birk. Jeg...

Du må jo fortelle meg sånne ting.

Jeg burde sikkert ha spurt deg. Før jeg begynte.

-Jeg hadde ikke mange muligheter da. -Nei, jeg vet det.

Du...

-Jeg gleder meg til å bytte skole. -Ja. Jeg skjønner det.

Jeg rekker ikke å kjøre deg hjem, Jeg skal være på NRK om 20 minutter.

Kanskje de kan sminke meg eller noe sånt før mamma ser meg.

Jeg er usikker på om det hjelper, men... Kom, Tarzan.

Gi meg to sekunder.

Hvor faen har du vært?

Kanskje vi også skal tenke på oss selv, da. Dette vet jeg alt om.

Det er bedre at vi sier hva som skjedde, enn at andre avslører det.

-Vi må komme oss inn! -Ja, men det gjør du bare ikke.

Vi må gå inn. Hva er det?

Det skal være ganske bra basketlag på Rånåsfoss.

Ja, altså, Pia sier at videregående der er ganske bra.

-Pia? -Ja, en jeg har blitt kjent med der.

Ok.

AI-teknologi er selvfølgelig positivt på veldig mange måter.

Men i våpenindustrien trenger vi tydeligere retningslinjer.

Bjørn Urdal, nyansatt teknologidirektør i AGR.

Hvor tror du vi er i verden om ti år når det gjelder nettopp AI-teknologi?

Ja, i Norge så sier vi KI, da, for "kunstig intelligens".

Vi vil jo nødig at utviklerne skal le av oss.

Vel... Nei da, men... Jeg tror på ingen måte på noen dystopi.

-Sånn som... -Gregersen, som hun heter.

Jeg er på ingen måte like skeptisk som henne.

Jeg er veldig positiv. Jeg tror mulighetene med KI er uendelige.

Altså, nå skal ikke jeg påberope meg å være noen spesialist.

Men en tommelfingerregel som jeg pleier å følge,-

-er at hvis du kan lese noe i en bok eller et vitenskapsmagasin-

-om at noe er mulig om 10 til 15 år,-

-så kan du banne på at det i realiteten er mulig allerede nå.

Det som da mangler, er midler og gjennomføringsevne.

Vi i AGR har vist gjennomføringsevne. Og Norge har midler.

Sammen kan vi utvikle datasystemer som vil kunne hjelpe mennesker-

-med oppgaver som vi ikke engang kunne forestille oss at var mulige...

Jo, jo. Men, Urdal, dere er jo først og fremst et våpenselskap.

Vi ser på oss selv først og fremst som et teknologiselskap.

Vi produserer moderne instrumenter for rehabilitering, skipsnavigering.

Jeg bryter deg av. Vi er ikke her for å diskutere vårkatalogen deres.

Vi diskuterer kunstig intelligens, og hvorfor det?

Fordi en norsk drone med norsk kunstig intelligens ble benyttet-

-til et væpnet oppdrag i Mali, av alle steder.

Det stemmer. En av våre rekognoseringsdroner, kalt Ammo,-

-fant gislene i løpet av én natt,

Og uten menneskelig innblanding. Et enormt gjennombrudd for denne...

Denne gangen var det en rekognoseringsdrone.

Hvem kan sikre at ikke franskmennene fester våpen til dronen neste gang?

Vil vi dit at et dataprogram skal kunne bestemme over liv og død?

Er det dit vi vil?

Kan en datamaskin ta moralske avgjørelser på vegne av mennesker?

-Urdal? -Spør du meg, er dette en farlig...

Nå må vi tilbake til Urdal. Hva forhindrer dere i-

-å utvikle teknologi som tar moralske avgjørelser på vegne av mennesker?

Ja, det er jo lovverket som setter en stopper for det.

Vi ville jo aldri solgt slik teknologi før det var lovlig.

Men dere har ikke noe imot å utvikle det?

Jeg forstår at autonome våpen i krig kan være en skremmende tanke.

Men vi må ikke glemme at krig er et skremmende konsept i seg selv.

Mennesker som prøver å drepe hverandre, er skremmende.

Vi mennesker, vi blir trøtte, sultne, sinte, hysteriske, fordomsfulle.

Vi tar avgjørelser i affekt.

Ettersom vi nå er her for å diskutere denne hendelsen i Mali,-

-kan jeg bruke et eksempel derfra. Per i dag har franske soldater drept-

-flere sivile i Mali enn det terroristene har.

Det er jo ikke noe de ønsket, men det er likevel fakta.

Hvorfor er det sånn? Jo, fordi mennesker gjør feil.

Det er såkalt menneskelig svikt.

Og dette eliminerer vi ved å åpne opp for autonome våpen.

En algoritme vil aldri handle i affekt.

Hvis lovverket hadde tillatt oss å bruke vår teknologi-

-i vår drone til sin fulle kapasitet,-

-ville vi kanskje klart å gjennomføre denne aksjonen uten sivile tap.

Var det sivile tap i Mali?

Skader. Uten sivile skader.

Det norske gisselet ville kanskje ikke vært på et sykehus i Mali nå.

Men så langt har vi ikke kommet ennå, fordi det er for skremmende.

Poenget er at den militære utviklingen, fra spydet til geværet-

-alltid har blitt møtt av moralsk motstand. Til og med armbrøst,-

-armbrøst, ble offisielt fordømt av kirken i 1139.

Du kan stikke den fingeren i været så mye du vil.

Sannheten er at den verste drapsmaskinen er mennesket selv.

Jeg sitter ikke på tallene foran meg nå.

Men det er vel 50 000 som blir drept av småvåpen i væpnet konflikt årlig.

50 000. Hva er det for noe? Det er to ganger Ullevaal stadion.

Så kan du legge til større, tyngre, konvensjonelle våpen oppå det.

Det synes jeg er skremmende. Så jeg frykter mye mer mennesket-

-enn et dataprogram, som Gregersen her kaller det.

Så det er klart: Jeg er heller ikke tilhenger av konvensjonelle våpen.

Bra.

Vi må sette strek der. Dere kan i hvert fall enes om det.

Vi må videre til neste tema, vi. Takk for at dere kom til Dagsnytt 18.

Neste tema tar også utgangspunkt i de siste dagers hendelser:

Hvorfor sendes hjelpearbeidere med mørk hudfarge til konfliktområder-

-som regnes for farlige for hvite hjelpearbeidere?

Dette eliminerer vi ved å åpne opp for autonome våpen.

En algoritme vil aldri handle i affekt.

Hadde lovverket tillatt oss å bruke vår drone til full kapasitet...

Vet du hva, Bjørn? Jeg må bare få si at jeg synes det var helt fantastisk.

-Ja. Du kunne ikke gjort det bedre. -Ok. Takk.

Vet ikke hvor alt det der kom fra, egentlig.

-Jeg følte at det gikk greit. -Det gikk supert.

Når jeg først kom i gang der, og så begynte det å rulle, og så...

-Ja, jeg synes det gikk veldig fort, -Det er over før man vet det, liksom.

Jeg får nesten ta med meg han slåsskjempen her hjem, jeg.

-Da ses vi. -Takk.

-Jeg skal lære deg å slåss en dag. -Du kan ikke slåss.

Nei, jeg kan ikke det.

Tenk at Geir vil investere i protesen.

Det er helt fantastisk. Se her. Her kom det en til.

Få høre.

Den var ikke så positiv, da.

"Total dystopi på Dax18."

"Har vi virkelig kommet dit at vi diskuterer autonome droner?"

Ja. Så du ikke det?

Vi diskuterte det jo i stad!

Hva faen er det som feiler deg? Er du idiot?

-Men hva tenker du, da? Om Rånåsfoss? -Rånåsfoss...

Det er kanskje ikke så dumt.

Er ikke det slagordet til kommunen?

"Rånåsfoss - kanskje ikke så dumt!"

Altså...

AGR har solgt en overvåkningsdrone til franskmennene.

Er det noe mer å grave i dette her?

Vi har ikke fått kontakt med han norske hjelpearbeideren.

Han ligger jo på sykehus. Hva forventer du at han skal si?

-Jeg vet ikke. -Syns du bør prioritere annerledes.

Ok?

Hei! Hørte du og kona fant tonen i går.

Ja, fikk hun sett på tilbudet, forresten?

-Ja da. Hun var superhappy. -Å, så bra.

Jeg følte jeg bare prata meg helt bort.

-Nei, nei. Vil du ha en kaffe? -Å! Tusen hjertelig.

-Det var bra jobba på TV i går. -Takk.

Noe med måten du sa det på, fikk brikkene til å falle på plass.

Ikke bare KI, men våpenutvikling generelt.

Og liksom hvorfor vi gjør det vi gjør, og liksom...

Det er et nødvendig onde.

Det er akkurat sånn som du sa det. Det handler om å minimere tap av liv.

Spot on, altså.

Nå babler jeg mye. Jeg ville bare si det.

Du fikk snakket med Josef, ikke sant?

-Josef, hvem er det? -Gisselet i Mali.

-Du skulle ringe før intervjuet. -Faen. Det glemte jeg.

Det er veldig dumt.

-Jeg ga deg jo nummeret. -Ja, jeg husker det.

Han tok kontakt via ambassaden og spurte om å få snakke med deg.

-Spurte han spesifikt etter meg? -Ja.

-Det er Josef. -Dette er Bjørn Urdal fra AGR.

Først og fremst vil jeg beklage at jeg ikke har fått ringt deg...

Jeg har sett Dagsnytt 18.

Ja?

Hvorfor lyver dere?

Hallo? Er du der?

Ja... Jeg er her.

Har du ingenting å si?

Jeg vet helt ærlig ikke hva jeg skal si.

Nei vel? Jeg vet jævlig godt hva jeg skal si.

Men det er ikke til deg.

Jeg hører hva du sier, og skulle gjerne møtt deg på det.

Men jeg er ikke komfortabel med dette.

Halvparten av disse ungene vil søke jobb hos oss etter endt skolegang.

Er det ikke bedre da at de er ferdig utdannet når de starter?

-Rett inn i god lønn, trygt arbeid... -Vi snakker om våpen. De er bare 16.

Vet du hvor gammel jeg var da jeg begynte i AGR?

Ja, da het det noe annet, selvfølgelig, men...

Bjørn. Jeg er på skolen. Jeg er i et møte med rektor.

Vi får ta resten senere. Men du må ikke glemme det jeg sa.

Akademia er ikke for alle.

Jeg snakket med Josef. Han som ble tatt. Gisselet i...

Vi går hit...

-Sa han hvem han ville snakke med? -Nei.

Men det er jo sikkert en avis. Jeg vet da faen, jeg, FN eller noe.

Hva med det andre gisselet, da? Hun franske?

Tenk hvis hun begynner å snakke?

-Det går bra. -Ok?

Alain har kanskje snakket med henne, men ikke tenk på det mer, du.

Se deg rundt isteden. Hele denne nye delen har vi sponset.

Det kostet flesk, men vi har skapt det sammen.

-Jeg tar noen telefoner. Rydder opp. -Det hjelper ikke.

-Det er like før det eksploderer. -Hva vil du, da?

-Du må bare fikse det! -Jeg skal gjøre så godt jeg kan.

Bra. Hvis ikke så er jeg nødt til å fortelle det før han Josef gjør det.

Så vidt jeg vet er det bare ditt navn på salgskontrakten.

Ditt navn og ditt GLT.

Dette har du gjort selv.

Og du er vel den eneste av oss som var i Mali da det angrepet kom.

Du lærer jo aldri. Her kommer AGR...

Gir en tidligere kriminell en ny sjanse, og takken er-

-at du selger ulovlige våpen bak vår rygg.

Jeg er litt lei av alle de tomme truslene dine.

Ikke innrøm noe. Du skal sitte stille i båten. Og så skal jeg fikse det.

-Hva med deg? -Det går bra.

Tusen takk.

-Jeg trodde du var i Frankrike? -Nei. Jeg har også vært på sykehus.

-Du har vært her? -Militærsykehuset.

Jaså?

Har du fått med deg nyhetene? De lyver om alt som skjedde.

Det er forferdelig. Stakkars ungdommer.

Har du snakket med noen? Franske aviser eller noe?

-Nei. Har du? -Nei, ikke ennå.

-Hva skal du si? -Bare det som skjedde.

At en drone drepte alle sammen.

Inkludert masse ungdommer og barn.

-Alle sammen. -Josef...

Dronen drepte ikke alle.

Den ventet til de minste barna hadde gått fra fotballbanen.

Og den reddet livet ditt.

-Å ja? -Ja.

Ja, det er kanskje sant. Men...

Hvordan vet du dette?

-Militærsykehuset. -De sa det til deg?

Ja, jeg overhørte det.

Ismael hadde rett, altså.

Jobber du for forsvaret?

Josef, det spiller vel ingen rolle?

Det endrer ingenting mellom oss.

-Ann... -Nei, hør på meg...

Det var derfor de tok oss? De ville ha deg?

Det var derfor...

Du lot dem holde på?

Det viktige nå er at du ikke snakker med noen om hva som skjedde. Tro meg.

Eller hva? Hva skal de gjøre?

Drepe meg? Er det det?

Vi er kjendiser.

Selvfølgelig må folk vite dette.

Josef... Ikke si det til noen.

Du er gal.

Pass på deg selv. Så kommer jeg innom igjen senere.

-Hallo, det er Bjørn. -Hei. Det her er Kaja Rysst.

Ringer fra Etterretningstjenesten. Jeg skulle gjerne snakket med deg.

Det gjelder situasjonen i Mali.

Vi prøver å danne oss et bilde av hva som har skjedd.