MENU
19. August 2017

Fremtidsforskeren, der gamblede på Trump

Digitalisering – er vi i stand til at balancere...

22. januar 2017 !, Corporate, Digital omstilling, Erhvervsfilosofi.dk #1, 2017, årgang 3, Finanssektor, Ledelsesetik

Kunstig intelligens rejser nye etiske spørgsmål

Kunstig intelligens rummer enorme potentialer, men også nye etiske og politiske udfordringer. Derfor er en række aktører gået sammen i den såkaldte Sirikommission for at pege på fremtidens muligheder og udfordringer. Ifølge tre af kommissionens medlemmer fordrer det nye etiske og politiske svar.

Erhvervsfilosofi.dk har talt med Thomas Ploug, professor i filosofi, Mads Rydahl, grundlægger af techvirksomheden Unsilo og medskaber af appen Siri, samt Ida Auken (R), politiker og formand for Sirikommissionen.

Fremtiden er digital, kunstig og intelligent, men hvad bringer den med sig? Bedre velfærd og mere vækst eller arbejdsløshed og ulighed. Kan en computer være ansvarlig? Det er et af de spørgsmål, Sirikommissionen har sat sig for at undersøge.

Det er umuligt at forudsige, præcis hvordan et kunstigt intelligent og selvlærende system vil handle

Ifølge Thomas Ploug, professor i filosofi ved Aalborg Universitet, medlem af Sirikommissionen og Etisk Råd, rejser brugen af kunstig intelligens en række etiske spørgsmål. Det gælder såvel beskyttelse af data og privatliv som tildeling af ansvar. Desuden sniger etiske værdier sig ind ad bagvejen, når vi udvikler og benytter os af kunstig intelligens.

”For at være ansvarlig siger man normalt, at den effekt, ens handling har, skal være intenderet eller i hvert fald forudsigelig. Man har ansvar for handlinger, der principielt er mulige at forudse. Men med meget kunstig intelligens har vi at gøre med selvlærende systemer, der selv justerer på deres algoritmer og vægtningen i disse”, udtaler professor Thomas Ploug.

Ifølge Ploug betyder det, at det er umuligt at forudsige, præcis hvordan et kunstigt intelligent og selvlærende system vil handle.

”Hvis vi nu forstiller os, at læger kun lytter til Watsons (IBM´ supercomputer, red.) forslag, så risikerer de at stille den forkerte diagnose eller foreslå en skadelig behandlingsplan. Og hvem har så ansvaret for det? Udviklerne har dårligt kunnet forudse det. Brugerne af systemerne kan man dårligt give ansvaret, fordi de har dårligere forudsætninger for at forstå systemet end udviklerne. Og at give Watson selv ansvaret er meningsløst”, forklarer han.

Normalt giver vi ansvar til personer og deres handlinger for at motivere til god adfærd. Ansvar kan have en præventiv og motiverende effekt, men det giver ikke mening med selvlærende systemer, uddyber Ploug.

”Det er jo meningsløst at sanktionere sådant et system som Watson ved eksempelvis at slukke på stikkontakten,” siger han.

En af løsningerne på denne ansvarsudfordring er at stille omfattende testkrav til udviklerne af de kunstige intelligente systemer. Sådan en procedure er praksis i medicinalindustrien, hvor der let kan gå 15 år, før præparater kommer på markedet, forklarer Ploug og fortsætter: ”Vi er nødt til at placere ansvaret et sted, også selv om det er uigennemskueligt. Omfattende test kan hjælpe os til at komme så tæt på at forudsige udfald og scenarier som overhovedet muligt”.

En anden væsentlig udfordring er, at selvlærende systemer sniger etiske værdier ind ad bagvejen.

Vi er nødt til at placere ansvaret et sted, også selv om det er uigennemskueligt

”Med kunstig intelligens og selvlærende systemer har vi at gøre med intransparente teknologier. Når Watson – der kan benyttes til mange andre ting, må jeg tilføje – eksempelvis angiver en behandlingsplan, så foretager den hermed en afvejning af positive effekter kontra bivirkninger. Det er et værdimæssigt valg”, siger Ploug. “Men præcis hvilken vægt den tillægger sådanne afvejninger, kan vi ikke med sikkerhed sige”, uddyber han.

Derfor må vi overveje nøje, hvilken rolle vi tillægger intelligente systemer, og hvordan vi benytter os af disse. “Vi kommer til at benyttes os mere af kunstig intelligens, fordi potentialet er enormt, men vi skal have en diskussion af rammebetingelserne for udviklingen og brugen af teknologien,” siger Thomas Ploug.

Om Sirikommissionen

Sirikommissionen er et initiativ af IDA og medlem af Folketinget for Radikale Venstre Ida Auken.

IDA er en interesseorganisation og fagforening for teknisk og naturvidenskabeligt uddannede, aka ingeniører og deslige. Kommissionen har 18 medlemmer, der spænder fra fagforeningsledere til forskere, iværksættere og direktører (se dem her).

Sirikommissionens formål er at kortlægge, ”hvordan Danmark kan udnytte vækst- og jobmuligheder ved kunstig intelligens og digital disruption samt skabe opmærksomhed om, hvad forandringerne kommer til at betyde for det danske samfund”.

Kommissionens indledende arbejde har til hensigt at prime dagsordenen, ”så det står klart for alle, hvorfor vi har brug for en Sirikommission”, lyder begrundelsen på deres hjemmeside.

Herefter vil kommissionen i fire temasessioner arbejde med forskellige brancher: finanssektoren og advokatbranchen, transportbranchen, sundhedssektoren og den offentlige sektor, og levere et bud på, hvordan fremtiden tager sig ud, hvilke udfordringer vi står over for, samt komme med anbefalinger. Etik og uddannelse udgør to gennemgående krydstemaer i kommissionens arbejde.

Allerede i dag benyttes kunstig intelligens i en lang række sammenhænge. Når vi taler med Siri på vores iPhone, får anbefalet den næste serie af Netflix’ algoritmer og får filtreret nyheder og reklamer på Facebook. Andre eksempler er supercomputere i form af IBM’s Watson, der hjælper lægerne på Rigshospitalet til at stille hurtigere diagnoser, førerløse biler og robotten Erna, der er tre gange hurtigere til sagsbehandling end kollegaerne i Nordeas kundeservice.

World Economic Forum vurderer, at der på verdensplan mistes 7.1 millioner job inden 2020 på grund af digital disruption. Herhjemme vurderer HK og Tænketanken Cevea, at mellem 700.000 og 900.000 job er i fare for automatisering, svarende til en tredjedel af alle danske job. Det er især rutinepræget arbejde, der har udsigt til at blive overtaget af kunstig intelligens, vurderer Teknologisk Institut i en analyse foretaget for IDA.

Det er på denne baggrund, at kunstig intelligens ifølge Ida Auken og Thomas Damkjær Petersen, formand for IDA og sammen med Auken udgørende kommissionens formandskab, er ”begyndelsen til, at vi skal til at tænke vores uddannelse, vores arbejdsliv og vores dagligdag om igen”.

Vi opfinder ting, der gør opfinderne hurtigere

”Kunstig intelligens har potentialet til at gøre mange ting og processer smartere, billigere og brugervenligere samt frigøre og optimere tid. Det gælder hele vejen rundt fra sundhedsområdet til sagsbehandling til transportområdet”, siger Ida Auken, der tror, vi kun lige har set toppen af brugen af kunstig intelligens.

Det er Mads Rydahl, grundlægger af techvirksomheden Unsilo, medlem af Sirikommissionen og medskaber af appen Siri, enig i. ”Vi står midt i en eksponentiel udvikling, hvor vi ikke kun bliver bedre til at opfinde, men også opfinder ting, der gør opfinderne hurtigere”, siger han.

Rydahl ser et af de største potentialer på transportområdet og tror, der kommer til at ske store forandringer inden for de næste 2-3 år.

“Det mest synlige, vi kommer til at se ude i verden, er nok selvkørende biler”, siger han og nævner den amerikanske virksomhed OTTO, der med selvkørende lastbiler vil disrupte den eksisterende industrikørsel.

Brugen af robotter i virksomheder og droner, der leverer pakker og mad, er mindre synlige eksempler, og der vil gå mange år, før vi ser robotter i gadebilledet. ”Men når økonomien i de respektive teknologier er på plads, så kommer udviklingen til at gå stærkt”, siger han.

I 1950’erne opblomstrede kunstig intelligens som felt, og perioden 1956-1974 kaldes for den kunstige intelligens’ ’gyldne år’. Denne periode blev efterfulgt af kritik og fundingproblemer, men i 1980’erne oplevede feltet et nyt boom. Dette blev efterfulgt af endnu en nedtur. Fra 00´erne og frem til i dag er den teknologiske udvikling dog kun gået en vej. Nu befinder vi os i endnu en ’guldperiode’, som af mange spås at udgøre den fjerde industrielle revolution.

Det nye i snakken om denne revolution er mængden af data, der kan behandles, og computerkraften.

”Teknologisk set er der ikke sket nogen vanvittige gennembrud de seneste par år. Vi gør brug af de samme modeller, der dog viser sig mere nyttige, når man smider millioner af ting igennem,” forklarer Mads Rydahl.

”Paradigmemæssigt har forskningen i kunstig intelligens bevæget sig fra forskning i symbolsk kunstig intelligens mod forskning i selvlærende systemer og neurale netværk. Det, der forskes mest i lige nu, er systemer, der kan lære i flere lag, det, der også kaldes deep learning,” uddyber Mads Rydahl og nævner som eksempel pionerende Google, der udviklede et intelligent computersystem, som lærte sig selv at genkende katte i youtubevideoer. Andre eksempler er mejetærskere, samlebåndet og computere.

Historisk set har opblomstringen af nye teknologier været behæftet med frygt for teknologiens nye virkninger. Ifølge Mads Rydahl kan der være noget om frygten, selv om han optimist.

”Der er desværre ikke belæg for at sige, at nye teknologier altid skaber flere job”, siger han og eksemplificerer med, at når smartphones udkonkurrerer producenterne af lommekameraer, så skabes der arbejde til folk der laver fotoapps, mens titusindvis af job hos Kodak forsvinder. ”Når et problem kan løses med software, så ser vi en klar tendens til, at ganske få vindere kan slå alle konkurrenterne ud og eje hele markedet,” siger han.

Vi har behov for en nytænkning af arbejdsmarkedet

Denne udvikling sker, uden at folk, der benytter teknologien, på nogen måde har til hensigt at gøre andres arbejde overflødigt, uddyber han.

”Det er jo aldrig sådan, at der en dag kommer en robot ind ad døren og siger: Jeg har fået dit job. Rejs dig op, så sætter jeg mig ned,” forklarer Rydahl og fortsætter: “Det er ikke sådan, den teknologiske udvikling foregår. Det foregår sådan, at en virksomhed benytter nogle smartere værktøjer og udkonkurrerer andre virksomheder, som ikke er lige så effektive.”

Sådanne teknologiske forandringer tager mange af os del i. ”Jeg forestiller mig ikke, at du tænker over, at når du bruger Word, så er du en del af den trend, som har gjort sekretærer overflødige”, eksemplificerer Rydahl.

”Der er en stor diskussion i Silicon Valley om borgerløn eller basisindkomst, fordi den teknologiske udvikling risikerer at overflødiggøre meget arbejde”, siger Rydahl, der mener, vi har behov for en nytænkning af arbejdsmarkedet, og at borgerløn kan være en del af svaret.

Udfordringer kræver politiske svar

Der er ifølge Ida Auken tre store udfordringer, udviklingen inden for kunstig intelligens stiller os: Risikoen for arbejdsløshed, datasikkerhed og beskyttelse samt koncentration af magt og penge, idet relativt få virksomheder kommer til at sidde på en stor del af udviklingen.

”Første udfordring kræver, at vi investerer i uddannelse, træning og efteruddannelse. Set i det lys er den nuværende VLAK-regerings politik om, at universiteterne årligt skal spare 2 procent sammen med uddannelsesloftet den mindst fremsynede politik i mands minde”, siger hun og uddyber:

”Udfordringen med datasikkerhed kan imødegås på flere måde. Staten kan stille krav til at virksomheder inddesigner databeskyttelse – hvilket også kaldes privacy by design – og med dens indkøbspolitik. Virksomhederne skal være opmærksomme på deres sociale ansvar, og borgerne skal spørge ind til, om deres data og viden om privatliv beskyttes”.

”Derudver skal EU på banen, ellers får de store virksomheder helt frit spil”, afslutter Auken.

 

For at læse artiklen skal du logge ind eller oprette dig!

Kontakt os på 60216085 for et BUSINESS abonnement.

eller

INTRO

   

Tags: , , , ,

Skriv et svar

Din e-mailadresse vil ikke blive publiceret. Krævede felter er markeret med *