Husk lige etikken!
Fra dyb fascination og tro på det gode. Til koldsved over de skræmmende konsekvenser og perspektiver, der viser sig. Det handler om digitalisering og om kunstig intelligens i særdeleshed.
– Vi er gået igennem en årrække med en blind tro på, at teknologi-virksomheder kun kunne gøre det gode. Så fandt vi ud af, at det ikke kun var godt det hele. Nu er vi et sted, hvor vi har mistet tilliden til, at teknologi er entydigt godt, siger Peter Svarre, der er digital antropolog og etiker og forfatter til blandt andet bogen ”Hvad skal vi med mennesker?”. Danmark ligger ifølge FN-målingen ”E-Government Survey 2020” i verdenstoppen, når det handler om digitalisering. Men topplaceringen kommer ikke
uden, at etiske spørgsmål og dilemmaer melder sig på banen. Groft sagt kan offentlige myndigheder i dag bruge det, man kan kalde Amazon-modellen.
– Der er bare forskel på at forudsige, hvilke bøger du kan lide, eller om du mishandler dit barn. Jeg er svært imponeret over, hvor dygtige vi i Danmark er til digitalisering. Men jeg er bekymret, fordi det virker som om, man ligger ret meget under Silicon Valley-tankegangen, der går på at teknologi kan løse en masse problemer, siger Peter Svarre. Han tilføjer: – Når man forsøger at sætte algoritmer til at regne ud, om børn er udsatte, bliver jeg bekymret i forhold til, om den offentlige sektor i Danmark er klar over, hvad det er for nogle kræfter, den leger med. Kunstig intelligens er ekstremt kraftfuldt. Man kan se ind i fremtiden, fordi man kan se mønstre i nutiden, som betyder, at man kan regne mønstre ud i fremtiden. Peter Svarre påpeger, at problemet er, at man over en bred statistisk kam godt kan ramme rigtigt, men man rammer også ved siden af. – Og som borger har man en ret som individ. Men det er ikke sådan maskinerne tænker. Det, jeg grundlæggende kan frygte, er, at vi som borgere over for den offentlige sektor kan blive statistiske individer – og ikke retslige individer, siger han.
MODSVAR TIL SILICON VALLEY
Peter Svarre og Dansk Design Center lancerer i efteråret Det Digitale Etikkompas. Formålet med redskabet er at lære virksomheder at tænke på en anden måde, når de udvikler digitale redskaber.
– Det er lidt et modsvar til den Silicon Valley-hype, vi har ligget under for, hvor det handler om, at man skal skalere så hurtigt som overhovedet muligt, men hvor man egentlig undervejs taber fokus på mennesket og de problemer, der kan være i ens teknologi, siger Peter Svarre. Han nævner Airbnb som et eksempel på et nyt produkt, der har givet folk over hele kloden nye muligheder. Men produktet har samtidig skabt store problemer. Og listen over lignende eksempler er vokset de senere år, hvor techplatforme blandt andet er blevet stederne, hvor vildledning og manipulation af forbrugere og borgere har fundet sted. Alt dette betyder, at brands og offentlige myndigheder i stigende grad er nødt til at tænke etikken ind fra begyndelsen – men også forsøge at designe produkter og services på en anden måde end i dag.
– Kunstig intelligens kan i dag ikke lære etik. Etik handler om, at du er i stand til at tvivle. Det er ret centralt, siger Peter Svarre, der dog påpeger, at der er en ”grundetik i dansk erhvervsliv og på det danske arbejdsmarked.”
– Det hænger nok også sammen med, at der er relativt mange medarbejdere i Danmark, som ikke vil være med til at lave uetisk arbejde. Og så er det nemmere at sige op i Danmark, end det er i for eksempel USA, siger han.
Peter Svarre er blandt talerne på konferencen Den Digitale Borger – se programmet her