30 MACHINE LEARNING INTERVIEW
sende den gennem et oversætterprogram
og få en god idé om indholdet.
Begge dele er kun mulige
takket være usynlige algoritmer,
der er udviklet inden for vores
forskningsfelt.”
Andre eksempler er genkendelse
af tale, billeder og ansigter, automatiseret
handel på aktiemarkederne,
selvkørende biler og selvstyrende
robotter samt systemer, der kan
give brugerne anbefalinger om
restauranter og butikker, som
passer til deres smag.
Når maskinerne diskriminerer
Professoren er ikke blind for, at
der også er skyggesider af machine
learning:
”På et tidspunkt forsøgte man
sig i USA med et system til støtte
for beslutninger om prøveløsladelse
af indsatte i fængslerne. Idéen var,
at man kunne træffe beslutningerne
hurtigere og mere retfærdigt ved i
højere grad at basere dem på objektive
parametre. Da man senere
evaluerede systemet, opdagede
man imidlertid en klar slagside.
Systemet gav hvide indsatte uforholdsmæssigt
gode muligheder for
prøveløsladelse i sammenligning
med farvede.”
Et tilsvarende eksempel er ligestilling
mellem kønnene:
”Lad os sige, at jeg ønsker at
udvikle et system, der kan grovsortere
jobansøgere. Her vil det være
naturligt – og ofte også lovpligtigt –
at sikre, at mandlige og kvindelige
ansøgere er ens stillet. Selvfølgelig
kan jeg skrive ind i min algoritme,
at den skal se bort fra oplysningen
om personens køn. Men det vil
være naivt at tro, at jeg dermed
har løst min udfordring. Der er
mange systematiske forskelle på de
oplysninger, som mænd og kvinder
vælger at give i deres ansøgninger.
Derfor er det faktisk en meget
kompleks opgave at sikre, at de to
køn reelt behandles ligeværdigt i
systemet.”
Eksemplerne viser, at skaberne af
et automatiseret system til beslutningsstøtte
risikerer at indarbejde
deres egne kulturelt betingede
normer.
”Typisk sker det ubevidst. En
lille nuance i en formulering kan
skabe en skævvridning, som man
ikke selv tænker over,” konstaterer
Zoubin Ghahramani. ”Den
gode nyhed er imidlertid, at hvis
vi lykkes med at gøre tingene rigtigt,
kan vi få et samfund, der er
væsentlig mere retfærdigt end i dag.
Vi ved jo udmærket, at mennesker
bestemt ikke er objektive, når de
skal træffe beslutninger om, hvilke
ansøgere til et job de vil kalde ind,
eller hvilke fanger de vil prøveløslade
fra et fængsel. En maskine kan
træffe den slags beslutninger langt
mere objektivt. Derfor er jeg grundlæggende
meget optimistisk!”
Se intelligens som funktioner
Sagt på en anden måde, kan en
maskine blive i stand til at træffe
bedre beslutninger end et menneske?
”Jeg ved godt, at den påstand vil
provokere mange! Men man skal jo
ikke forstå det sådan, at jeg mener,
at maskiner er klogere end mennesker.
Intelligens er mange ting.
Det interessante for mig er ikke
så meget, hvad intelligens er, men
hvad den bruges til. Når man deler
Interviewet med
Zoubin Ghahramani
fandt sted i forbindelse
med hans
Ørsted-forelæsning
på DTU.
”I machine learning er mennesket
i høj grad med til at understøtte
maskinens løsning af opgaverne.”
ZO U B I N G H A H R A M A N I , P RO F E S S O R , C A M B R I D G E