Inga Strümke: Maskiner som tenker – algoritmenes hemmeligheter og veien til kunstig intelligens

Tenkende maskiner og tenkende mennesker

Av Mathilde Fasting, idehistoriker i Civita

Kunstig intelligens åpner for en rekke muligheter og utfordringer. Inga Strümkes bok forklarer sakskomplekset på en grundig og forståelig måte.

AI-forsker ved NTNU, Inga Strümke, har skrevet en bok om AI, altså kunstig intelligens, som er mulig å forstå for ikke-teknologer. Boken heter Maskiner som tenker. Det er en bragd i seg selv. Helt uten hjelp fra ChatGPT (får jeg tro!) forklarer Strümke kompliserte sammenhenger og begreper om hvordan fagfeltet kunstig intelligens oppstod og har utviklet seg. Hun går også inn i hvordan maskinlæring fungerer, og hva datamaskiner kan gjøre. Dessuten forklarer hun inngående om hva datamaskiner ikke kan og hvorfor de ikke kan det. For eksempel er det svært vanskelig å få maskiner til å forstå hva de ser på, men ikke å generere bilder.

Det viktigste i boken er likevel de delene som handler om politikk, etikk, dilemmaer og anvendelse av maskinkraften. Maskiner kan i dag lage bilder, stemmer og skrive tekster, og de blir bare bedre og bedre, måned for måned. Høsten 2022 ble ChatGPT (Generative, Pre-trained Transformer) tilgjengelig for alle, og den kan skrive norskstil, hjemmeoppgaver til eksamen og mye mer. Strümke roer leseren ned og sier at programmer som ChatGPT er gode til å kommunisere, men elendige til å informere. Likevel er det mange som blir bekymret for å miste jobben og for at elever og studenter nå kan bruke ChatGPT, uten at det er mulig å oppdage det. En student som bruker ChatGPT til å skrive noe, vil mest sannsynlig få en tekst som passerer eksamen, men spørsmålet er om studenten har lært noe. Læringen består i noe annet enn å be maskinen skrive en tekst som passer til oppgaven. På den andre siden er ChatGPT et hjelpemiddel for alle dem som har problemer med å formulere seg og som trenger forståelige tekster i sitt arbeid, tekster som ikke skal passere eksamenskontoret, men som skal leses og forstås. 

Når maskiner lærer seg språk og kan skrive, nærmer vi oss flere av de filosofiske spørsmålene Strümke tar opp. Språket og evnen til å formulere seg og kommunisere er grunnleggende menneskelige egenskaper. Hun spør for eksempel: Hva er forskjellen på å simulere evner og å ha evner? Hva når maskinene ser ut til å ha det vi vil kalle kreativitet, kontekstforståelse og empati? Hvor blir det da av det unike menneskelige? Og hvis maskinkraften gjør at alle disse evnene produserer resultater som er langt bedre enn det mennesker kan? På flere områder gjør maskiner dette allerede og har gjort det lenge. 

Maskiner kan i dag lage bilder, og det blir vanskeligere og vanskeligere å avgjøre for oss om bildene er ekte eller falske. Bildeteknologien kan samtidig fungere helt fantastisk når det gjelder å diagnostisere indre skader eller kreft. Dette er noe vi ønsker, men hvor personvern for sensitive persondata er sterkt og påvirker hva det kan forskes på og hva maskinene kan få av data input til å trene på. 

Når maskiner lager bilder, kan de også lage kunst, eller være kreative? Hvem eier kunsten laget av en datamaskin? Når vi vet at maskinene får data fra alle kunstverk og bilder som allerede eksisterer og bruker all den informasjonen til å lage kunst, hva da med alle dem som ikke vil at maskinene skal trene på «sin» kunst? Den første seieren til et AI-kunstverk i en kunstkonkurranse er allerede et faktum. Sommeren 2022 vant et AI-kunstverk, uten at dommerne på noen måte hadde en mistanke om at kunstverket var laget av en datamaskin. Var da kunstverket ekte? Hvem har opphavsretten? 

All teknologi, helt fra steinalderen, utvikles for å løse problemer, for å gjøre ting enklere, og for gi oss mennesker muligheter til å håndtere nye oppgaver. Så langt har vi hatt kontroll over utviklingen. Det er det flere som mener at vi ikke har lenger, fordi det ikke er mulig for oss å forstå hvordan maskiner fungerer – hvilke prosesser foregår i en maskinlæringsprosess, hvilke valg tas og hvorfor? 

Strümke skriver både om mulige forslag til reguleringer og om hva fremtiden vil kunne bringe. Så langt er det EUs white paper for tillitsverdig kunstig intelligens og EUs etiske retningslinjer for kunstig intelligens hun har størst tro på, men det er ikke nok. Regler og lover vil alltid følge etter teknologiutviklingen. Det betyr ikke at det ikke er noe å gjøre. EU kom i 2021 med The Artificial Intelligence Act, hvor reguleringen som foreslås er basert på ulike vurderinger av risiko. Strümke skriver at EUs tilnærming til AI er preget av et sterkt personvern, beskyttelse av data og antidiskriminering. Alt dette er forhold som Norge også vil være opptatt av, selv om det gjør det vanskeligere for et ikke-medlemsland som Norge å være med på å beslutte hvordan slike reguleringer skal være. Strümke har også forslag for Norge, blant annet et AI-tilsyn eller en AI-kommisjon som kan ha en koordinerende rolle og legge til rette for regelutvikling i tråd med hva som skjer teknologisk. Og reglene som kommer må være strenge, er hennes råd. 

Dessuten vil flere etiske problemer bli mer akutte. Det mest kjente er kanskje selvkjørende biler og utviklingen av dem. Selv om mennesker forårsaker bilulykker daglig, vil vi se på det på samme måte dersom en selvkjørende bil forårsaket en ulykke? Etikk handler ikke om riktige svar, men om best mulig avveining og prioritering, og det kan variere fra menneske til menneske og fra situasjon til situasjon. 

Mot slutten av boken presenterer Strümke fem prinsipper for etiske retningslinjer for kunstig intelligens, hvorav bare den siste av dem er ny eller unik for AI. Det er velgjørenhet, ikke-ondsinnethet, autonomi, rettferdighet og forklaringsevne. Forklaringsevnen handler om både det å forstå hva datasystemet gjør, og om etterretteligheten. Det siste dreier seg om hvordan vi har tilgang til forklaringer på hva som skjer i maskinene som vi kan benytte og påvirke. Det handler om hvordan maskiner gjør «rett», altså har mål som mennesker også har, og «galt», og hva som skjer når de gjør «galt», altså har mål som bryter med menneskers mål, samt om det er mulig å forhindre at de gjør det. I sin essens vil dette handle om maskiner blir menneskemaskiner. 

Det er ikke enkelt å lese en bok om maskinlæring og kunstig intelligens uten å komme med en advarsel: Maskinene som «tenker» er allerede imponerende, men hva vi skal benytte dem til avhenger av at vi som mennesker tenker oss nøye om, og det må vi gjøre uten maskinenes hjelp.

Innlegget er publisert i Minerva 15.7.2023.