Kunstig intelligens – Vi må forstå mer av det som skjer inne i boksen

Kunstig intelligens styres av teknologigiganter i USA og Kina. Men Europa kan velge å gå en smartere og mer demokratisk vei, mener professor.

Mange av dagens KI-systemer gir imponerende resultater, men de gjør oss ikke klokere, og vi forstår ikke alltid hvordan de kommer fram til resultatene. Men det kan vi gjøre noe med, mener professor. Illustrasjon: Colourbox

Mange av dagens KI-systemer gir imponerende resultater, men de gjør oss ikke klokere, og vi forstår ikke alltid hvordan de kommer fram til resultatene. Men det kan vi gjøre noe med, mener professor. Illustrasjon: Colourbox
 

Steinar Brandslet, Gemini.no                                 17.mars 2026 – 11:05

Kunstig intelligens blir stadig viktigere, men domineres fullstendig av USA og Kina. Å overlate feltet til fremmede makter og store firmaer kan virke risikabelt. Den siste tida har vist oss europeere at vi ikke kan stole på noen andre enn oss selv.

Det er også betenkelig at vi egentlig ikke skjønner helt hvordan den kunstige intelligensen virker i dag, mener den norske professoren Harald Martens. Det er som om vi putter data inn i en svart boks, og så popper det ut et svar. Hvorfor? Vet ikke helt.

Selv Anthropic-sjef Dario Amodei har vært inne på det samme. «Denne mangelen på forståelse er i stor grad uten sidestykke i teknologiens historie», skrev han i fjor.

Martens sier at Europa bør gå en annen vei, som gir tryggere, mer kostnadseffektive og mer forståelige KI-løsninger.

Dagens KI ikke bra nok i alle sammenhenger

– Mange av dagens KI-systemer gir imponerende resultater, men de gjør oss ikke klokere, og vi forstår ikke alltid hvordan de kommer fram til resultatene. Det kan være et problem når KI skal brukes i kritiske situasjoner, sier Martens.

I over 50 år har professor Martens jobbet med tolkbar, minimalistisk og virkelighetsnær datamodellering, basert på maskinlæringsmetoder utviklet og i bruk i andre fagfelt enn Computer Science, uten nevralnett.

I dag er han professor emeritus, fremdeles tilknyttet NTNU, samtidig som han jobber med teknisk kunstig intelligens i Trondheim-firmaet Idletechs. Nå advarer han mot utviklingen innen moderne kunstig intelligens.

– I en tid der algoritmer påvirker stadig flere beslutninger, blir kanskje det viktigste spørsmålet ikke hvor raske systemene er, men om vi kan stole på dem, mener Harald Martens. Foto:  NTNU

– Vi må ha sikrere problemløsing, mindre energiforbruk og mindre «svart boks». Samtidig må vi forstå mer av det som skjer inne i boksen. Vi må i tillegg lære stadig mer om verden vi lever i og systemet vi jobber med. Og det hele må ligge under demokratisk kontroll, basert på våre vest-europeiske verdier.

Martens mener det er fullt mulig.

EU-kommisjonen la for et år siden fram en handlingsplan med samme mål. – Det vil gi konkrete fordeler for våre innbyggere og bedrifter at vi har KI som man kan stole på, sa EU-kommissær Henna Virkkunen da.

En KI vi kan stole mer på

I dag domineres altså KI-feltet av store, datasultne nevrale nettverk. De såkalte «black box»-modellene er tilsynelatende enkle å ta i bruk, men de må trenes på enorme datamengder. Denne maskinlæringen er energikrevende, og løsningene er vanskelige å tolke og kritisere.

Martens og hans samarbeidspartnere har utviklet et alternativ de kaller CIM-ML, eller «Continuous, Interpretable, Minimalistic Machine Learning». Så hva er nå det?

I stedet for å mate systemet med flest mulige data og håpe på det beste, kan maskinlæringen starte med dagens forståelse av systemet som skal beskrives, og av måleteknikkene som skal brukes.

Deretter går maskinlæringen mer eller mindre automatisk, ut fra strømmen av moderne måledata: Enklest mulig løsning, men ikke enklere. Komprimert og grafisk tolkbar.

– Vi bruker gjerne lengre tid på grunnarbeidet, for å kombinere domene-kunnskap og moderne måledata. Dermed får vi modeller som kan forklare seg, sier han.

CIM-ML er selvlærende, selvutvidende og selvkorrigerende, og beskriver både kjente og ukjente data-variasjoner. Det kan håndtere store datastrømmer på små datamaskiner.

– I en tid der algoritmer påvirker stadig flere beslutninger, blir kanskje det viktigste spørsmålet ikke hvor raske systemene er, men om vi kan stole på dem, mener Martens.

Da gjelder det å kombinere moderne måledata og tolkbar matematikk.

For systemer som ikke skal ha feil

Metoden er foreløpig rettet mot middels komplekse systemer, ikke for eksempel Chat GPT eller Deepseeks enorme språkmodeller. Der er det uansett ofte mer rom for feil.

CIM-ML er særlig rettet mot profesjonell bruk i for eksempel prosessindustri og andre tekniske systemer. Dessuten i drone- og satelittbasert miljøovervåking og jordobservasjon med mer.

Eksempler er:

  • Vibrasjonssensorer på en turbin, for å skille lyd, ulyd,og målestøy før det går galt.
  • Termisk videoovervåkning av en smelteovn eller en motor, for oversikt og optimering.
  • Mangekanals drone- eller satellittfotografering av hav og land, for bestemmelse av flest mulig observerbare fenomener, deriblant spektral fjerning av skyggeproblemer.

Her handler det altså ikke bare om å få et pålitelig svar, men også om å forstå hvordan – helst også hvorfor – du fikk akkurat det svaret.

I kritiske anvendelser er det viktig å få tidlige varsler, uten mange falske alarmer. Og det er avgjørende at menneskene som bruker systemet, skjønner hva som skjer, sier Martens.

Europeisk vei i KI-kappløpet?

Debatten om KI handler ofte om hvem som har de største modellene og mest data. Men Europa kan altså satse på en annen vei.

Spørsmålet er om Europa vil satse på en mer uavhengig og transparent teknologi. Eller skal vi forbli avhengige av globale teknologigiganter som opererer etter tilfeldige forbipasserende statslederes luner?

– Den kunstige intelligensen vi utvikler, er forankret i en stolt vest-europeisk, demokratisk opplysningstradisjon. Min drøm for Idletechs har vært å etablere høyteknologiske arbeidsplasser i Norge og Europa. Disse må være basert på en sikker, enkel, etisk og forståelig maskinlæring som også gir menneskelæring, sier Martens.

Artikkelen ble først publisert på Gemini.no

/Ofte Stilte Spørsmål

Hvor kan norske bedrifter få oppdatert informasjon om cybertrusler?

Norske bedrifter kan få oppdatert informasjon fra nasjonale myndigheter og fagmiljøer som publiserer analyser, råd og varsler om cybersikkerhet.

Hvilke bransjer er mest utsatt for cyberangrep i Norge?

Flere bransjer er spesielt utsatt for cyberangrep, blant annet produksjon, detaljhandel og e-handel, regnskap og økonomitjenester, helse og omsorg, samt byggebransjen.

Hvor ofte bør en bedrift ta backup av data?

Bedrifter bør ta regelmessige sikkerhetskopier av kritiske data, helst daglig. Backup bør lagres både sikkert og offline slik at den ikke påvirkes av ransomware-angrep eller andre sikkerhetshendelser.

Hvorfor bør bedrifter bruke tofaktorautentisering?

Tofaktorautentisering (MFA) gir et ekstra sikkerhetslag ved at brukere må bekrefte innlogging med en ekstra faktor, for eksempel en kode fra mobiltelefonen. Dette gjør det mye vanskeligere for angripere å få tilgang til kontoer selv om passordet blir stjålet.

Hva er CEO-svindel?

CEO-svindel er en type phishing der angriperen utgir seg for å være en leder i bedriften. De sender ofte en e-post til en ansatt i økonomi eller administrasjon med en hasteforespørsel om å overføre penger til en konto.

Hvordan fungerer phishing-angrep mot bedrifter?

Phishing-angrep skjer vanligvis via e-post der angripere utgir seg for å være en legitim avsender, for eksempel en leverandør eller leder i selskapet. Målet er ofte å lure ansatte til å klikke på skadelige lenker, oppgi passord eller gjennomføre betalinger.

Hva er den største cybertrusselen mot små og mellomstore bedrifter?

Ransomware er en av de største cybertruslene mot SMB-bedrifter. I slike angrep krypterer angripere bedriftens data og krever løsepenger for å gi tilgang tilbake. Mange angrep inkluderer også trusler om å publisere sensitive data hvis løsepenger ikke betales.

Personvern (GDPR)

Dette nettstedet bruker informasjonskapsler slik at vi kan gi deg best mulig brukeropplevelse. Informasjon om informasjonskapsler lagres i nettleseren din og utfører funksjoner som å gjenkjenne deg når du kommer tilbake til nettstedet vårt og hjelpe teamet vårt med å forstå hvilke deler av nettstedet du synes er mest interessante og nyttige.

– Personvernerklæring (GDPR)