-Vi må kunne gripe inn hvis algoritmene «går bananas», mener IKT-ekspert Per Øyvind Hodøl.
NITO ser på det som et skritt i riktig retning at det settes av én milliard til forskning på kunstig intelligens og hva slags konsekvenser teknologien kan ha for det norske samfunnet. Den teknologiske utviklingen går veldig fort, og vi er nødt til å ligge i forkant og henge med på det som skjer.
– Det er veldig bra at regjeringen endelig anerkjenner at satsingen på kunstig intelligens handler om behovet for kompetanse. Men personvernet må ikke ofres på en uakseptabel måte i jakten på forskningsresultater.
– Forskning i et slikt omfang som det forespeiles vil kreve stor tilgang på data, som igjen vil legge press på å få tilgang til offentlige registre og opplysninger om Ola og Kari Normann. Etikken må bidra til å ivareta dette, så en del midler må fordeles til etisk KI-forskning, sier Hodøl.
NITO mener at Datatilsynet må få styrket sin kompetanse og mandat til å kunne gripe inn hvis algoritmene «går bananas». Et algoritmetilsyn bør etableres.
Samarbeid med fagfolkene
NITO har flere ganger satt etikken rundt KI høyt på agendaen gjennom eget etikkutvalg og samarbeid med andre organisasjoner for å øke kunnskapen om hvordan kunstig intelligens brukes til overvåking og kontroll.
– Vi bistår gjerne regjeringen i dette arbeidet, så bruk fagorganisasjonene, sier Hodøl.
I en digital veiviser, som NITO har vært med på å utvikle, påpeker vi at det er viktig å sikre bevissthet om mulighetene for datafangst og kunstig intelligente verktøy. Særlig nå som stadig flere bedrifter og organisasjoner tar i bruk denne typen teknologi i sine styringssystemer, produksjon og tjenester.
Nordiske ingeniører, gjennom den nordiske ingeniørorganisasjonen ANE har også utarbeidet retningslinjer med anbefalinger til ingeniører, samt fem krav til politiske myndigheter i de nordiske landene. Skal vi ha en etisk praksis i utvikling og bruk av kunstig intelligens, må vi ha etiske retningslinjer.
– Signalene fra utvalget om kunstig intelligens er positive. Det er veldig bra at regjeringen endelig anerkjenner at satsingen på kunstig intelligens handler om behovet for kompetanse. Tiden er overmoden for flere studieplasser innen IKT- og ingeniørfag, vi forventer å se en slik satsing i statsbudsjettet for 2024.
– Det er også bra at Norge og EU satser på AI-forskning. Vi kan bygge nødvendig kompetanse til å forstå problemstillingen, bryte monopoler ved å bygge demokratiske alternativer, og sikre nødvendig åpenhet og innsyn i teknologien, sier Hodøl.
NITO har tidligere gått ut og vært en forkjemper for en nasjonal skyløsning som et samarbeid mellom offentlig og privat sektor. En nasjonal skyløsning vil ha stort behov for kunstig intelligens for å være et reelt alternativ til de store internasjonale selskapene. Norskfinansiert forskning på AI kan bidra til dette.
