KI krever helhetlig perspektiv

Havtil følger nøye med på selskapenes arbeid med kunstig intelligens (KI) - og at risikofaktorer blir sett og håndtert.

I petroleumsnæringen pågår det for tiden mange prosjekter og initiativer for å utvikle og implementere kunstig intelligens i ulike systemer. Havtil bruker mye ressurser på å skaffe overblikk og bidra til at selskapene ser KI i et helhetlig perspektiv, der også risiko blir synliggjort og håndtert. 

- Havtil har over tid fulgt opp kunstig intelligens overfor næringen, forteller Torleif Husebø, fagleder for prosessintegritet og sentral i Havtils arbeid med KI. 

Oppfølgingen, som blant annet har foregått gjennom hyppige møter med operatørselskaper, redere, borekontraktører og systemleverandører, fortsetter for fullt. Havtil fører også direkte tilsyn mot implementering. 

Husebø påpeker at det er viktig å skille mellom ulike systemer og graden av påvirkning de har for sikkerheten.

En alvorlig ulykke eller hendelse skyldes sjelden at én konkret ting svikter. 

Direkte og indirekte

- Vi opererer med to kategorier. Den første omfatter systemer som har indirekte påvirkning på sikkerheten, gjerne beslutningsstøttesystemer. Den andre kategorien er systemer som har direkte tilknytning til sikkerheten, for eksempel nødavstengingssystemer eller brann-/gass-systemer som går direkte inn på sikkerhetskritiske applikasjoner, forklarer Husebø.  

Han opplyser at det en ser mest av i næringen nå, er bruk av KI innenfor systemer i den første kategorien. Samtidig pågår det arbeid med teknologi som faller i kategori to.

- Vi ser for eksempel at det utvikles systemer innenfor boring - for å optimalisere boreprosessene. Der er avstanden kort opp til det vi kan kalle sikkerhetskritisk påvirkning, sier Husebø.

Podkast

Hør hele intervjuet med Torleif Husebø i vår podkast.

Podkast: Havtil og KI

• Kunstig intelligens - vår tilnærming

Teknologinøytralt 

Regelverket for petroleumsnæringen er såkalt teknologinøytralt. Forskriftene består i hovedsak av funksjonskrav, som fastslår hvilket sikkerhetsnivå som skal oppnås, men ikke hvordan. Egne veiledninger til forskriftene viser hvordan bestemmelsene kan oppfylles. De henviser ofte til etablerte standarder. Dette gjør at det ikke skal være nødvendig med stadige endringer av regelverket i møte med ny teknologi. 

- Vår vurdering er at regelverket holder seg godt i møte med KI, men at det gjenstår en del på standardiseringssiden. Dette ser vi også generelt når det gjelder innføring av ny teknologi. Men det jobbes godt med KI-relevante standarder både nasjonalt og internasjonalt, påpeker Husebø. 

Tverrfaglighet

Han understreker betydningen av såkalt domenekompetanse eller tverrfaglighet.  

- KI omfatter mange disipliner. Derfor er det veldig viktig å tenke tverrfaglig. Skal du for eksempel implementere KI i boresystemer, holder det ikke bare å bruke KI-eksperter.  

- Implementering av KI stiller store krav til mennesket, organisasjonen og teknologien. Derfor er det viktig å fokusere på sammenhengene.  

- En alvorlig ulykke eller hendelse skyldes sjelden at én konkret ting svikter. Oftest er det en kombinasjon av flere faktorer, sier Husebø, og trekker fram noen punkter som er spesielt viktige ved utvikling, implementering og bruk av KI i petroleumsnæringen: 

Risikostyring: 
Ha gode innledende prosesser, og sørg for å identifisere og vurdere relevante trusler og farer. Med ny teknologi vil det alltid dukke opp nye forhold en må ta høyde for. 

Kompetanse: 
Trekk inn relevante fagdisipliner; det må bredde til. God domenekompetanse er nødvendig. 

Teknologikvalifisering: 
Dette er ekstra viktig når det kommer til KI, som ser ut til å bli omfattende, med mulig dype implementeringer. Det er viktig med grundige prosesser – for å oppnå god nok modning av teknologien.

Standarder:  
Næringen må bidra i standardiseringsarbeidet - slik vi for eksempel har sett med Norsok, som har bidratt vesentlig til sikkerhetsnivået. Også i forhold til KI er det viktig å dra lasset sammen. Poenget må være at implementeringen av KI-baserte løsninger skal forbedre sikkerheten.

Forsvarlig bruk

Havtil har fått utarbeidet en kunnskapsoversikt som dekker de grunnleggende risikoforholdene ved utvikling og bruk av kunstig intelligens (KI) i petroleumsvirksomheten, spesielt med hensyn til storulykkesrisiko. 

Rapporten «Forsvarlig bruk av kunstig intelligens i petroleumssektoren» utforsker hvordan KI kan forbedre både effektivitet og sikkerhet, samtidig som man tar hensyn til de unike risikoene KI introduserer sammenlignet med tradisjonelle IT- og automatiseringssystemer. 

Forsvarlig bruk av KI

• Forsvarlig bruk av kunstig intelligens i petroleumssektoren