Kunstig intelligens og autonome funksjoner får en stadig større rolle i boreoperasjoner. Når systemene i større grad kan analysere situasjoner og ta egne beslutninger, blir det også viktigere å forstå hvordan mennesker kan beholde oversikt, kontroll og mulighet til å gripe inn når noe uventet skjer.
Dette er tema i en ny forskningsartikkel fra NORCE.
– Når vi sier «autonom», mener vi at systemet kan ta beslutninger selv i komplekse situasjoner, ikke bare følge forhåndsdefinerte regler, forklarer Rodica Mihai, sjefsforsker i forskningsgruppen for energimodellering og automatisering ved NORCE Energy.
I artikkelen «A technical perspective to human oversight in complex drilling automation systems based on artificial intelligence methods» ser hun og medforfatterne på hvordan menneskelig oversikt kan ivaretas i komplekse boreautomatiseringssystemer.
– Sikkerhet i autonome boreoperasjoner kan ikke reduseres til enkeltfunksjoner eller isolerte tekniske barrierer, understreker hun.
Behov for menneskelig oversikt og kontroll
Økt grad av autonomi betyr ikke at mennesker blir irrelevante. Tvert imot endres rollen ofte fra aktiv styring til overvåking, vurdering og inngripen ved behov. Dermed blir menneskelig oversikt stadig viktigere.
Utfordringene blir særlig tydelige i boreoperasjoner, hvor sentrale beslutninger tas i sanntid og under usikkerhet.
– Erfaringer fra innføring av ny boreteknologi viser at digitalisering og automatisering ikke bare kan bidra til å øke sikkerheten, men også kan introdusere nye risikoer og sårbarheter. Når beslutninger flyttes til mer automatiserte systemer, kan det bli vanskeligere å oppdage feil, avvikende sensordata eller uventet samspill mellom systemer.
I en boreoperasjon kan slike forhold utvikle seg raskt og bidra til alvorlige hendelser dersom operatørene ikke får tilstrekkelig innsikt i hva systemet gjør, hvorfor det gjør det, og når det er nødvendig å gripe inn, understreker Mihai.
– Boreoperasjoner er komplekse, og ikke alt kan måles direkte. For å støtte menneskelig oversikt må systemene kunne dele relevant informasjon, sier Mihai.
Hvilken informasjon som er nødvendig, avhenger av brukeren. Operative brukere trenger innsikt i usikkerhet og tiltak, mens mer overvåkende roller må forstå systemenes begrensninger. Samtidig må informasjonsmengden begrenses, slik at den faktisk styrker situasjonsforståelsen.
Tekniske løsninger som støtter «mennesket i loopen»
Et sentralt mål for forskningen er å utvikle tekniske løsninger som støtter mennesket både i forventede og uforutsette situasjoner.
Innen automatisert boring er det eksempelvis viktig med løsninger som bringer systemet til en trygg tilstand når noe uventet skjer, og som gjør det mulig for operatøren å ta kontroll.
Mihai trekker frem Safe Mode Management (SMM) som et viktig virkemiddel.
SMM er en metode som kan styre overgangen fra autonom drift til manuell kontroll.
– Med SMM bringes systemet over i en midlertidig, trygg tilstand i stedet for å stoppe brått eller overlate alt til operatøren. Hensikten er å gi operatøren tid til å forstå og vurdere situasjonen, og samtidig redusere risikoen for feilhandlinger, forklarer hun.
Denne formen for trygg overgang er særlig viktig fordi autonome systemer også må kunne håndtere uforutsette situasjoner der beslutningsgrunnlaget kan være usikkert eller ufullstendig.
Scenarier og praktiske utfordringer
For å konkretisere hvordan risiko og hendelser kan oppstå i praksis, bruker forskningsartikkelen tre «hva om»-scenarier. Scenariene viser hvordan KI-baserte løsninger, inkludert mangelfulle data og uklare grensesnitt mellom menneske og system, kan bidra til at en hendelse oppstår eller utvikler seg i feil retning.
Scenarier:
1. Autonomt boresystem i sanntidsoperasjon
Her beskrives en situasjon der et system tar beslutninger basert på usikre data. Scenariet viser hvordan manglende innsikt kan gjøre det vanskelig for borer å gripe inn i tide.
2. KI-basert MPD-system med overvåkende operatørrolle
Her belyses risikoen for svekket situasjonsforståelse dersom beslutningsgrunnlaget ikke er tilstrekkelig synlig.
3. Planleggingsverktøy basert på språkmodeller
Scenariet viser hvordan feil i genererte planer og manglende forståelse av modellens begrensninger kan føre til feil bruk.
Til sammen illustrerer scenariene behovet for robuste mekanismer for informasjonsdeling, presentasjon av informasjon, feilhåndtering og sikker overgang til manuell kontroll.
Menneskelig oversikt i distribuerte systemer
Fremover vil utviklingen i næringen i økende grad innebære at flere systemer fra ulike leverandører må samhandle. Det øker kompleksiteten og kan gjøre det mer krevende å oppdage feil og avvik i tide.
– For eksempel kan systemer som baserer seg på ulike data og modeller gi forskjellige vurderinger i samme situasjon. Spørsmålet er da hvordan vi oppdager slike inkonsistenser automatisk og varsler om dem, påpeker Mihai.
Dette handler ikke bare om beslutningslogikk, men også om mekanismer for å synliggjøre usikkerhet og avvik på en måte som støtter menneskelig oversikt og kontroll.
Et tydelig budskap
– Økt autonomi endrer menneskers rolle og stiller nye krav til teknologien, fastslår Mihai.
– Skal autonome boresystemer tas i bruk på en sikker måte, må de utformes slik at de ikke bare muliggjør menneskelig kontroll, men også gir reell forståelse av hva systemet gjør, hvordan beslutninger blir til, og hvilke sikkerhetsmekanismer som støtter mennesket.