FORDYPNINGSPROSJEKT 2024

Veiledet av Mary Ann Lundteigen Sist revidert 26.04.2024

OM MINE FORDYPNINGSPROSJEKT OG MASTEROPPGAVER

Jeg tilbyr oppgaver til deg som har interesse i å lære deg mer om sikkerhet og cybersikkerhet og hvordan dette påvirker utforming av automatiserte og autonome systemer.

  • Begrepet «Sikkerhet» (engelsk: Safety) betyr fravær av skade som kan bidra til tap av menneskeliv, skade på miljø eller tap av kritisk infrastruktur. Sikkerhetssystemer er systemer som brukes for å ivareta sikkerhet. De sikkerhetssystemer som baseres på sensorer og logikk for å gripe inn og gjøre at systemer går til en sikker tilstand kan vi referere til som instrumenterte sikkerhetssystemer.
  • Begrepet Cybersikkerhet (også omtalt som IKT sikkerhet) er den norske oversettelsen av Cybersecurity og betyr å beskytte nettverk, systemer og program mot ondsinnede cyberangrep («hackerangrep»). Dessverre har vi ikke et eget ord for «security» på norsk, og dermed brukes sikkerhet i begge sammenhenger, men da i to ulike betydninger. Når cyberangrep retter seg mot industrielle kontroll og sikkerhetssystemer kan nettverk, systemer og program skades eller endres slik at det oppstår farlige hendelser i anleggene med fare for utvikling til ulykker. På den måten eksisterer det en kobling mellom hvordan man i varetar cybersikkerhet og evnen til å ha sikre systemer som ikke påfører skade. Cybersikkerhet ivaretas først og fremst ved å implmentere en rekke tiltak for å fjerne sårbarheter i software, nettverkskomponenter og innføre rutiner og systemer som gjør at kun de med rett autorisasjon får jobbe med systemene. I tillegg er det rettet mer fokus på å utforme kontroll og sikkerhetsystemer på en måte som gjør de mindre «hackbare».

For både sikkerhet og cybersikkerhet er risikoanalyser viktige.

  • Risikoanalyser kan brukes til å avdekke hva som kan gå galt og hvor god beskyttelsen i form av sikkerhetssystemer og andre tiltak må være.
  • Relatert til risikoanalyser er pålitelighetsanalyser viktige verktøy for å gi innspill til om beskyttelsestiltakene er gode nok.
  • Tilgang til data fra systemene er helt avgjørende for å avdekke risikoer og vurdere pålitelighet, ikke bare fra drift men også fra design. Å bygge digitale tvillinger som kan følge systemene igjennom hele livsløpet som en «hub» for både systemkrav og systemytelse har stor fokus i industrien som del av Industri 4.0. Her er det behov for å koble kunnskap om sikkerhetssystemer og funksjonalitet med teknologi for informasjonsmodeller og interoperabilitet.
  • Kunstig intelligens gir mange muligheter, men innenfor sikkerhet og cybersikkerhet gir kunstig intelligens flere utfordringer som må håndteres før denne teknologien tillates: For sikkerhetssystemer må man garantere at alle sikkerhetskrav er implementert og virker på samme måte hver gang. Med kunstig intelligens skjules deler av funksjonaliteten og det er behov for å finne andre teknikker for å kunne avgjøre om systemene er sikre nok og om det er behov for andre systemer til å ta over.

Oppgaver som gis av meg har derfor stikkord som sikkerhet, cybersikkerhet, risikoanalyser og pålitelighetsanalyser, digitale tvillinger for sikkerhetsdemonstrasjon, og bruk av kunstig intelligens i sikkerhetsystemer.

Ta kontakt med faglærer professor Mary Ann Lundteigen (mary.a.lundteigen@ntnu.no) hvis du er interessert i temeane ovenfor og eventuelt forslaget til konkrete oppgaver nedenfor. Normalt veileder jeg 3-5 studenter hvert semester.

Eksempler på selskaper der denne kompetansen er relevant:

  • Leverandører av kontroll og sikkerhetssystemkomponenter og systemer (intelligent feltutstyr, brann og gassdeteksjon, kontrollere). Eksempler: Siemens, ABB, Kongsberg, Emerson, Origo Solutions, Autronica,..
  • Engineeringsselskaper som designer anlegg for både prosessindustrien (olje og gass, hydrogen), offshore vindparker og tilvirkning/fabrikkering: batterifabrikker, ulike typer fabrikkering. Eksempel: Aibel, AkerSolutions, SubseaSeven,..
  • Konsulentselskaper som gjør risiko og sårbarhetsanalyser og gir veiledning til kunder om teknologiløsninger: Sopra Steria, Safetec, DNV,Vysus Norway
  • Anleggseiere som Hydro, Elkem, Equinor, Orkla, AkerBP, Vår Energi, Eni, ..
  • Med noen år erfaring også myndighetsorgan som Petroleumstilsynet og Direktoratet for sikkerhet og beredeskap. Merk at Petroleumstilsynet med sin erfaring i forebygging av store ulykker nå også får ansvar for grønne produksjonsanlegg som eksempelvis hydrogenproduksjon, CO2-fangst og lagring og vindproduksjon til havs.

Oppgave 1: CYBERSIKKERHET I INDUSTRIELLE KONTROLL- OG SIKKERHETSSYSTEMER

Denne typen oppgave er for studenter som enten ønsker å jobbe med cybersikkerhet i fremtiden eller ønsker å forstå bedre hvordan cybersikkerhet er relevant for sitt arbeid. Kan velges av inntil 3 studenter, så lenge faglærer har kapasitet.

Formålet med dette fordypningsprosjektet er å utvikle og anvende metoder for hvordan industrien kan ivareta cybersikkerhet for industrielle kontroll og sikkerhetssystemer. Her er det mulig å gå bredt ut, eller fordype seg ned i spesifikke problemstillinger knyttet til cyberrisikoanalyser og sårbarhetsanalyser av utstyr og nettverk, implementering av security soner og conduits (forbindelser mellom soner) basert på risiko, og implementering security level (SL) krav og utvikling av algoritmer for angrepsdeteksjon. Et eksempel på slike algoritmer kan baseres på kybernetisk kunnskap og modeller, slik som å bruke modeller til å avdekke unormale og mistenkelige tilstander. Et konsept som kan være aktuelt å videreutvikle er vist i figuren nedenfor og hentet fra denne artikkelen.

Det er også mulig å foreslå utforming av kontrollsystemer og de styrte prosessene på en måte som gjør at angrep får de mest alvorlige konsekvensene. Uavhengig av valgt problemstilling vil alle som skriver dette prosjektet få en grunnleggende kunnskap om hvilke regler og regelverk industrien må forholde seg til og hvordan dette vil påvirke både utviklere av produkter og de som kjøper og drifter systemer.

Det er en fordel å jobbe med et konkret case eller anvendelse. Dette kan velges utfra egne interesser: Eksempelvis: Prosessanlegg, kraftdistribusjon, medisinske utstyr, autonome droner eller fartøy, autonome kjøretøy.

Etter gjennomføringen av dette prosjektet vil studenten være i stand til å ta del i diskusjoner og kunne inngå i team som jobber med cybersikkerhet i industrien.

Eksempler på masterprosjekt som har vært gjennomført (og som startet med fordypningsprosjekt på samme/tilsvarende tema) er:

Problemstillinger i disse kan også være aktuelle å bruke som case i videre arbeid.

Det tilbys ikke egne fordypningsemner innenfor cybersikkerhet, men for studenter som skal ha et valgfag i tillegg, så er følgende relevant:

OPPGAVE 2: KUNSTIG INTELLIGENS I SIKKERHETSSYSTEMER

Denne typen oppgaver er rettet mot de som har lyst til å vite mer om krav til sikkerhetssystemer og hva teknologier som AI må forholde seg til for å kunne implementeres i slike. Kan velges av inntil 3 studenter, så lenge faglærer har kapasitet.

Kunstig intelligens (AI) kommer inn i stadig flere systemer. Denne typen teknologi er «blackbox» eller «graybox» i forhold til å kunne forklare sammenhenger mellom inn og utganger til et system. Funksjonell sikkerhet handler om krav til industrielle systemer som er basert på elektrisk, elektronisk og programmerbar elektronisk teknologi for sikkerhetsapplikasjoner, eller også kalt SIS . Et SIS utfører som regel flere funksjoner, der hver funksjon kalles en SIF . Et anlegg kan ha flere SIS for å løse ulike typer oppgaver som prosessnedstenging, tennkildekontroll, brann og gassdeteksjon og overtrykksbeskyttelse. Da får SIS systemene ofte ulike navn etter disse type hovedoppgaver. Eksempelvis er prosessnedstenging (PSD ) system et eksempel på et SIS system. SIS kan også brukes som begrep for sikkerhetskritiske systemer og funksjoner i andre anvendelser som autonome biler, droner og maritime fartøy.

Standarder for funksjonell sikkerhet slik som IEC 61508, brukt av de aller fleste som utvikler produkter og systemer for sikkerhetsanvendelser, stiller krav til at man kan verifisere oppførselen til systemet og at oppførselen ikke endres uten at dette er blitt verifisert på nytt. Å introdusere AI til sikkerhetskritiske systemer som faller innunder kategorien funksjonell sikkerhet byr derfor på ekstra utfordringer. Industrien er i gang med å jobbe med dette og utga i januar 2024 IEC/ISO TR 5469. IEEE jobber også med egne intiativ. Her identifiseres både utfordringer og mulige måter å integrere AI i sikkerhetssystemer, både direkte og indirekte. Et eksempel på en arkitektur for direkte integrering av AI i en utførende sikkerhetsfunksjon er foreslått og gjengitt nedenfor.

At bruk av AI kan by på utfordringer er også på agendaen i EU gjennom ulike initiativ som er forklart på nettsiden til EC. EU utvikler også egne retningslinjer for tillitsverdig AI (Trustworthy AI) og et tilhørende lovverk («AI act»). I dette lovverket gis det særskilte krav til høyrisiko (high risk) AI-systemer, som inkluderer bruk i systemer som ved feiloperasjon kan medføre skade og ulykke på personer, miljø og infrastruktur. DNV publiserte i 2023 egen retningslinje på dette temaet, for å gi veiledning i godkjenning/verifisering av AI brukt i industrielle sikkerhetssystemer.

I stedet for å presentere et sett av oppgaver med tilhørende deloppgaver har jeg i stedet listet noen problemstillinger som studenter kan velge blant. Mer detaljerte deloppgaver lages når jeg har fått kartlagt interessen fra studenter. Eksempler på problemstillinger som er naturlig å ta inn er: :

  • Hva AI kan brukes til for SIS systemer, det vil si hvilke oppgaver AI potensielt kan løse bedre enn konvensjonelle (ikke-AI) løsninger?
  • Hva som gjør SIS med AI til et «high risk» AI system
  • Hvilke føringer og løsninger som foreslås gjennom initiativ som jobber med AI inn mot SIS systemer (standarder, litteraturgjennomgang, EU regelverk og retningslinjer)
  • Hvilke problemstillinger er belyst i litteraturen (artikler, rapporter) om risiko forbundet med AI i SIS systemer
  • Et eksempel kan være å studere hvordan man kan overvåke et system som er basert på kunstig intelligens. For eksempel se inn på konsept og metoder foreslått i denne artikkelen.
  • Om mulig, lage seg «case system» som for å belyse ulike problemstillinger for bruk av AI for SIS. Sikkerhetskritiske funksjoner i forbindelse autonome systemer eller prosessanlegg kan være aktuelle. Case systemet kan være basert på åpne datasett og systembeskrivelser, eventuelt data sett generert fra et enkelt dynamisk system som også har implementert en sikkerhetsfunksjon
  • Belyse mulige løsninger og fremgangsmåter for hvordan AI kan tas i bruk på en trygg måte i et SIS.

Varianter av dette temaet kan også være å fokusere på:

  • Bruk av natural language processing, eventuelt technical language processing, til å automatisk klassifisere feil eksportert fra vedlikeholdssystemene, for å redusere manuelt arbeid. Her kan man eksempelvis bygge på denne artikkelen eller denne artikkelen.
  • Bruk av Retrieval-Augmented Generation (RAG) for å bygge inn bedre sikkerhet i autonome systemer og til forbedret analyse av test og overvåkningsdata av sikkerhetskritisk utstyr, et veldig nytt tema som har dukket opp. Se eksempelvis artikler om bruk av RAG for autonome biler denne artikkelen og denne.

Det skrives nå på våren 2024 tre masterprosjekt innenfor temaet som kan brukes til inspirasjon og basis for videreutvikling i eget arbeid. Disse masteroppgavene blir tilgjengelig i løpet av September 2024.

Om fagvalg: Om man ikke har noe AI-kunnskap fra før og har plass til å velge et valgfag i tillegg til fordypningsemner, så er følgende relevante:

OPPGAVE 3: DIGITALE TVILLINGER TIL SIKKERHETSDEMONSTRASJON OG OVERVÅKNING

Dette prosjektet er for studenter som vil utforske bruk av digitale tvillinger i ulike applikasjoner og anvendelser. Kan velges av inntil 3 studenter, så lenge faglærer har kapasitet.

I 2024 settes en nybygget ABB prosessrigg her på kybernetikk i drift og til bruk i fag som TTK 4175 Instrumenteringssystemer og sikkerhet. Den består av moderne kontrollere, trådløse sensorer og trådløst styrte ventiler som opererer en olje/vannseparator. Kontrolleren styrer også en pumpe som sikrer riktig gjennom gjennomstrømning.

Det er ønskelig å utvide denne ABB lab-riggen med en digital tvillinger. En type digital tvilling kan være å lage en prosessmodell som kan speile oppførselen i det virkelige systemet og som kan brukes til monitorere og eventuelt kompensere for bortfall av målinger. En slik tvilling kan også brukes til å simulere scenarier og avdekke scenarier som krever nye sikkerhetsfunksjoner. Testing av disse sikkerhetsfunksjonene kan også skje med en slik digital tvilling i og med at scenariene ikke ønskes fremprovosert i det virkelige systemet. Den digitale tvillingen kan også eventuelt generere data som kan brukes til å trene en datadrevet kontroller.

En annen type digital tvilling som ønskes er basert på asset administration shell (AAS). Mange industriaktører ønsker å implementere dette for sine anlegg og produkter. Denne kan bygges opp ved å bruke submodeller publisert av industrial digital twin association (IDTA), koble typedefinisjoner til common data dictionaries (CDD) som det utgitt av International Electrotechnical Commission (IEC). En digital tvilling basert på prosessmodell kan også være en del av et AAS for ABB riggen.

Eksempler på masteroppgaver (som også innebar arbeid ifbm fordypningsprosjekt) innenfor temaet og som kan bygges videre på er:

OPPGAVE 4: BRUK AV METODER FOR PÅLITELIGHETSANALYSE

Dette prosjektet er for studenter som vil lære seg konkrete metoder for å utføre pålitelighetsanalyser, spesielt rettet mot sikkerhetsystemer, og eventuelt bruke disse til å bestemme tilstandsbasert vedlikehold. Fordypningsprosjektet kan velges av inntil 3 studenter, så lenge faglærer har kapasitet.

Mange industrianlegg har egne kontrollsystemer dedikert til å ivareta sikkerheten. Disse er ofte kalt instrumenterte sikkerhetssystemer eller SIS og pålitelighetskrav til disse er ofte uttrykt som gjennomsnittlig sviktsannsynlighet («PFD») og klassifisert innenfor safety integrity level (SIL) fra SIL 1 til SIL 4. SIL krav utledes i en risikoanalyse og kravet eller SIL nivået man ender opp på gir føringer for teknisk løsning og programvareutvikling. I tillegg må man beregne pålitelighet av sikkerhetsfunksjoner (ofte kalt SIF ) og vise at påliteligheten er innenfor rammen av SIL kravet.

Automasjonsingeniøren har ofte deler eller hele ansvaret for å følge opp SIL. Det er derfor nyttig å være kjent med både standardene for funksjonell sikkerhet, industriens beste praksis innenfor området og konkrete metoder som brukes for å både bestemme SIL krav (krav til pålitelighet) og SIL nivå på teknisk løsning. Eksempler som trenger slik kompetanse er SINTEF, konsulentselskaper som SINTEF, DNV og Safetec, samt operatører av fabrikker og anlegg som har sikkerhetssystemer. I denne prosjektoppgaven er hensikten å lære seg mer om hvordan SIL krav utledes og hvordan man kan vise at SIL kravet er oppfylt gjennom å bruke metoder og verktøy for SIL analyse. Man kan lære eksempelvis hvordan man regner ut PFD gitt ulike operasjonsmetoder, her vist i figuren for testing av sikkerhetsventiler.

I stedet for å presentere et sett av oppgaver med tilhørende deloppgaver har jeg i stedet listet noen problemstillinger som studenter kan velge blant. Mer detaljerte deloppgaver lages når jeg har fått kartlagt interessen fra studenter. Eksempler på deloppgaver som vil inngå:

  • Hva SIS og SIFer er: Hvilke oppgave har de og utstyr som inngår – i ulike type bransjer
  • Metoder for utlede SIL krav (Layers of protection analysis (LOPA)
  • Beregningsmetoder/formler for probability of failure on demand (PFD) – feiltreanalyse, pålitelighetsblokkskjema, Markov analyse, PetriNet
  • Beregning av PFD i driftsfasen med reelle feildata
  • Kobling PFD til risikoanalyser (event tree analysis)
  • Bruk av verktøy for å beregne PFD med fokus på GRIF workshop (akademisk lisens) og PDS beregningsverktøy (et verktøy gjort tilgjengelig via PDS forum basert på PDS metoden) – sammenligning av metoder
  • Utvikle egne Python-baserte algoritmer for å gjøre analyser

Eksempler på litteratur som bli sentral er: Reliability of Safety-Critical Systems: Theory and Application av Rausand (2014)

Eksempler på tidligere oppgaver (som jeg veiledet på et annet institutt frem til 2019) er:

Merk at dette er oppgaver der studenter både hadde minimum to fulle fag i risikoanalyse og pålitelighetsanalyse. For fordypningsprosjekt på kybernetikk tilrettelegges det for studenter som har mindre bakgrunn fra før, men ønsker å lære seg mer.

Merknad for alle prosjekter som er listet: Studenter som skriver oppgaver knyttet til sikkerhet får mulighet til å delta på PDS forum, et nettverksmøte med interessante foredrag som arrangeres i Trondheim to ganger i året og med deltagere fra mange industribedrifter innenfor prosessindustrien. Man blir også assosiert med forskningsprosjektet APOS 2.0 ledet av SINTEF med flere industripartnere.

Studenter som skriver oppgave knyttet til cybersikkerhet, får mulighet til å delta på CDS forum. Dette er et nettverksmøte som arrangeres to ganger i året i Trondheim og der aktører fra prosessindustrien som jobber med cybersikkerhet møtes.

2024/08/14 08:33, lundteig