Studiepoeng: 3,75

Faglig ansvarlig: Universitetslektor II Thor Hukkelås

Faget gir en innføring i et tema som får stadig økende betydning, - samvirke mellom mennesker og maskiner og i særdeleshet autonome systemer. Vi kybernetikere har et spesielt ansvar her fordi det er vi som i første rekke designer og utvikler alle disse fantastiske nye maskinene og systemene.

Vi omgir oss med stadig mer automatiserte og autonome systemer, som droner i lufta, på land og på sjøen, autonome skip, selvkjørende biler, høyt automatiserte oppdrettsanlegg osv. Uansett hvor pålitelige og sikre slike systemer er, så vil de før eller siden enten feile eller det vil oppstå situasjoner i omgivelsene (for eksempel ekstremvær) som fører til feilsituasjoner. Det store spørsmålet blir da om mennesket er i stand til å overta kontrollen og forbli i «loopen». Hvordan skal vi designe og utvikle disse systemene med tanke på å gi operatørene og brukerne (oss alle sammen) og systemene selv optimal situasjonsforståelse og støtte til å ta de beste beslutningene og til å iverksette de beste aksjonene både i normal drift, men i særdeleshet når feil oppstår eller når automatikken ikke klarer å løse oppgavene? Et annet svært viktig område som får økt betydning er «Digital etikk» i forbindelse med programmering av beslutningsstøtte for autonome systemer, for eksempel selvkjørende biler.

Et begrep som blir stadig mer aktuelt er “The Paradox of Automation”. Dette beskrives som: «The Paradox of Automation says that the more efficient the automated system, the more crucial the human contribution of the operators. Humans are less involved, but their involvement becomes more critical.

Paradokset ligger i at økt automatisering (og økende grad av autonomi) gjør mennesker mer viktige, ikke mindre. Dette representerer en stor utfordring for alle oss som utvikler og leverer avanserte automasjonssystemer, og i særdeleshet når autonome systemer skal fjernovervåkes og fjernstyres.

Figuren under viser på en forenklet måte sammenhengen mellom situasjonsforståelse til at en beslutning tas og en aksjon gjennomføres. Denne loopen kalles SADA-loopen (Situation Awareness, Decision, Action) og er grunnleggende for oss mennesker og for alle autonome og kyber-fysiske systemer.

Forståelsen av denne loopen og betydningen av det som er nevnt ovenfor («Hvordan bevare mennesket i loopen») muliggjør ikke bare design av gode og intuitive HMI-systemer (Human-Machine-Interface), men er også viktig for å designe selve autonomi-funksjonaliteten som vil måtte bygge på hvordan vi mennesker oppfatter en situasjon og på hvordan vi tar beslutninger. Det er derfor ikke snakk om enten mennesker eller maskiner, men begge deler. Vi kan her snakke om «autonomiens grunnleggende anatomi».

Etter gjennomføring av faget skal studentene ha:

• Grunnleggende forståelse av hvilke designprinsipper som er de beste for å oppnå optimal situasjonsforståelse (Situation Awareness) og beslutningsstøtte (Decision Support) for både mennesker og autonome systemer.
• Forståelse av grunnelementene som inngår i alle autonome systemer («autonomiens anatomi») og som er basert på menneskelig situasjonsforståelse og beslutningstagning.
• Grunnleggende forståelse for begrepet «Digital etikk» i forbindelse med programmering av beslutningsstøtte for autonome systemer, for eksempel selvkjørende biler.
• Forståelse av viktigheten av å fokusere på spørsmålet «Hvordan bevare mennesket i loopen».
• Oversikt over utviklingsmetodene «Design Thinking» og «User Centered Design»
• Forståelse av betydningen av ferdighetstrening ved bruk av simulatorer.
• Forståelse av viktigheten av å utvikle teknologi på menneskets premisser og ikke på teknologiens.

Ledet selvstudium basert på utvalg av relevante litteratur. Studentene danner kollokvier og veiledning avtales etter behov.
Digital forelesninger med typisk 2-3 timers varighet hver 2. eller 3. uke.
Første forelesning vil bli avholdt første uke i september og vil bestå av 2 forelesningstimer.

Forelesningsnotater, samt supplerende litteratur. Spesielt nevnes:

Endsley, M.R. and D.G. Jones, Designing for Situation Awareness. An Approach to Human-Centered Design. 2nd ed. 2012. https://www.tanum.no/_designing-for-situation-awareness-mica-r-endsley-9781420063554 Dette er selve «grunnboka» for tema og spesielt de første kapitlene er viktige for forståelsen av begrepene situasjonsforståelse, beslutningsstøtte osv.

Anbefalt supplerende litteratur:

• Lisanne Bainbridge (1983). Ironies of Automation. Automatica, Vol 19. No 6 pp 775-779. Meget ofte sitert paper hvor automasjonsparadokset blir introdusert.

• Mica R.Endsley (2018). Stuation Awareness in Future Autonomous Vehicles: Beware of the unexpected. Proceedings of the 20th Congress of the International Ergonomic Association, IEA 2018.

• Thor Hukkelås (2015). Resultatrapport – prosjekt 217503 – SITUMAR. Situation Awareness and Decision Support tools for demanding marine operations. [Report/Document]. February 2015, Kongsberg, Norway.

• Thor Hukkelås (2015). White Paper. KONGSBERG Autonomy in Ocean Space, Surface Vessels [Document/White paper]. Kongsberg Maritime, December 2015, Kongsberg, Norway.

• Albert Kircher, Margareta Lützhöft, Kjell Ivar Ødegård, Thor Hukkelås (ed) (2012). 21703 - SITUMAR. Project Report: User-centred design. [Report/Document]. June 2012, Kongsberg, Norway.

• Margareta Lützhöft, Thomas Porathe, Linda J. Sorensen, Kjell Ivar Ødegård, Thor Hukkelås (ed) (2012). 21703 - SITUMAR. Project Report: Situation Awareness: An overview of the research field. [Report/Document]. October 2012, Kongsberg, Norway.

• Thor Hukkelås, Margareta Lützhöft, Kjell Ivar Ødegård, (2012). 21703 - SITUMAR. Project Report: Human Factors, Human Decision-making, Decision Support Systems, and Cognitive Work Analysis of Maritime Socio-Technical Systems. [Report/Document]. December 2012, Kongsberg, Norway.

Det er ikke regneøvinger i denne modulen, men studentene forventes å jobbe med spørsmål/tema knyttet til case og bruke dette til å forberede en presentasjon der deler brukes under muntlig eksamen.

Muntlig. Utgangspunkt for utspørring er spørsmålene studentene har jobbet med.