====== Artificial Intelligence and Safety ======
Denne siden holdes oppdatert av [[https://www.ntnu.no/ansatte/mary.a.lundteigen|Mary Ann Lundteigen]], professor på teknisk kybernetikk, NTNU.

Denne siden er under etablering per August 2023. Hensikten er å samle litteratur og andre kilder på tema AI, med primær fokus på arbeid som addresserer AI (potensielt) brukt ifbm sikkerhetsystemer.

===== Initiativ for regulering av AI =====
  * Om [[https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence|EU regulering av AI]]. Parlamentet i EU (MEP) har startet å forhandle om [[https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206|utkastet til EU regelverket]]
  * [https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence|Om EU og AI]]
  * European Commission [[https://commission.europa.eu/publications/white-paper-artificial-intelligence-european-approach-excellence-and-trust_en|WHITE PAPER]] "On Artificial Intelligence - A European approach to excellence and trust"
  * European Commission [[https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai|rapport]] "Independent high-level expert group on artificial intelligence"
  * European Commission rapport [[https://ai-watch.ec.europa.eu/publications/trustworthy-autonomous-vehicles_en|Tillitsverdig AI for biler]]

Se også presentasjon av Rialda Spahic:
  * [[https://folk.ntnu.no/lundteig/PhDs/Trial_lecture_rialda_spahic.pdf|Assessing the Influence of EU’s Upcoming Acts and Regulations on High-Risk AI Systems]] by [[https://no.linkedin.com/in/rialda-spahi%C4%87-b39a20112|Rialda Spahic]] (PhD)

===== Nyttige nettsider om AI =====

  * [[https://www.mitre.org/focus-areas/artificial-intelligence|MITRE om AI]]. MITRE er en spin-off fra Massachusets Institute of Technology (MIT) som styrer forskning og utviklingsprosjekter og aktiviteter i USA.
  * [[https://safexplain.eu/|Safe and Explainable Critical Embedded Systems based on AI]]



==== Standardiseringsinitativ mot AI og sikkerhetssystemer (eller relevans for) ====
  * [[https://www.iso.org/standard/81283.html|ISO/IEC TR 5465 "Artificial Intelligence - Functional safety and AI systems]]" (under utvikling, ikke publisert) 
  * DNV RP 0671 Assurance of AI-enabled systems (under utarbeidelse). Viser foreløpig til [[https://www.dnv.com/research/future-of-digital-assurance/artificial-intelligence.html|DNV om AI]].

=== Åpne datasett  ===
Her er noen eksempler:
  * [[https://www.openml.org/search?type=data&sort=runs&status=active|OpenML]]
  * [[https://www.kaggle.com/datasets|Kaggle]]
  * Kan også identifisere flere via [[https://datasetsearch.research.google.com/|Google data set search]]