Skygge-KI og KI-forordningen: hva organisasjoner trenger å vite

Klassifiseringen tar utgangspunkt i bruksområdet, ikke merkenavnet

Det samme generelle verktøyet kan brukes til utkast med liten betydning i én sammenheng og bidra til en avgjørelse med store konsekvenser i en annen. Vurderingen bør omfatte systemets tiltenkte formål, hvordan organisasjonen faktisk bruker det, hvem som berøres, hvilke data som er involvert, og om organisasjonen er leverandør, driftsansvarlig, importør, distributør eller produktprodusent etter forordningen.

Når et ukjent verktøy skaper hull

• Rolle: Organisasjonen er kanskje ikke klar over hvilken juridisk rolle den utøver.
• Risiko: Bruk knyttet til rekruttering, utdanning, essensielle tjenester, kritisk infrastruktur, rettshåndhevelse eller migrasjon kan kreve en mer detaljert klassifisering.
• Åpenhet: Brukerne kan ha behov for å vite at de kommuniserer med kunstig intelligens eller ser på syntetisk innhold.
• KI-kompetanse: De ansatte må ha kunnskap som er tilpasset systemene de bruker og brukssituasjonen.
• Dokumentasjon: Opplysninger om eier, instrukser, tilsyn, logger, leverandørdokumenter og beslutninger om gjennomgang kan mangle.

Hva man bør registrere før man klassifiserer en bruksform

KISYNs gratis vurdering av KI-forordningen forklarer begrepene i klart språk og knytter hvert juridisk begrep til den offisielle forordningen. Dette er et veiledningsverktøy og erstatter ikke juridisk rådgivning.

• KI-systemet eller -funksjonen og leverandøren av dette.
• Virksomhetens formål og den faktiske arbeidsflyten.
• Organisasjonens rettslige rolle i forbindelse med utarbeidelsen eller bruken av den.
• Berørte personer og mulige konsekvenser.
• Inndata, utdata, integrasjoner og menneskelig tilsyn.
• Den opprinnelige risikoklassifiseringen, underbyggende dokumentasjon, eier og gjennomgangsdato.