Digital assistent : Meddelelse om forklarlighed

Pålidelig, forklarlig kunstig intelligens

Pålidelig og forklarlig kunstig intelligens er et centralt mål for EU. EU arbejder på en lovramme for kunstig intelligens. Kommissionens forslag af 21. april 2021 til en forordning om harmoniserede regler for kunstig intelligens (i det følgende benævnt "retsakten om kunstig intelligens") (bilag 3) indfører to hovedtyper af forpligtelser for udbydere af AI-baserede løsninger og værktøjer – gennemsigtighed og formidling af oplysninger.

Brugere af AI-systemer har ret til at modtage oplysninger. Denne ret er forbundet med tilhørende forpligtelser, f.eks. forpligtelsen til at anvende systemet i overensstemmelse med instrukserne og til at overvåge det pågældende AI-værktøjs ydeevne. Overholdelsen af disse regler medfører ansvarlighed hos alle involverede aktører.

Den foreslåede retsakt om kunstig intelligens fastsætter i artikel 52 (Gennemsigtighedsforpligtelser for visse AI-systemer), at "1. Udbydere skal sikre, at AI-systemer, der er beregnet til at interagere med fysiske personer, udformes og udvikles på en sådan måde, at fysiske personer oplyses om, at de interagerer med et AI-system, medmindre dette er indlysende ud fra omstændighederne og anvendelsessammenhængen. [...]"

Den foreslåede retsakt om kunstig intelligens følger en risikobaseret tilgang og skelner mellem anvendelser af kunstig intelligens, der skaber i) en uacceptabel risiko, ii) en høj risiko og iii) lav eller minimal risiko.

Publio, som er den intelligente assistent for OP-portalen, interagerer med fysiske personer og foretager søgninger ved hjælp af nøgleord baseret på oplysninger, der er offentligt tilgængelige på OP-portalen. Disse oplysninger offentliggøres på grundlag af gennemsigtighedsprincippet, der ligger til grund for alle EU-politikker og al EU-lovgivning. Den intelligente assistent skaber ikke nyt indhold og manipulerer eller påvirker heller ikke brugernes valg ud over at foreslå mulige filtreringsvalg for brugernes søgning. Publio skal derfor anses for at falde ind under kategorien med lav risiko (iii) som defineret i udkastet til retsakt om kunstig intelligens.

I udkastet til retsakt om kunstig intelligens fastsættes det i afsnit IV (Gennemsigtighed), at AI-systemers udformning og funktion skal tage hensyn til de specifikke risici, som disse kan indebære, 1) manipulation ved hjælp af subliminale teknikker, dvs. teknikker, der rækker ud over brugernes bevidsthed, eller 2) udnyttelse af sårbare grupper, der sandsynligvis vil forårsage psykisk eller fysisk skade. Der gælder strengere gennemsigtighedsforpligtelser for systemer, der i) interagerer med mennesker, ii) anvendes til at detektere følelser eller fastslå tilknytning til (sociale) kategorier baseret på biometriske data eller iii) genererer eller manipulerer indhold ("deep fakes"). Selvom Publio interagerer med fysiske personer, er den intelligente assistent ikke udformet til at detektere følelser med henblik på at manipulere, og værktøjet indeholder heller ikke elementer, der utilsigtet kan føre til et sådant resultat. Publio opfylder derfor ikke ovennævnte kriterier.

Kunstig intelligens og ansvar

Europa-Kommissionens forslag til retsakten om kunstig intelligens blev den 28. september 2022 suppleret med et forslag til en civilretlig ansvarsordning for kunstig intelligens – direktivet om ansvar i forbindelse med kunstig intelligens (bilag 4) (i det følgende benævnt "direktivet om AI-ansvar") ifølge Europa-Parlamentets beslutning vedtaget i henhold til artikel 225 i TEUF (bilag 5).

Som fastsat i det foreslåede direktiv om AI-ansvar er de eksisterende ansvarsregler, der er baseret på culpa, ikke egnede til at behandle erstatningskrav for skader forårsaget af AI-baserede produkter og tjenester. I henhold til de eksisterende ansvarsregler skal skadelidte bevise, at der er begået en uretmæssig handling eller undladelse, identificere den person, der har forvoldt skaden, og påvise en årsagssammenhæng. De særlige kendetegn ved kunstig intelligens, herunder dens kompleksitet, autonomi og uigennemsigtighed (den såkaldte "sorte boks"-effekt), gør det vanskeligt at identificere den person, der er ansvarlig for skader som følge af anvendelsen af kunstig intelligens. Ofre, der har været udsat for en sådan skade, kan derfor blive afskrækket fra at kræve erstatning. I betragtning af bevisbyrdeproblematikkens karakter indeholder det foreslåede direktiv om AI-ansvar innovative løsninger ved at lempe ovennævnte krav via anvendelse af offentliggørelser og afkræftelige formodninger om manglende overholdelse.

Det foreslåede direktiv om AI-ansvar tilvejebringer effektive midler til at identificere potentielt ansvarlige personer og relevant dokumentation. Det fastsættes f.eks. deri, at en national domstol kan kræve fremlæggelse af relevant dokumentation (og bevarelse heraf) om specifikke AI-systemer med høj risiko, der mistænkes for at have forvoldt skade (bilag 6). Med forbehold for de krav, der er fastsat i artikel 4 i det foreslåede direktiv, skal de nationale domstole desuden antage [...] årsagssammenhæng mellem sagsøgtes fejl og det output, som AI-systemet producerer (eller AI-systemets manglende produktion af output).

Som det konkluderes i begrundelsen til det foreslåede direktiv om AI-ansvar: "Sådanne effektive regler om civilretligt ansvar har den yderligere fordel, at de giver alle, der er involveret i aktiviteter i forbindelse med AI-systemer, et yderligere incitament til at opfylde deres forpligtelser med hensyn til deres forventede adfærd".

Om Publio

Udtryk og definitioner

Hvad er Publio?

Publio, der er den intelligente assistent for Publikationskontorets portal (OP-portalen), er et AI-værktøj, der interagerer med fysiske personer og foretager søgninger ved hjælp af nøgleord, som er baseret på oplysninger, der er offentligt tilgængelige på OP-portalen. Publio kombinerer AI-samtaleteknikker såsom natursprogsbehandling (NLP) og maskinlæring (ML) med interaktiv talegenkendelse og traditionelle søgesystemer for at hjælpe brugerne med at finde EU-publikationer, EU-lovgivning og kontaktpersoner i EU-institutionerne.

Den intelligente assistent muliggør specifikt mundtlige eller maskinskrevne samtaler mellem slutbrugere og OP-portalen. Den intelligente assistent findes i øjeblikket på engelsk, fransk og spansk. Selv om den intelligente assistent kan bruges af alle, sørger den også for en løsning, der er skræddersyet til behovene hos personer med læsevanskeligheder, og det øger tilgængeligheden. Den muliggør desuden samtalesøgning, som er en ny måde at søge på, hvor brugerne kan tale i fuldstændige sætninger – ligesom i en normal samtale – til en AI-drevet taleassistent, der giver svar, så udvekslingen mellem bruger og intelligent assistent tager form af en samtale.

Hvilken type data anvender Publio?

Publio bruger de oplysninger, der er offentligt tilgængelige på OP-portalen. Disse oplysninger offentliggøres på grundlag af det gennemsigtighedsprincip, der gælder for alle EU-politikker og al EU-lovgivning. På grundlag af dette korpus anvender Publio klassifikationer og kategorier, der er tilgængelige på OP-portalen, såsom Eurovoc-emner, -forfattere eller -format, til at vejlede og finjustere samtalen og hjælpe brugeren med at søge i de tre hovedsamlinger på OP-portalen: EU-publikationer, EU-lovgivning og EU's officielle register (EU Whoiswho).

Publio anvender en eksisterende sprogmodel til at forstå de spørgsmål, som brugerne stiller, og til at vejlede brugerne på deres søgevej. På grundlag af feedback fra brugerne forbedres og oplæres Publios sprogmodel hele tiden for at opfylde brugernes forventninger og håndtere mangfoldigheden af brugerinput på de tre understøttede sprog.

Denne oplæring dækker flere komponenter i Publios underliggende system:

• En foruddefineret række af ytringer, der er forbundet med forskellige mulige former for hensigt, for at gøre det muligt for Publio for det første at forstå brugerens endelige mål og for det andet at vejlede brugeren trin for trin mod dette mål.
• En foruddefineret række faste spørgsmål, som Publio "forstår", og som den kan give brugerne et foruddefineret svar på. Eksempel: Hvordan kan jeg bestille publikationer?
• Maskinlærte enheder, der kan identificeres af Publio og anvendes i Publios baggrundsprocesser til at detektere søgeparametre, give mere nøjagtige søgeresultater eller muligheder for yderligere at finjustere søgningen. Disse enheder er baseret på den eksisterende klassificering og kategorier af data såsom Eurovoc tesauri eller andre myndighedstabeller, der forvaltes af EuroVoc: forfattere, formater, sprog, EU-organer (organisationer), funktionelle roller i EU-institutioner osv. På dette grundlag kan Publio f.eks. af brugerens forespørgsel uddrage, at brugeren søger efter en publikation med et bestemt emne eller fra en bestemt forfatter.

Hvordan fungerer Publio?

Publio anvender Microsoft Language Understanding (LUIS) (bilag 7) til at behandle brugerinput (en skriftlig eller mundtlig tale), forstå brugerens hensigt og identificere de centrale elementer (enheder), som brugeren er interesseret i. På grundlag af den genkendte hensigt indleder Publio en skræddersyet samtalestrøm, der har til formål at hjælpe brugerne med at nå det ønskede resultat i nogle få enkle trin.

I øjeblikket implementerer Publio fire primære samtalestrømme:

• Dokumentsøgning for at hjælpe brugere med at søge efter EU-publikationer eller EU-retsdokumenter
• Personsøgning for at hjælpe brugere med at søge efter offentligt ansatte i EU-institutionerne
• Organisationssøgning for at hjælpe brugere med at søge efter EU-organer (organisationer)
• Spørgsmål og svar (SoS) for at besvare hyppigt stillede spørgsmål med et foruddefineret svar.

Hvis den genkender en "søge"-strøm, vil den virtuelle assistent vejlede brugeren til at undersøge relevante dokumenter, personer eller organisationer ved at stille simple spørgsmål til brugeren og på grundlag af brugerens svar foreslå filtreringsmuligheder.

Med hensyn til SoS-strømmen fører Publikationskontorets personale en liste over par med ofte stillede spørgsmål og deres foruddefinerede svar. Hvis SoS-hensigten genkendes, og der er en høj grad af lighed mellem det specifikke spørgsmål fra brugeren og et af de spørgsmål, der er gemt i systemet, får brugeren et passende svar direkte. Eksempler:

– hvis SoS-hensigten genkendes som en forespørgsel såsom "Hvor er min ordre?", svarer assistenten med "Du kan tjekke din ordrestatus i afsnittet Min ordre i din profil".

– hvis SoS-hensigten genkendes som en forespørgsel såsom "Hvor kan jeg finde dokumenter for børn", svarer assistenten med "Publikationer for børn findes i Børnehjørnet".

Brugere kan stille spørgsmål skriftligt eller ved at tale. Chatbotten opfanger et lydinput (brugerens mundtlige spørgsmål) og sender det til en talegenkendelsesmaskine, der konverterer talen til tekst. Lydinputtet behandles af Microsoft Azure-tjenesten for tale til tekst (bilag 8). Publio viser derefter lydinputtet med de ord, der fortolkes af talegenkendelsesmaskinen, før svaret vises både skriftligt og mundtligt ved hjælp af en syntetisk stemme. Denne udveksling er øjeblikkelig (det sker øjeblikkeligt) og intet bliver gemt (den efterlader ikke spor).

Hvordan analyserer Publio spørgsmålet og foreslår resultater?

Publio anvender ikke generativ teknologi og er derfor ikke i stand til at generere eller manipulere brugerindhold.

Publio anvender en sprogmodel til maskinlæring, der er oplært i (oplært sprogmodel), hvordan brugerinput genkendes, og hvordan der reageres derpå. Denne model er ansvarlig for at behandle brugerens meddelelse eller forespørgsel, identificere meddelelsens hensigt og give et passende svar. Oplæringsprocessen i Publio indebærer, at maskinlæringsmodellen udstyres med en stor mængde mærkede læredata, som omfatter eksempler på brugerinput og deres tilhørende hensigter og plausible svar.

Publio anvender natursprogsbehandling og den oplærte sprogmodel til at forstå brugerens hensigt og til at udtrække de anerkendte enheder fra brugerens spørgsmål (f.eks. søgeord, emne, forfatter, dokumentdato, dokumentformat). Publio bruger disse enheder til at udføre søgningen og vise søgeresultatet.

Hvis resultatet af søgningen er for bredt, fortsætter Publio samtalen ved at stille yderligere spørgsmål til brugeren for at indsnævre søgeresultatet ved at filtrere på andre enheder.

De spørgsmål, der formuleres af Publio, er begrænset til identifikation af brugerens hensigt, til at fastslå dens formål og til at formulere den rigtige søgeforespørgsel i det korpus af indhold, som er offentliggjort på OP-portalen. De resultater, som Publio foreslår, stammer udelukkende fra dette korpus.

Brugerfeedback

Under samtalen kan slutbrugeren når som helst give positiv, neutral eller negativ feedback på sine oplevelser med Publio. Det kan være manuel feedback, der er udløst af brugeren på et hvilket som helst tidspunkt eller som svar på en automatisk pop op, der vises efter et par sekunder med inaktivitet, og som anmoder om feedback fra brugeren. Desuden registreres automatisk spørgsmål, som ikke "forstås" korrekt af Publio, og de behandles regelmæssigt af et team af medarbejdere på Publikationskontoret. Både brugerfeedback og analyse af spørgsmål, som Publio ikke har "forstået" korrekt, anvendes til at skole sprogmodellen med henblik på løbende at forbedre de tjenester, der leveres til slutbrugerne.

Behandling af persondata

Data, der er tilgængelige på OP-portalen, behandles i overensstemmelse med EU's generelle forordning om databeskyttelse (GDPR) og forordningen om behandling af personoplysninger i EU's institutioner, agenturer og organer (bilag 9).

Publio lagrer, opbevarer eller arkiverer ingen elementer, hverken brugerens input eller input fra Publios svar.

Den indsamlede feedback anonymiseres på en sådan måde, at det ikke er muligt at knytte feedbacken tilbage til den bruger, hvor den blev indsamlet.

Der anvendes ingen personoplysninger til automatisk beslutningstagning, sporing eller profilering på nogen mulig måde.

Begrænsninger på nuværende tidspunkt

• Navnetransskription ved hjælp af tale: De fleste navne "forstås" og transskriberes korrekt, men navneudtrækningen er baseret på maskinlæring og er ikke 100 % nøjagtig. På grund af LUIS-begrænsninger udtrækkes nogle navne ikke korrekt, selv efter at modellen er blevet oplært med de specifikke eksempler fra datasættet.
• Datoer på fransk og spansk: Genkendelsen af datoer er mindre nøjagtig på spansk og fransk i mere komplekse sammenhænge. Året vil f.eks. blive genkendt på spansk ved brug af "entre 2016 y 2017" uden yderligere kontekst, mens det ikke vil blive genkendt med "entre el año 2019 y 2020". På engelsk genkendes "2 years ago", mens "il y a 2 ans" ikke genkendes på fransk.
• Talegenkendelse fungerer kun på ét sprog ad gangen.
• Talegenkendelse har ikke en stavetilstand, hvilket betyder, at der ikke er en funktion, som gør det muligt for brugerne at stave ord tegn for tegn for at sikre en nøjagtig transskription.
• Genkendelse af navneenheder fungerer ikke godt i længere sætninger ved kombination med "Mrs"/"Miss"/"Fru"/"Frk".

Den Europæiske Unions Publikationskontor, 16. maj 2023