Virtuálny asistent : Oznámenie o vysvetliteľnosti

Dôveryhodná a vysvetliteľná umelá inteligencia

Dôveryhodná a vysvetliteľná umelá inteligencia je kľúčovým cieľom EÚ. EÚ pracuje na regulačnom rámci pre umelú inteligenciu. V návrhu nariadenia Európskej komisie z 21. apríla 2021, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (ďalej len „akt o umelej inteligencii“) (dodatok 3), sa zavádzajú dva hlavné typy záväzkov na strane poskytovateľov riešení a nástrojov založených na umelej inteligencii, ktorými sú transparentnosť a poskytovanie informácií.

Používatelia systémov umelej inteligencie majú právo dostať informácie. Toto právo je spojené s príslušnými povinnosťami, ako je povinnosť používať systém v súlade s pokynmi a monitorovať výkon príslušného nástroja umelej inteligencie. Dodržiavanie týchto pravidiel vedie k zodpovednosti všetkých zúčastnených aktérov.

V navrhovanom akte o umelej inteligencii sa v článku 52 (Povinnosti transparentnosti pre určité systémy umelej inteligencie) stanovuje, že „1. Poskytovatelia zabezpečia, aby systémy umelej inteligencie určené na interakciu s fyzickými osobami boli koncipované a vyvinuté tak, aby boli fyzické osoby informované o tom, že komunikujú so systémom umelej inteligencie, pokiaľ to nie je zrejmé z okolností a kontextu používania. […]“

Navrhovaný akt o umelej inteligencii sa riadi prístupom založeným na riziku, pričom sa rozlišuje medzi použitím umelej inteligencie, ktorá vytvára i) neprijateľné riziko; ii) vysoké riziko a iii) nízke alebo minimálne riziko.

Asistent Publio je inteligentný asistent na portáli OP, ktorý komunikuje s fyzickými osobami a vyhľadáva pomocou kľúčových slov na základe informácií, ktoré sú verejne dostupné na portáli OP. Tieto informácie sa zverejňujú na základe zásady transparentnosti, ktorá je základom všetkých politík a právnych predpisov EÚ. Inteligentný asistent nevytvára nový obsah, nemanipuluje ani neovplyvňuje voľby používateľov. Ponúka len možnosti filtrovania pre vyhľadávanie vykonávané používateľmi. Preto možno konštatovať, že asistent Publio patrí do tretej kategórie „nízke riziko“, ako je vymedzené v návrhu aktu o umelej inteligencii.

V návrhu aktu o umelej inteligencii sa v hlave IV (Transparentnosť) stanovuje, že pri navrhovaní a fungovaní systémov umelej inteligencie je potrebné brať do úvahy špecifické riziká, ktoré môžu predstavovať, a to pokiaľ ide o 1. manipuláciu prostredníctvom podprahových techník, t. j. techník mimo vedomia používateľov, alebo o 2. zneužívanie zraniteľných skupín, ktoré môže spôsobiť psychickú alebo fyzickú ujmu. Prísnejšie povinnosti transparentnosti sa vzťahujú na systémy, ktoré i) komunikujú s ľuďmi; ii) sa používajú na zisťovanie emócií alebo určovanie asociácie so (sociálnymi) kategóriami na základe biometrických údajov alebo iii) vytvárajú obsah alebo s ním manipulujú (tzv. deepfakes). Aj keď asistent Publio komunikuje s fyzickými osobami, tento inteligentný asistent nie je navrhnutý, aby zisťoval emócie s cieľom manipulovať, ani neobsahuje žiadne prvky, ktoré by mohli neúmyselne viesť k takémuto výsledku. Asistent Publio preto nespĺňa uvedené kritériá.

Umelá inteligencia a zodpovednosť

Návrh Európskej komisie týkajúci sa aktu o umelej inteligencii bol 28. septembra 2022 doplnený o návrh týkajúci sa systému občianskoprávnej zodpovednosti za umelú inteligenciu – smernice o zodpovednosti za umelú inteligenciu (dodatok 4) (ďalej len „smernica o zodpovednosti za umelú inteligenciu“), a to v nadväznosti na uznesenie Európskeho parlamentu prijaté podľa článku 225 ZFEÚ (dodatok 5).

Ako sa uvádza v navrhovanej smernici o zodpovednosti za umelú inteligenciu, existujúce pravidlá zodpovednosti, ktoré sa odvíjajú od existencie pochybenia, nie sú vhodné na riešenie nárokov na náhradu škody spôsobenej produktmi a službami založenými na umelej inteligencii. Podľa existujúcich pravidiel zodpovednosti musia obete dokázať, že došlo k pochybeniu alebo opomenutiu, identifikovať osobu, ktorá škodu spôsobila, a stanoviť príčinnú súvislosť. Špecifické vlastnosti umelej inteligencie vrátane jej zložitosti, samostatnosti a nepriehľadnosti (tzv. efekt čiernej skrinky) sťažujú identifikáciu osoby zodpovednej za škodu spôsobenú používaním umelej inteligencie. Obete, ktoré takúto škodu utrpia, to preto môže odrádzať od toho, aby si uplatnili nárok na náhradu škody. Vzhľadom na povahu problematiky dôkazného bremena poskytuje navrhovaná smernica o zodpovednosti za umelú inteligenciu inovatívne riešenia tým, že sa ňou zmierňujú uvedené požiadavky prostredníctvom využitia poskytovania dôkazov a vyvrátiteľných domnienok nedodržiavania súladu.

Navrhovaná smernica o zodpovednosti za umelú inteligenciu poskytuje účinné prostriedky na identifikovanie potenciálne zodpovedných osôb a relevantných dôkazov. Uvádza sa v nej napríklad, že vnútroštátny súd môže nariadiť poskytnutie relevantných dôkazov (a ich uchovanie) o konkrétnych vysokorizikových systémoch umelej inteligencie, ktoré údajne zavinili škodu (dodatok 6). Okrem toho, v súlade s požiadavkami stanovenými v článku 4 navrhovanej smernice, vnútroštátne súdy […] predpokladajú, že existuje príčinná súvislosť medzi pochybením žalovaného a výstupom systému umelej inteligencie (alebo nevytvorením výstupu systému umelej inteligencie).

Ako sa uvádza v dôvodovej správe k navrhovanej smernici o zodpovednosti za umelú inteligenciu, „takéto účinné pravidlá občianskoprávnej zodpovednosti majú aj ďalšiu výhodu, ktorá spočíva v tom, že všetky strany podieľajúce sa na činnostiach spojených so systémami umelej inteligencie ešte viac motivujú k dodržiavaniu povinností v oblasti očakávaného správania.“

O asistentovi Publio

Pojmy a ich vymedzenia

Čo je asistent Publio?

Publio je inteligentný asistent na portáli Úradu pre publikácie (portál OP), pričom ide o nástroj umelej inteligencie, ktorý komunikuje s fyzickými osobami a vyhľadáva pomocou kľúčových slov na základe informácií, ktoré sú verejne dostupné na portáli OP. V súvislosti s asistentom Publio sa kombinujú techniky konverzačnej umelej inteligencie, medzi ktoré patrí spracovanie prirodzeného jazyka a strojové učenie s interaktívnym rozpoznávaním reči a tradičnými systémami vyhľadávania, aby používateľom pomáhal pri vyhľadávaní publikácií EÚ, právnych predpisov EÚ a kontaktných osôb v rámci európskych inštitúcií.

Tento inteligentný asistent umožňuje konkrétne hovorené alebo písané konverzácie medzi koncovými používateľmi a portálom OP. Momentálne je dostupný v angličtine, vo francúzštine a v španielčine. Tohto inteligentného asistenta môže používať každý. Je zároveň prispôsobený aj potrebám ľudí s poruchami čítania, čím sa zvyšuje prístupnosť. Umožňuje aj konverzačné vyhľadávanie, pričom ide o nový spôsob vyhľadávania umožňujúci používateľom hovoriť s hlasovým asistentom umelej inteligencie, ktorý odpovedá, v celých vetách (rovnako ako v bežnej konverzácii). Interakcia medzi používateľom a inteligentným asistentom má formu rozhovoru.

Aký typ údajov používa asistent Publio?

Asistent Publio používa informácie verejne dostupné na portáli OP. Tieto informácie sa zverejňujú na základe zásady transparentnosti, ktorá sa týka všetkých politík a právnych predpisov EÚ. Na základe tohto korpusu používa asistent Publio klasifikácie a kategórie dostupné na portáli OP, ako napríklad témy, autorov alebo formát zo slovníka Eurovoc, aby sa usmernila a spresnila konverzácia, a to v záujme pomoci pri vyhľadávaní v troch hlavných zbierkach portálu OP používateľom: publikácie EÚ, právo EÚ a oficiálny adresár EÚ (EÚ Whoiswho).

Asistent Publio používa existujúci jazykový model na pochopenie otázok používateľov a na ich usmerňovanie v súvislosti s cestou vyhľadávania. Na základe spätnej väzby od používateľov sa jazykový model asistenta Publio neustále ďalej zdokonaľuje a učí, aby spĺňal očakávania používateľov a zvládal rôznorodosť vstupov používateľov v troch podporovaných jazykoch.

Toto učenie pokrýva viacero komponentov základného systému asistenta Publio:

• vopred stanovenú sériu výrokov spojených s rôznymi možnými formami zámeru, ktoré umožnia asistentovi Publio najprv pochopiť konečný cieľ používateľa a potom ho krok za krokom usmerňovať k dosiahnutiu tohto cieľa,
• vopred stanovenú sériu nemenných otázok, ktorým asistent Publio „rozumie“ a na ktoré dokáže používateľom poskytnúť vopred stanovenú odpoveď. Príklad: Ako si môžem objednať publikácie?
• Entity, ktoré využívajú strojové učenie, pričom ich asistent Publio dokáže identifikovať a použiť v rámci svojich procesov na pozadí, a tým zistiť parametre vyhľadávania, poskytnúť presnejšie výsledky vyhľadávania alebo možnosti na ďalšie spresnenie vyhľadávania. Tieto entity sú založené na existujúcej klasifikácii a kategóriách údajov, ako sú synonymické slovníky Eurovoc alebo iné tabuľky autorít spravované prostredníctvom slovníka EuroVoc: autori, formáty, jazyky, orgány (organizácie) EÚ, funkčné úlohy vo verejnej službe EÚ a pod. Na základe toho môže asistent Publio napríklad z dopytu používateľa pochopiť, že používateľ hľadá publikáciu s konkrétnou témou alebo od konkrétneho autora.

Ako funguje asistent Publio?

Asistent Publio sa opiera o systém Microsoft Language Understanding (LUIS) (dodatok 7), aby spracoval vstup používateľa (písomný alebo hovorený výrok), pochopil zámer používateľa a identifikoval kľúčové prvky (entity), o ktoré má používateľ záujem. Na základe rozpoznaného zámeru spustí asistent Publio prispôsobený tok konverzácie zameraný na podporu používateľov pri dosahovaní požadovaného výsledku v niekoľkých jednoduchých krokoch.

V súčasnosti asistent Publio realizuje štyri hlavné toky konverzácie:

• tok vyhľadávania dokumentov, ktorý používateľom pomôže pri hľadaní publikácií EÚ alebo právnych dokumentov EÚ,
• tok vyhľadávania osôb, ktorý používateľom pomôže pri hľadaní verejných činiteľov zamestnaných v inštitúciách EÚ,
• tok vyhľadávania organizácií, ktorý používateľom pomôže pri hľadaní orgánov EÚ (organizácií),
• tok týkajúci sa otázok a odpovedí, ktorým sa odpovedá na často kladené otázky na základe vopred stanovenej odpovede.

Ak virtuálny asistent rozpozná tok „vyhľadávania“, usmerní používateľa pri hľadaní relevantného dokumentu, osoby alebo organizácie tak, že používateľovi položí jednoduché otázky a na základe jeho odpovedí navrhne možnosti filtrovania.

V prípade toku týkajúceho sa otázok a odpovedí zostavujú pracovníci Úradu pre publikácie zoznam párov s často kladenými otázkami a ich vopred stanovenými odpoveďami. Ak sa rozpozná zámer týkajúci sa otázok a odpovedí a existuje vysoká miera podobnosti medzi konkrétnou otázkou používateľa a jednou z otázok uložených v systéme, používateľ priamo dostane vhodnú odpoveď. Napríklad

– ak sa rozpozná zámer týkajúci sa otázok a odpovedí napríklad prostredníctvom dopytu „Kde je moja objednávka?“, asistent odpovie „Stav objednávky si môžete skontrolovať vo svojom profile v časti Moja objednávka.“

– ak sa rozpozná zámer týkajúci sa otázok a odpovedí napríklad prostredníctvom dopytu „Kde nájdem dokumenty pre deti?“, asistent odpovie „Publikácie pre deti sú dostupné v detskom kútiku“.

Používatelia môžu klásť otázky písomne alebo hovoreným slovom. Chatbot zaznamená zvukový vstup (hovorené otázky používateľa) a pošle ho do zariadenia na rozpoznávanie reči, ktoré reč konvertuje na text. Zvukový vstup je spracovaný službou prevodu reči na text Microsoft Azure (dodatok 8). Asistent Publio potom zobrazí zvukový vstup ako slová interpretované zariadením na rozpoznávanie reči. Následne sa zobrazí odpoveď v písomnej forme, ako aj hovoreným slovom pomocou syntetizovaného hlasu. Táto výmena je okamžitá (prebehne okamžite) a krátkodobá (nezanecháva žiadne stopy).

Ako asistent Publio analyzuje otázku a navrhuje výsledky?

Asistent Publio nepoužíva generatívnu technológiu, preto nedokáže vytvárať používateľský obsah ani s ním manipulovať.

Asistent Publio používa jazykový model strojového učenia, ktorý sa učí (učený jazykový model), aby získal schopnosť rozpoznávať vstupy používateľov a reagovať na ne. Tento model je zodpovedný za spracovanie správy alebo dopytu používateľa, identifikáciu zámeru správy a poskytnutie vhodnej odpovede. Proces učenia asistenta Publio zahŕňa poskytnutie veľkého množstva označených údajov na učenie sa modelu strojového učenia, pričom obsahujú príklady vstupov používateľa a ich príslušné zámery a prijateľné odpovede.

Asistent Publio používa spracovanie prirodzeného jazyka a učený jazykový model na pochopenie zámeru používateľa a na extrahovanie rozpoznaných entít z otázok používateľov (napríklad hľadaný pojem, autor, dátum dokumentu, formát dokumentu či hľadaná téma). Asistent Publio používa tieto entity na vyhľadávanie a zobrazenie výsledku vyhľadávania.

Ak je výsledok vyhľadávania príliš všeobecný, asistent Publio pokračuje v konverzácii a položí používateľovi dodatočné otázky, aby spresnil výsledok vyhľadávania filtrovaním podľa iných entít.

Otázky formulované asistentom Publio sa obmedzujú na identifikáciu zámeru používateľa, na vystihnutie ním stanoveného účelu a na sformulovanie správneho dopytu v súvislosti s vyhľadávaním, pokiaľ ide o korpus obsahu zverejnený na portáli OP. Výsledky navrhované asistentom Publio pochádzajú výlučne z tohto korpusu.

Spätná väzba od používateľov

Kedykoľvek počas rozhovoru môže koncový používateľ poskytnúť pozitívnu, neutrálnu alebo negatívnu spätnú väzbu týkajúcu sa svojich skúseností s používaním asistenta Publio. Môže ísť o manuálnu spätnú väzbu iniciovanú používateľom kedykoľvek alebo o odpoveď na automatickú kontextovú ponuku zobrazenú po niekoľkých sekundách nečinnosti, v rámci ktorej sa používateľ vyzve, aby poskytol spätnú väzbu. Otázky, ktorým asistent Publio správne „neporozumie“, sú navyše automaticky zaznamenávané a pravidelne spracovávané tímom zamestnancov Úradu pre publikácie. Spätná väzba od používateľov aj analýza otázok, ktorým asistent Publio správne „neporozumel“, sa používajú na opakované učenie jazykového modelu s cieľom neustáleho ďalšieho zlepšovania služieb poskytovaných koncovým používateľom.

Spracúvanie osobných údajov

Údaje dostupné na portáli OP sú spracúvané v súlade so všeobecným nariadením EÚ o ochrane údajov a s nariadením o spracúvaní osobných údajov inštitúciami, agentúrami a orgánmi EÚ (dodatok 9).

Asistent Publio neukladá, neuchováva ani nearchivuje žiadne prvky, ani vstup používateľa, ani vstup poskytnutý prostredníctvom odpovedí asistenta Publio.

Zhromaždená spätná väzba je anonymizovaná tak, že ju nemožno spätne prepojiť s používateľom, od ktorého bola získaná.

Žiadne osobné údaje sa nijakým spôsobom nepoužijú na automatizované rozhodovanie, sledovanie ani profilovanie.

Aktuálne obmedzenia

• Prepis mena pomocou hlasu: zatiaľ čo väčšine mien je možné „porozumieť“ a je možné ich správne prepísať, extrakcia mien je založená na strojovom učení a nie je presná na 100 %. V dôsledku obmedzení systému LUIS nie je možné niektoré mená správne extrahovať ani po učení modelu pomocou konkrétnych príkladov zo súboru údajov.
• Dátumy vo francúzštine a v španielčine: V zložitejších kontextoch je „porozumenie“ dátumu v španielčine a vo francúzštine menej presné. Napríklad v španielskej fráze „entre 2016 y 2017“ je možné porozumieť roku bez ďalšieho kontextu, zatiaľ čo vo fráze „entre el año 2019 y 2020“ mu nie je možné porozumieť. Anglickej fráze „2 years ago“ je možné porozumieť, zatiaľ čo francúzskej fráze „il y a 2 ans“ nie.
• Rozpoznávanie reči funguje súčasne iba v jednom jazyku.
• V rámci rozpoznávania reči nie je režim pravopisu, čo znamená, že nemá funkciu, ktorá by používateľom umožňovala hláskovať slová znak po znaku, aby sa zabezpečil presný prepis.
• Rozpoznanie entity mena v dlhších frázach v kombinácii s osloveniami pani/slečna nefunguje dobre.

Úrad pre vydávanie publikácií Európskej únie, 16. mája 2023