Umetno inteligenco v Evropskem parlamentu vsak dan uporablja približno 2.100 ljudi. Poslanci in njihovi sodelavci si z njo pomagajo pri govorih, poslanskih vprašanjih in zakonodajnih dopolnilih, Parlament pa želi uporabo javnih klepetalnih robotov nadomestiti z lastno nadzorovano platformo.
Umetna inteligenca je postala del vsakdanjega dela v Evropskem parlamentu. Po ocenah institucije jo redno uporablja okoli 2.100 poslancev, asistentov in drugih zaposlenih, kar predstavlja približno petino ljudi, ki delajo v Parlamentu.
Poslanci in njihovi sodelavci si z orodji umetne inteligence pomagajo pri pripravi govorov, parlamentarnih vprašanj ter dopolnil k predlogom evropske zakonodaje. Razširjenost uporabe je vodstvo Parlamenta spodbudila, da pripravi uradno platformo, prek katere bo mogoče do različnih modelov dostopati v bolj nadzorovanem okolju.
Platforma z imenom EPGenAI Hub je trenutno v poskusni fazi, poslancem in zaposlenim pa bi lahko postala širše dostopna že septembra, je poročal Politico. Namen projekta ni prepovedati uporabo umetne inteligence, temveč preprečiti, da bi uporabniki parlamentarne dokumente, interne podatke in morebitne občutljive informacije nalagali na nenadzorovane javne platforme.
Pojavili so se tudi neobstoječi zakoni
Uporaba umetne inteligence pri zakonodajnem delu je v začetku julija sprožila zaskrbljenost med predsedniki več parlamentarnih odborov. Pozornost naj bi vzbudili nenaden porast števila vloženih dopolnil, prepoznaven slog strojno ustvarjenih besedil in posamezna sklicevanja na zakone, ki sploh ne obstajajo.
Gre za tako imenovane halucinacije jezikovnih modelov. Orodje lahko izmisli podatek, pravni akt, sodno odločbo ali drugo navedbo in jo uporabniku predstavi tako prepričljivo, kot da je resnična. Če takšno besedilo brez preverjanja postane del zakonodajnega postopka, napaka ni več le tehnična, temveč lahko vpliva tudi na kakovost demokratičnega odločanja.
Italijanski evropski poslanec Brando Benifei, ki je sodeloval pri pripravi evropskega akta o umetni inteligenci, je opozoril, da tudi Evropski parlament ni imun proti slabim in zavajajočim vsebinam, ustvarjenim z umetno inteligenco. Po njegovem mnenju bi morali biti poslanci zgled drugim, še posebej ob začetku izvajanja evropskih pravil o preglednosti uporabe umetne inteligence.
Evropskim poslancem trenutno ni treba razkriti, ali so pri pripravi govora, vprašanja ali dopolnila uporabili umetno inteligenco. Za zaposlene v Parlamentu že od aprila 2024 veljajo posebna interna navodila. Določajo, da mora biti gradivo, pripravljeno s pomočjo umetne inteligence, ustrezno označeno, v javno dostopne generativne sisteme pa ni dovoljeno vnašati občutljivih informacij.
Ta navodila naj bi zdaj posodobili. Predsedniki odborov so zahtevali tudi pripravo širših pravil, kar bi lahko zahtevalo spremembo poslovnika Evropskega parlamenta.
Na izbiro evropski in ameriški modeli
EPGenAI Hub naj bi pod eno streho združil več različnih modelov. Med ponudniki so Meta, OpenAI, Anthropic in francoski Mistral. Uporabniki bodo lahko izbirali med modeli, ki bodo delovali znotraj informacijske infrastrukture Parlamenta, in zmogljivejšimi storitvami na zunanjih strežnikih.
Znotraj parlamentarnega sistema naj bi bili na voljo Metin Llama, odprti model OpenAI GPT-OSS in Mistral Small. Dostop do zunanjih storitev naj bi vključeval tudi ChatGPT ter Anthropicov Claude Sonnet. Podrobnosti o hrambi podatkov, beleženju vprašanj in odgovorov ter morebitni uporabi vnesenih informacij za nadaljnje učenje modelov še niso javno pojasnjene.
Parlamentarna služba za odnose z javnostmi je pojasnila, da se lahko seznam ponujenih modelov še spremeni. Pri izbiri naj bi upoštevali predvsem razpoložljivost odprtokodnih rešitev in evropskih modelov, ki jih je mogoče uporabljati prek ponudnikov suverenih storitev v oblaku.
Februarja so funkcije umetne inteligence blokirali
Uvedba platforme pomeni precejšen preobrat. Evropski parlament je februarja na službenih tablicah in telefonih poslancev ter zaposlenih onemogočil vgrajene funkcije umetne inteligence. Informacijske službe namreč niso mogle zanesljivo ugotoviti, koliko podatkov naprave pošiljajo ponudnikom zunanjih storitev in kako se ti podatki uporabljajo.
Takrat ni šlo za popolno prepoved umetne inteligence, temveč za varnostni ukrep proti funkcijam, ki so podatke samodejno pošiljale na zunanje strežnike. Novi EPGenAI Hub naj bi bil odgovor na isto težavo: uporabnikom bi ponudil uradno in varnejšo možnost, namesto da bi se pri delu zatekali k osebnim računom na javnih platformah.
Projekt obenem odpira vprašanje evropske digitalne neodvisnosti. Čeprav si Bruselj prizadeva zmanjšati odvisnost od ameriških tehnoloških družb, bodo med ključnimi ponudniki parlamentarnega orodja tudi OpenAI, Anthropic in Meta.
Najpomembnejše vprašanje zato ni le, katera orodja bodo poslanci uporabljali, temveč ali bodo morali volivcem razkriti, da je govor, poslansko vprašanje ali zakonodajno dopolnilo napisal oziroma bistveno oblikoval algoritem.
