Na Amazonu odkrili ponaredke knjig ustvarjene z UI
Rory Cellan-Jones, priznani nekdanji BBC-jev dopisnik za tehnologijo, je nedavno doživel neprijetno presenečenje. Na spletnem mestu Amazon, je namreč odkril biografijo, ki je bila objavljena pod njegovim imenom, vendar ni bila delo njegovih rok. Zgodba, ki jo je sam povedal za Observer, izpostavlja vedno večjo težavo z digitalno zlorabo in umetne inteligenco (UI) v literarnem prostoru.
Cellan-Jones, katerega nedavna avtobiografija “Sylvia, Me and the BBC” odraža njegovo osebno potovanje skozi družinsko zgodovino in kariero pri BBC-ju, je na Amazonu naletel na drugo ‘biografijo’ z naslovnico, ki je bila očitno ponaredek in delo nekoga, ki ga še nikoli ni srečal. “Pomislil sem: ‘To je čudno – kdo piše mojo biografijo?’,” je povedal Cellan-Jones. Odkritje lažne biografije je sprožilo številna vprašanja o integriteti digitalne platforme, ki naj bi avtorjem omogočala, da delijo svoje delo s svetom.
Amazon
Amazon, ena vodilnih platform za samoobjavo preko sistema Kindle Direct Publishing (KDP), že dolgo trdi, da zagotavlja prostor, ki avtorjem omogoči, da objavijo svoje delo, hkrati pa ohranja visoke standarde kakovosti. Žal omenjeni incident, pod vprašaj postavi, kako dobro platforma nadzoruje in moderira vsebino, ki jo objavljajo uporabniki.
Nicola Solomon, izvršna direktorica Društva avtorjev (SoA), je dejala, da se “Amazon očitno sooča s pomembnimi izzivi zaradi dotoka izdelkov, ustvarjenih z umetno inteligenco, v svojih trgovinah. Zdi se, da ne dohiteva.” Naraščajoča uporaba umetne inteligence v proizvodnji vsebin je očitno ustvarila priložnost za zlorabo, kot je tista, ki je doletela Cellan-Jonesa.
Zaskrbljenost, da se njihovo delo uporablja v velikih jezikovnih modelih za usposabljanje umetne inteligence brez njihovega soglasja, nadomestila ali kredita so izrazili tudi drugi priznani avtorjiv, ključno z Margaret Atwood, Thanh Nguyen in Philip Pullman. Rashik Parmar, izvršni direktor skupine BCS, pooblaščenega inštituta za IT, je pozval k uvedbi zakonodaje, ki bo zagotovila, da bo material, ustvarjen z umetno inteligenco, vključeval digitalni vodni žig, kar omogoča lažje sledenje.
Kljub izzivom, pred katerimi je Amazon, je tiskovni predstavnik platforme izjavil, da v problem “vlagajo veliko časa in sredstev, da zagotovijo upoštevanje njihovih smernic in odstranijo knjige, ki jih ne upoštevajo.” Sočasno so vse založnike pozvali, naj se držijo njihovih vsebinskih smernic. Podjetje je pred nekaj tedni napovedalo, da bo založnikom novih publikacij KDP zahtevalo, da prijavijo, ali vključujejo vsebino, ustvarjeno z umetno inteligenco. Prav tako bodo omejili objavo na tri knjige na dan.
Soočeni z izzivom digitalne zlorabe in umetne inteligence, se avtorji, bralci in založniki znajdejo na razpotju, ki od njih zahteva, da ponovno razmislijo o etiki in integriteti literarnega prostora v digitalni dobi. Incident Rory Cellan-Jonesa odraža samo vrh ledene gore v nenehno spreminjajočem se svetu digitalne samoobjave.
