Temna stran umetne inteligence: ustvarjanje nespodobnih slik

Strokovnjaki opozarjajo, da šolarji s sistemi umetne inteligence ustvarjajo neprimerne slike svojih vrstnikov. Britanski center za varnejši internet (UKSIC) je od šol prejel poročila o učencih, ki so poskušali ustvariti takšne slike s pomočjo spletnih orodij umetne inteligence. Te podobe, ki so razvrščene kot gradivo o spolni zlorabi otrok, niso le potencialno kaznive, ampak tudi zelo škodljive. Privedejo lahko do izsiljevanja ali velike čustvene stiske žrtev.

Čeprav imajo nekatere platforme umetne inteligence vgrajene ukrepe za preprečevanje ustvarjanja vsebin za odrasle, mnoge teh varoval nimajo ali pa imajo ranljivosti, ki jih je mogoče izkoristiti. To vprašanje poudarja dvojno naravo tehnologije umetne inteligence: njen potencial za pozitiven učinek in zmožnost zlorabe.

UKSIC poudarja, da morajo šole okrepiti svojo digitalno obrambo. Ključnega pomena je, da izobraževalne ustanove posodobijo svoje sisteme za filtriranje in spremljanje, da bodo učinkovito blokirali nezakonite vsebine v šolskih napravah. To je ključni korak v boju proti naraščajočemu trendu te nevarne dejavnosti.

David Wright, direktor UKSIC, poudarja zaskrbljujoč trend, da otroci uporabljajo umetno inteligenco za ustvarjanje neprimernih slik. Ugotavlja, da je umetna inteligenca sicer zelo obetavna, vendar je treba pričakovati njeno zlorabo, zlasti s strani mladih, ki se ne zavedajo resnosti svojih dejanj. Ker postaja umetna inteligenca vse bolj dostopna, je treba predvideti in obravnavati možnosti škodljivega vedenja. Wrightova izjava opozarja na potrebo po večji ozaveščenosti in proaktivnih ukrepih za obvladovanje presečišča med mladimi in nastajajočimi tehnologijami.

Slike, ki jih ustvarja umetna inteligenca, se ne razlikujejo od resničnosti

Ofstedov pregled 2021 je osvetlil zaskrbljujočo razširjenost spolnega nadlegovanja in spolnih zlorab na spletu, ki se je razvila s pojavom generativnih tehnologij umetne inteligence. Čeprav so incidenti, ki vključujejo te tehnologije, trenutno omejeni, pomenijo začetek morebitnega porasta takšnih primerov. Nujno so potrebni proaktivni ukrepi, da bi preprečili preobremenjenost šol in zajezili naraščanje te težave.

Zaskrbljujoč trend je potencialno povečanje ustvarjanja kriminalnih vsebin v šolah, kar zahteva takojšnje posredovanje. Šole naj pregledajo svoje sisteme filtriranja in spremljanja ter poiščejo pomoč pri obvladovanju incidentov in skrbi za zaščito.

Fundacija Internet Watch Foundation (IWF), ki je del UKSIC, je oktobra opozorila na nevarnost. IWF je opozorila, da so podobe spolnih zlorab otrok, ki jih ustvarja umetna inteligenca, tako izpopolnjene, da jih tudi strokovnjaki pogosto ne ločijo od resničnih fotografij. Fundacija je na spletu odkrila na tisoče takšnih slik.

V zadnjem letu je umetna inteligenca postala osrednja tema v razpravah o spletni varnosti, zlasti odkar je novembra začel delovati klepetalni robot ChatGPT z generativno umetno inteligenco. Organizacije za spletno varnost, vlade in industrijski strokovnjaki vse pogosteje pozivajo k strožji ureditvi tega sektorja. Skrbi jih, da hiter razvoj umetne inteligence prehiteva zmožnost organov, da se učinkovito odzovejo na njene izzive.

Vir foto: AI (B.O.) Biznis24