Lea Košmrlj and Ivan Bratko

POVZETEK
V luči skokovitega tehnološkega napredka generativne umetne
inteligence v zadnjih nekaj letih se poleg prednosti, ki jih ta
prinaša, pojavlja vse več opozoril o njenih pasteh, ki lahko
predstavljajo resno tveganje za družbenopolitične in
demokratične procese. Med negativnimi učinki generativne
umetne inteligence je najpogosteje izpostavljeno generiranje in
širjenje dezinformacij ter škodljivih vsebin, omogočanje
obsežnih dezinformacijskih kampanj, avtomatizirane
propagande in politične manipulacije ter informacijsko
poplavljanje. Namen prispevka je na podlagi pregleda empiričnih
raziskav, ki vključujejo velike jezikovne modele in tehnologijo
globokih ponaredkov, oceniti dejanske potencialne škodljive
učinke generativne umetne inteligence na demokratične procese.
Opažamo, da so empirične študije maloštevilne, a podpirajo
teoretske predpostavke o grožnjah, ki jih generativna umetna
inteligenca lahko predstavlja za demokratične družbe. Pri tem
gre izpostaviti predvsem neuspešnost udeležencev v
razločevanju sintetičnih vsebin od človeških in vpliv sintetičnih
vsebin na mnenja in vrednotenje politične osebe ali tematike.
Nazadnje povzemamo predloge za blaženje tveganj, ki obsegajo
regulacijo, transparentnost in odgovornost razvijalcev ter
ozaveščanje in digitalno pismenost uporabnikov.