Publikace: Existenční hrozby obecné umělé inteligence řídící se vlastními cíli
Bakalářská práceopen accessNačítá se...
Datum
Autoři
Název časopisu
ISSN časopisu
Název svazku
Nakladatel
Univerzita Pardubice
Abstrakt
Tato práce se zabývá problematikou vlastních cílů obecné umělé inteligence (AGI) a jejich
potenciálního konfliktu s lidskými hodnotami, přičemž analyzuje rizika spojená s fenomény
mesa-optimizérů a deceptive alignment. Zaměřuje se na otázku, zda může AGI rozvíjet odlišné
cíle než ty, které jí byly původně zadány, a jakým způsobem se tyto cíle mohou vyvíjet mimo
lidskou kontrolu. Práce argumentuje, že lidské hodnoty jsou výsledkem evoluce, zatímco AGI
podobným procesem neprochází, což zpochybňuje možnost přenosu lidských hodnot na
obecnou umělou inteligencizásadní faktor pro bezpečné plnění cílů. Práce dochází k závěru,
že autonomní formování cílů AGI představuje zásadní riziko, které může mít existenční
důsledky pro lidstvo.
Popis
Klíčová slova
obecná umělá inteligence, umělá inteligence, mesa-optimizéry, deceptive alignment, proxy cíle, instrumentální konvergence, metafyzická autonomie, hodnoty AI, existenční rizika, general artificial intelligence, artificial intelligence, mesa-optimizers, deceptive alignment, proxy goals, instrumental convergence, metaphysical autonomy, AI values, existential risks