Digitální knihovna UPCE přechází na novou verzi. Omluvte prosím případné komplikace. / The UPCE Digital Library is migrating to a new version. We apologize for any inconvenience.

Publikace:
Existenční hrozby obecné umělé inteligence řídící se vlastními cíli

Bakalářská práceopen access
Zobrazit minimální záznam
dc.contributor.advisorKrása, Ondřej
dc.contributor.authorWalter, David
dc.contributor.refereeGrygar, Filip
dc.date.accepted2025-05-29
dc.date.accessioned2025-06-23T08:56:58Z
dc.date.issued2025
dc.date.submitted2025-03-27
dc.description.abstractTato práce se zabývá problematikou vlastních cílů obecné umělé inteligence (AGI) a jejich potenciálního konfliktu s lidskými hodnotami, přičemž analyzuje rizika spojená s fenomény mesa-optimizérů a deceptive alignment. Zaměřuje se na otázku, zda může AGI rozvíjet odlišné cíle než ty, které jí byly původně zadány, a jakým způsobem se tyto cíle mohou vyvíjet mimo lidskou kontrolu. Práce argumentuje, že lidské hodnoty jsou výsledkem evoluce, zatímco AGI podobným procesem neprochází, což zpochybňuje možnost přenosu lidských hodnot na obecnou umělou inteligencizásadní faktor pro bezpečné plnění cílů. Práce dochází k závěru, že autonomní formování cílů AGI představuje zásadní riziko, které může mít existenční důsledky pro lidstvo.cze
dc.description.abstract-translatedThis thesis explores the issue of general artificial intelligence (AGI) developing its own goals and the potential conflict with human values, analyzing the risks associated with mesaoptimizers and deceptive alignment. It examines whether AGI can develop goals different from those originally assigned to it and how these goals might evolve beyond human control. The study argues that human values are a product of evolution, whereas AGI does not undergo a similar process, which challenges the possibility of transferring human values to general artificial intelligencean essential factor for ensuring the safe pursuit of goals. The thesis concludes that the autonomous formation of AGI's goals represents a fundamental risk that could have existential consequences for humanity.eng
dc.description.defenceStudent představil strukturu a základní teze své bc. práce. Vedoucí a oponent práce představili své posudky. Proběhla diskuse.cze
dc.description.departmentFakulta filozofickácze
dc.description.gradeDokončená práce s úspěšnou obhajoboucze
dc.format40 s.
dc.identifier.stag49329
dc.identifier.urihttps://hdl.handle.net/10195/84561
dc.language.isocze
dc.publisherUniverzita Pardubicecze
dc.rightsBez omezení
dc.subjectobecná umělá inteligencecze
dc.subjectumělá inteligencecze
dc.subjectmesa-optimizérycze
dc.subjectdeceptive alignmentcze
dc.subjectproxy cílecze
dc.subjectinstrumentální konvergencecze
dc.subjectmetafyzická autonomiecze
dc.subjecthodnoty AIcze
dc.subjectexistenční rizikacze
dc.subjectgeneral artificial intelligenceeng
dc.subjectartificial intelligenceeng
dc.subjectmesa-optimizerseng
dc.subjectdeceptive alignmenteng
dc.subjectproxy goalseng
dc.subjectinstrumental convergenceeng
dc.subjectmetaphysical autonomyeng
dc.subjectAI valueseng
dc.subjectexistential riskseng
dc.thesis.degree-disciplineFilosofiecze
dc.thesis.degree-grantorUniverzita Pardubice. Fakulta filozofickácze
dc.thesis.degree-nameBc.
dc.thesis.degree-programFilosofiecze
dc.titleExistenční hrozby obecné umělé inteligence řídící se vlastními cílicze
dc.title.alternativeThe Existential Threats of General Artificial Intelligence Driven by Its Own Goalseng
dc.typebakalářská prácecze
dspace.entity.typePublication

Soubory

Původní svazek

Nyní se zobrazuje 1 - 3 z 3
Náhled
Název:
BP_-_Existencni_hrozby_obecne_umele_inteligence_ridici_se_vlastnimi_cili_-_Walter_David.pdf
Velikost:
483.29 KB
Formát:
Adobe Portable Document Format
Popis:
Plný text práce
Plný text práce (483.29 KB)
Náhled
Název:
KrasaO_ExistencniHrozby_DW_2025.pdf
Velikost:
166.7 KB
Formát:
Adobe Portable Document Format
Popis:
Posudek vedoucího práce
Posudek vedoucího práce (166.7 KB)
Náhled
Název:
GrygarF_ExistencniHrozby_DW_2025.pdf
Velikost:
116.77 KB
Formát:
Adobe Portable Document Format
Popis:
Posudek oponenta práce
Posudek oponenta práce (116.77 KB)

Kolekce

Bakalářské práce / Bachelor's works KF FF (Bc.)
Vysokoškolské kvalifikační práce / Theses, dissertations, etc.