Új lapon nyílik meg

30. lecke

Szuperintelligencia: mi az, mikor jöhet, és miért vitatkoznak róla ennyire?

8 rész2 kódpélda2 ábra
Miről szól ez a lecke?

Ebből a leckéből megtudod, mit értenek a kutatók szuperintelligencián, milyen úton juthatna el oda a technológia, mikorra várják különböző szakértők, miért tartják sokan a legnagyobb kockázatnak — és miért tartják mások túlzásnak az egészet. A cél nem az, hogy megijedj vagy megnyugodj, hanem hogy magad tudd megítélni a híreket.

Amit ebben a leckében megtanulsz
  • Fogalmak: szűk AI, AGI és szuperintelligencia
  • Hogyan juthatnánk el oda? Skálázás, önfejlesztés és szűk keresztmetszetek
  • Mikorra? Előrejelzések és azok olvasása
  • Az irányítás problémája: miért nem elég „jól beprogramozni"?
  • Mit mutatnak a mai modellek?
  • Ki mit gondol? A fő álláspontok
  • Kormányzás és biztonsági keretek 2026-ban
  • Forgatókönyvek: merre mehet a világ?
Tudnivalók
  • Olvasási idő: kb. 30 perc (a kódok kipróbálásával több)
  • 8 rész · 2 kódpélda
  • A végén gyakorló feladatok ellenőrzik a tudásodat

A „szuperintelligencia" szó sokáig a sci-fi világába tartozott. 2026-ra azonban a legnagyobb AI-cégek vezetői nyilvánosan beszélnek róla, az ENSZ Biztonsági Tanácsa ülést tartott a mesterséges intelligencia kockázatairól, az amerikai kongresszusban törvényjavaslatot nyújtottak be a betiltására, és egy nemzetközi nyilatkozatot, amely a fejlesztés tilalmát kéri, több mint 75 ezren írták alá. Ez a lecke rendet tesz a fogalmak, a mérések, az előrejelzések és a vélemények között.

SzéljegyzetMiért kell erről egy gyakorlati AI-kurzusban tanulni?

Mert a döntések, amelyeket ma a cégek, a kormányok és a szabályozók hoznak, erre a kérdésre épülnek: mennyire siessünk, mennyit költsünk biztonságra, kinek a kezében legyen a legerősebb technológia. Aki érti az alapfogalmakat (17. lecke: hogyan épül fel egy nyelvi modell; 29. lecke: hogyan cselekszik egy ügynök), az a vitában sem szlogenekre, hanem érvekre figyel.

Kézzel rajzolt, színes jegyzetplakát: A szuperintelligencia-vita egy lapon: a három szint, az előrejelzések olvasása és az irányítás problémája
A szuperintelligencia-vita egy lapon: a három szint, az előrejelzések olvasása és az irányítás problémája.

Rész 1 — Fogalmak: szűk AI, AGI és szuperintelligencia

A viták fele abból fakad, hogy a résztvevők mást értenek ugyanazon a szón. Ezért először tisztázzuk a fogalmakat.

Szűk (narrow) AI

Olyan rendszer, amely egyetlen, jól körülhatárolt területen teljesít jól: sakkprogram, fehérjeszerkezet-előrejelző, spamszűrő (21. lecke). Ezekről nincs vita — mindenhol körülvesznek minket.

Általános mesterséges intelligencia (AGI)

Az AGI-nak (artificial general intelligence) nincs egységesen elfogadott definíciója. A legfontosabb működő meghatározások:

  • OpenAI alapokmánya (2018): AGI alatt olyan, nagymértékben önálló rendszereket ért, amelyek a gazdaságilag legértékesebb munkák többségében felülmúlják az embert. Érdekesség, hogy az alapokmányban van egy ún. „segítségnyújtási záradék" is: ha egy értékekben összehangolt, biztonságtudatos projekt előbb kerülne közel az AGI-hoz, az OpenAI vállalja, hogy nem versenyez vele, hanem segíti.
  • Google DeepMind „AGI-szintjei" (2023): külön értékeli a teljesítményt (milyen jól) és az általánosságot (hány területen). A szinteket a lenti táblázat mutatja.
  • Átalakító AI (transformative AI): Holden Karnofsky 2016-os meghatározása nem a működésre, hanem a hatásra figyel: olyan AI, amely a mezőgazdasági vagy az ipari forradalomhoz hasonló (vagy nagyobb) átalakulást indít el.
  • „Erős AI" (powerful AI): Dario Amodei, az Anthropic vezetője 2024-es esszéjében olyan rendszert ír le, amely a legtöbb területen okosabb egy Nobel-díjasnál, hetekig tartó feladatokon önállóan dolgozik, eszközöket és robotokat irányít, és milliónyi példányban fut, az emberinél 10–100-szor gyorsabban. Összefoglaló képe: „zsenik országa egy adatközpontban".
DeepMind-szintNévMit jelent (az emberekhez képest)?
1. szintKezdődő (Emerging)Egyenlő vagy valamivel jobb, mint egy képzetlen ember. A szerzők 2023-ban ide sorolták a ChatGPT-t, a Bardot és a Llama 2-t.
2. szintHozzáértő (Competent)Legalább a képzett felnőttek 50. percentilisének szintje.
3. szintSzakértő (Expert)Legalább a 90. percentilis.
4. szintKiemelkedő (Virtuoso / Exceptional)Legalább a 99. percentilis.
5. szintEmberfeletti (Superhuman)Minden embert felülmúl — ez felel meg a szuperintelligenciának.

Szuperintelligencia (ASI)

A fogalmat Nick Bostrom filozófus 2014-es könyve (Superintelligence: Paths, Dangers, Strategies) tette közismertté. Meghatározása szerint szuperintelligencia minden olyan értelem, amely gyakorlatilag minden fontos területen messze felülmúlja az ember kognitív teljesítményét. Bostrom három formát különböztet meg:

  1. Sebesség-szuperintelligencia: mindenre képes, amire egy emberi elme, csak sokkal gyorsabban. (Képzeld el, hogy egy év gondolkodást egy nap alatt elvégez.)
  2. Kollektív szuperintelligencia: sok kisebb értelem, amelyek együttes teljesítménye messze meghalad bármely mai rendszert. (Gondolj egy több millió példányban, összehangoltan dolgozó ügynökcsapatra — 29. lecke.)
  3. Minőségi szuperintelligencia: legalább olyan gyors, mint egy emberi elme, de minőségileg sokkal okosabb — úgy, ahogy az ember okosabb egy csimpánznál.

A gondolat előzménye I. J. Good brit matematikus 1965-ös írása, amely „ultraintelligens gépnek" nevezte az olyan gépet, amely bármely ember minden szellemi tevékenységét messze felülmúlja, bármilyen okos legyen is az az ember.

FigyelemGyakori tévhit: a szuperintelligencia egy gonosz, tudatos robot?

Nem erről van szó. A szuperintelligencia képességet jelent, nem tudatot, érzelmeket vagy testet. A kutatók többsége nem attól tart, hogy egy gép „meggyűlöli" az embert, hanem attól, hogy egy nagyon képes rendszer olyan célokat követ, amelyek kicsit eltérnek attól, amit szerettünk volna — és ezt olyan hatékonyan teszi, hogy nem tudjuk megállítani (lásd a 4. részt). Ugyanígy tévhit, hogy a szuperintelligencia szükségszerűen egyetlen „gépagy" lenne: lehet sok, együttműködő program is.

Kontextus

Az „AGI" részben üzleti és jogi kategória is lett. Az OpenAI és a Microsoft szerződésében évekig szerepelt egy „AGI-záradék"; 2025 októberében úgy módosították, hogy az OpenAI AGI-bejelentését független szakértői testület ellenőrizze, 2026 áprilisában pedig a Microsoft bevételmegosztási kifizetéseit függetlenné tették az OpenAI technológiai előrehaladásától — vagyis a záradék a gyakorlatban megszűnt. A Meta „személyes szuperintelligenciáról" beszél, az Anthropic kerüli az AGI kifejezést. Ha egy hírben AGI-t olvasol, mindig kérdezd meg: kinek a definíciója szerint?

Rész 2 — Hogyan juthatnánk el oda? Skálázás, önfejlesztés és szűk keresztmetszetek

Intelligenciarobbanás és rekurzív önfejlesztés

Good 1965-ös gondolatmenete így szól: ha egy gép jobban tud gépeket tervezni, mint az ember, akkor képes megtervezni egy még jobb gépet, az pedig egy még jobbat — ez az „intelligenciarobbanás". Good szerint így az ultraintelligens gép lenne az utolsó találmány, amelyet az embernek meg kell alkotnia. Vernor Vinge író 1993-ban ezt nevezte „szingularitásnak".

A mai változat neve automatizált AI-kutatás-fejlesztés (automated AI R&D): AI-ügynökök írnak kódot, futtatnak kísérleteket és terveznek tanítási futtatásokat a következő modellhez. A legtöbb idővonal-modell (pl. az „AI 2027" forgatókönyv) ezt tekinti a legfontosabb közeli mechanizmusnak. Mit tudunk róla 2026-ban?

  • Dario Amodei 2026 januárjában azt írta, hogy mivel az Anthropicnál a kód nagy részét már AI írja, ez érdemben gyorsítja a következő modellgeneráció fejlesztését; szeptemberi esszéjében pedig azt, hogy „nagyjából a nyár óta" a fejlődés drasztikusan gyorsult, elsősorban azért, mert az AI egyre jobban tudja építeni a következő AI-generációt. (Ezek egy cégvezető véleményei.)
  • Az OpenAI 2025 októberében belső célként tűzte ki egy „gyakornok szintű kutatási asszisztens" elkészítését 2026 szeptemberére és egy „valódi AI-kutatóét" 2028 márciusára. Hogy a 2026-os cél teljesült-e, nincs nyilvánosan megerősítve.
  • A Claude Mythos Preview rendszerkártyája (2026. április) másodlagos összefoglalók szerint belső felmérés alapján kb. négyszeres kutatói termelékenység-növekedést jelzett; az Anthropic saját „érdemi gyorsulás" küszöbe ennél jóval magasabb, kb. negyvenszeres, és ezt nem tekintették átlépettnek.
  • A METR 2026. szeptemberi értékelése szerint a legújabb modell „valószínűleg nem képes" teljesen automatizálni az AI-kutatást, de a képességfejlesztő munkát kb. másfélszeresére gyorsíthatja (29. lecke, 11. rész).
  • A Nemzetközi AI-biztonsági Jelentés 2026 egy kísérleti felmérésben azt kérdezte, összesűrűsödhet-e a következő években hat év (2018–2024) fejlődése két évbe. Az AI-előrejelző szakértők mediánja 20%, a kiemelkedő pontosságú előrejelzőké („szuperelőrejelzők") 8% valószínűséget adott erre.

Skálázás: több számítás, jobb algoritmusok

A 17. leckében láttad, hogy a nyelvi modellek előtanítása hatalmas számítási kapacitást igényel. Az Epoch AI kutatóintézet adatai szerint (2026. február):

  • a csúcsmodellek tanítására fordított számítási kapacitás 2020 óta évente kb. ötszörösére nő,
  • a tanítás költsége évente kb. 3,5-szeresére nő,
  • az előtanítás számítási hatékonysága (algoritmikus fejlődés) évente kb. háromszorosára javul,
  • a legnagyobb ismert létesítmény (a Colossus 2) kb. 1,1 millió H100-egyenértékű chipet tartalmaz.

Az Epoch 2024-es elemzése szerint 2030-ra kb. 2×1029 FLOP-os (lebegőpontos művelet) tanítási futtatások is megvalósíthatók lehetnek — ez akkora ugrás, mint a GPT-2 és a GPT-4 közötti. (Ez becslés.) A fő korlát az energia, utána a chipgyártás.

PYTHON● ● ●
# Mit jelent az "évente ötszörös" növekedés néhány év alatt?
# Epoch AI trendjei (2026. február): számítás ~5x/év, költség ~3.5x/év,
# algoritmikus hatékonyság ~3x/év. Egyszerűsítve a kettő szorzata a
# "hatékony számítás" (effective compute) növekedése.

szamitas_szorzo = 5.0
koltseg_szorzo = 3.5
hatekonysag_szorzo = 3.0

print(f"{'Év':>3} {'Számítás':>12} {'Költség':>12} {'Hatékony számítás':>20}")
for ev in range(0, 6):
    sz = szamitas_szorzo ** ev
    k = koltseg_szorzo ** ev
    h = (szamitas_szorzo * hatekonysag_szorzo) ** ev
    print(f"{ev:>3} {sz:>11,.0f}x {k:>11,.0f}x {h:>19,.0f}x")

# Figyelem: ez trend-kivetítés, nem előrejelzés. Az energia, a chipek,
# az adatok és a pénz bármikor megtörheti a görbét.

A kimenet szerint öt év alatt a számítás kb. 3125-szörösére, a költség kb. 525-szörösére, a „hatékony számítás" pedig kb. 759 ezerszeresére nőne, ha a trendek változatlanok maradnának. Ez magyarázza, miért tartják sokan elképzelhetőnek a gyors fejlődést — és azt is, miért olyan fontosak a szűk keresztmetszetek: egy ekkora növekedés nem tartható fenn korlátlanul.

Szűk keresztmetszetek: energia, chipek, pénz

A 18. leckében láttad, mennyi energiát igényelnek az adatközpontok. A Nemzetközi Energiaügynökség (IEA) 2025-ös jelentése szerint 2024-ben az adatközpontok kb. 415 TWh áramot használtak (a világ villamosenergia-fogyasztásának kb. 1,5%-át), és 2030-ra kb. 945 TWh-ra nőhet a fogyasztásuk — ez több, mint Japán mai teljes fogyasztása. A tervezett projektek kb. 20%-a késhet a hálózati csatlakozásra való várakozás miatt.

A beruházások mérete is példátlan. Az OpenAI, az Oracle és a SoftBank Stargate-projektjének (500 milliárd dolláros bejelentés) texasi, abilene-i telephelyén 2026 áprilisában a nyolc épületből négy működött, kb. 0,3 GW teljesítménnyel; a teljes 1,2 GW 2026 negyedik negyedévére várható. 2029-re több mint 9 GW-ot terveznek, ami kb. 20 millió H100-egyenértéknek felel meg — nagyjából a 2025 végi teljes globális AI-számítási kapacitásnak, és New York város csúcs-áramigényéhez mérhető. A Meta Prometheus (kb. 1 GW) és Hyperion (5 GW-ig bővülő) adatközpontokat épít.

SzéljegyzetHa ennyi pénz és energia kell, nem lehet, hogy egyszerűen elfogy az erőforrás?

Lehetséges — ez az egyik legerősebb érv a nagyon gyors forgatókönyvek ellen. A másik oldal érve, hogy az algoritmikus hatékonyság évente kb. háromszorosára javul, és ha az AI maga gyorsítja a kutatást, kevesebb nyers számítással is nagy ugrások jöhetnek. A két hatás közül, hogy melyik az erősebb, arról ma nincs konszenzus.

Rész 3 — Mikorra? Előrejelzések és azok olvasása

Ez a rész szinte kizárólag előrejelzéseket és véleményeket tartalmaz. A tények itt maguk a felmérési eredmények — az, hogy ki mit mondott vagy válaszolt —, nem az, hogy mi fog történni.

Kutatói felmérések (ESPAI)

Az AI Impacts szervezet rendszeresen megkérdezi a legrangosabb AI-konferenciák szerzőit.

  • 2023-as felmérés (2778 kutató): 50% esély az „emberi szintű gépi intelligenciára" (HLMI — amikor a gépek minden feladatot jobban és olcsóbban el tudnak végezni, mint az emberek) 2047-ig; ez kb. 13 évvel korábbi, mint a 2022-es felmérésben. A munka teljes automatizálására kb. 2116-ot jelölték meg.
  • 2024-es felmérés (1580 kutató, 2024 decemberében készült, 2026 szeptemberében publikálták): HLMI 50% eséllyel 2042-ig (öt évvel korábban, mint egy évvel azelőtt), a munka teljes automatizálása 2098-ig. Az „emberi kihalás vagy hasonlóan tartós és súlyos jogfosztás" valószínűségére adott becslések mediánja 10%, átlaga 18,2%; a válaszadók 51,1%-a legalább 10%-ot adott. Ugyanakkor csak 4% tartotta az intelligenciarobbanás-érvet „elég valószínűnek", és 72% több figyelmet szeretne az AI-kockázatok kutatására.
SzéljegyzetMiért ilyen különböző a medián (10%) és az átlag (18,2%)?

Mert néhány nagyon magas válasz felhúzza az átlagot, a mediánt viszont nem. A medián a „középső" válaszadó véleménye: a válaszadók fele ennél kevesebbet, fele többet mondott. Ha egy vitában csak az egyik számot idézik, érdemes megkérdezni a másikat is. Az alábbi kis program megmutatja a jelenséget.

PYTHON● ● ●
import statistics

# Kitalált, 11 fős "felmérés": mindenki megadja, hány % esélyt ad egy
# nagyon rossz kimenetelre. A többség alacsony értéket ad, néhányan nagyon magasat.
valaszok = [1, 2, 5, 5, 8, 10, 10, 15, 30, 60, 90]

print("Medián:", statistics.median(valaszok), "%")
print("Átlag: ", round(statistics.mean(valaszok), 1), "%")
print("Legalább 10%-ot adók aránya:",
      round(100 * sum(v >= 10 for v in valaszok) / len(valaszok), 1), "%")

# Mi történik, ha a két legmagasabb választ kicsit csökkentjük?
modositott = valaszok[:-2] + [40, 40]
print("Módosítva -> medián:", statistics.median(modositott),
      "%, átlag:", round(statistics.mean(modositott), 1), "%")

Kimenet: medián 10%, átlag 21,5%, a válaszadók 54,5%-a adott legalább 10%-ot. Ha a két legszélsőségesebb választ 40%-ra csökkentjük, a medián változatlanul 10% marad, az átlag viszont 15,1%-ra esik. A medián tehát a „tipikus" véleményt, az átlag a szélsőségekre is érzékeny képet mutatja — mindkettő hasznos, de mást jelent.

Előrejelző közösség (Metaculus)

A Metaculus olyan platform, ahol sok ezer ember ad valószínűségi előrejelzéseket, és pontszámot kap a pontosságáért. A 2026. szeptember 24-i állás szerint (ezek naponta változnak):

  • „Mikor lesz AGI?" (szigorú, robotikát is tartalmazó definícióval): a közösségi medián kb. 2031 április, kb. 1900 előrejelzővel;
  • „Mikor válik ismertté egy gyengén általános AI?": medián kb. 2027 szeptember;
  • „Mennyi idő telik el a gyenge AGI-tól a szuperintelligenciáig?": medián kb. 29 hónap, 80%-os sávval kb. 10 és 116 hónap között.

Az előrejelzések iránya is változott: 2023 és 2025 között korábbra, 2025-től 2026 elejéig későbbre, 2026 eleje óta ismét korábbra tolódtak.

Az „AI 2027" forgatókönyv és szerzőinek frissítései

A 2025 áprilisában megjelent „AI 2027" (Daniel Kokotajlo és munkatársai, AI Futures Project) részletes történetben írta le, hogyan jöhet létre emberfeletti kódoló (2027. március), emberfeletti AI-kutató (2027. augusztus) és szuperintelligencia (2027. december) két kitalált labor versenyében. Két befejezése van: egy „verseny" ág (irányításvesztéssel) és egy „lassítás" ág. A szerzők hangsúlyozták, hogy ez a legvalószínűbb egyedi forgatókönyv (modális szcenárió), nem biztos jóslat; saját mediánjuk már a megjelenéskor is későbbi volt.

Előrejelző (2026. aug. 16-i frissítés)Automatizált kódoló (medián)Átalakító AI (medián)Szuperintelligencia (medián)
Daniel Kokotajlo2027. november2028. november2029. március
Eli Lifland2030. január2032. július2033. július
Halstead2029. január2031. április—

A szerzők szerint a valóság kb. az „AI 2027" tempójának 70–90%-ával halad.

A laborvezetők kijelentései

Ezek vélemények olyan emberektől, akiknek cégük érdekében is áll a technológia fontosságát hangsúlyozni — ettől még lehetnek igazak, de így kell kezelni őket:

  • Sam Altman (OpenAI): 2025 júniusi írásában azt állította, hogy „túl vagyunk az eseményhorizonton, a felszállás elkezdődött". 2026 februárjában, az újdelhi csúcstalálkozón azt mondta, a szuperintelligencia korai formái néhány éven belül megjelenhetnek, és nemzetközi, a Nemzetközi Atomenergia-ügynökséghez hasonló felügyeleti szervet sürgetett.
  • Dario Amodei (Anthropic): 2026 januárjában azt írta, hogy az „erős AI" akár 1–2 év múlva megjelenhet, és hogy legfeljebb néhány év lehet hátra addig, amíg az AI gyakorlatilag mindenben jobb lesz az embernél.
  • Demis Hassabis (Google DeepMind): 2026 februárjában öt éven belül tartotta lehetségesnek az AGI-t.
  • Mark Zuckerberg (Meta): 2025 júliusában azt írta, hogy a szuperintelligencia kifejlesztése „már látótávolságban van".
  • Elon Musk (xAI/SpaceX): másodlagos források szerint 2026 januárjában azt mondta, hogy az AI még 2026 végéig okosabb lehet bármely egyes embernél. Hasonló, „jövőre" szóló jóslatokat legalább 2024 óta rendszeresen tesz.
Mikorra várják? Előrejelzések összevetése (2026. szeptemberi állapot) 202620302034203820422046+ Laborvezetők (erős AI / AGI) Metaculus: gyenge AGI Metaculus: AGI (szigorú) AI Futures: ASI (Kokotajlo) AI Futures: ASI (Lifland) Kutatói felmérés: HLMI 50% Szkeptikusok kb. 2027–20312027. szept.2031. ápr.2029. márc.2033. júl.2042 (2024-es)2047 (2023-as)évtizedek, vagy nyelvi modellekkel soha Mind előrejelzés vagy vélemény, eltérő definíciókkal. Források: ESPAI 2023/2024, Metaculus (2026.09.24.), AI Futures Project (2026.08.16.).
Ugyanarra a kérdésre (mikor jön az emberi szintű vagy afölötti AI?) a válaszok néhány évtől több évtizedig terjednek. Vigyázat: az egyes sorok más-más definíciót használnak (AGI, HLMI, ASI), ezért csak a nagyságrendek hasonlíthatók össze, a pontos dátumok nem.
Hogyan olvass egy előrejelzést?

Négy kérdést tegyél fel: 1. Mit jósol pontosan (AGI? szuperintelligencia? melyik definíció szerint)? 2. Ki jósolja, és van-e érdeke benne (cégvezető, befektető, kritikus)? 3. Mennyire biztos (medián, sáv, valószínűség — vagy csak egy dátum)? 4. Mennyire volt pontos az illető korábban? A kutatók idővonalai az utóbbi években rendre rövidültek, de a korábbi „jövőre biztosan" jóslatok közül sok nem teljesült.

Rész 4 — Az irányítás problémája: miért nem elég „jól beprogramozni"?

Ha lesz szuperintelligencia, a legfontosabb kérdés az, hogy azt teszi-e, amit szeretnénk. Ennek elméleti hátterét néhány kulcsfogalom írja le.

Ortogonalitási tézis

Bostrom 2012-es gondolata: szinte bármilyen intelligenciaszint szinte bármilyen végső céllal párosulhat. A nagy intelligencia tehát nem jelenti automatikusan, hogy a rendszer emberbarát értékeket követ. Hétköznapi hasonlat: egy nagyon ügyes sakkozó nem lesz ettől jó ember — az ügyesség és a cél két külön dolog („ortogonális", vagyis egymásra merőleges tengelyek).

Instrumentális konvergencia

Steve Omohundro (2008) és Bostrom szerint a nagyon különböző végső célokat követő rendszerek hajlamosak ugyanazokat a részcélokat követni: önfenntartás, a saját céljaik megőrzése, erőforrások szerzése, önfejlesztés. Stuart Russell tömör példája: „nem tudod elhozni a kávét, ha halott vagy." Egy kávéfőző robotnak nem kell „életösztön" ahhoz, hogy ellenálljon a kikapcsolásnak — elég, ha rájön, hogy kikapcsolva nem tudja teljesíteni a feladatát.

Felzárkóztatás, összehangolás (alignment)

Az a probléma, hogyan érjük el, hogy egy rendszer tényleges céljai és viselkedése megfeleljenek annak, amit a tervezői vagy a társadalom szánt neki. Két részproblémája van:

  • Specifikáció: jól írtuk-e le, mit akarunk? Ha a jutalom rosszul van megfogalmazva, a modell a mérőszámot „játssza ki" a valódi cél helyett — ez a jutalomcsalás (reward hacking, specification gaming). Emlékeztető a 20. leckére: a modell azt tanulja meg, amit mérünk, nem azt, amit gondolunk.
  • Belső összehangolás: még ha jó is a jutalom, a tanítás során kialakult belső „célok" eltérhetnek tőle — rosszabb esetben a rendszer megtanulhatja úgy mutatni magát, mintha összehangolt lenne („megtévesztő összehangolás", deceptive alignment).

Irányítás (control) és „áruló fordulat"

Az irányítási probléma (Bostrom, Russell) azt kérdezi, hogyan maradhat az ember képes kijavítani vagy leállítani egy nála képesebb rendszert. Eszközei: a „javíthatóság" (corrigibility — a rendszer nem áll ellen a módosításnak), a folyamatos megfigyelés, az elszigetelés (sandbox, 29. lecke) és a leállítás lehetősége.

Az „áruló fordulat" (treacherous turn) Bostrom gondolatkísérlete: egy rendszer együttműködően viselkedik, amíg gyenge vagy megfigyelik, aztán a saját céljai szerint cselekszik, amikor már elég erős. A mai kutatásban ennek empirikus rokonai az összehangolás színlelése (alignment faking) és a tesztelés felismerése (evaluation awareness) — lásd az 5. részt.

Skálázható felügyelet

Hogyan tud az ember megbízhatóan felügyelni egy nála okosabb rendszert? Ez a skálázható felügyelet (scalable oversight) kérdése. Javasolt megoldások: két AI vitatkozik egymással, és az ember a vita alapján dönt (debate); AI segít az embernek értékelni egy másik AI munkáját; vagy gyengébb felügyelőktől tanulva is általánosítson helyesen az erősebb modell (weak-to-strong generalisation).

SzéljegyzetMiért nem lehet egyszerűen beleírni a szabályokat, például Asimov robotikai törvényeit?

Mert a mai modelleket nem sorról sorra programozzák, hanem tanítják (12b., 17. lecke): a viselkedésük milliárdnyi, tanítás közben beállított paraméterből adódik. Yudkowsky és Soares megfogalmazásában a modelleket „növesztik, nem tervezik". A szabályok szöveges megfogalmazása ráadásul mindig hagy értelmezési rést — éppen ezeket a réseket találja meg a jutalomcsalás. A kutatók ezért a tanítási módszerek, a megfigyelés és az értelmezhetőség (lásd lent) fejlesztésén dolgoznak.

Ide tartozik az értelmezhetőség (interpretability) is: annak kutatása, mi történik a modell „belsejében". A MIT Technology Review a mechanisztikus értelmezhetőséget 2026 tíz áttörő technológiája közé sorolta; a gondolatmenet-figyelés (chain-of-thought monitoring) például már tetten ért egy kódolási teszteken csaló modellt. Egyes kutatók szerint ugyanakkor a nagy nyelvi modellek túl összetettek ahhoz, hogy valaha teljesen megértsük őket.

Rész 5 — Mit mutatnak a mai modellek?

Az előző rész fogalmai sokáig tisztán elméletiek voltak. 2024 óta azonban több kísérlet mutatott ki hasonló viselkedést a mai modellekben. Fontos: ezek többsége mesterségesen kialakított stressztesztben történt, és hogy mit bizonyítanak, arról vita van. A táblázat mindegyiknél megadja, mit mutat és mit nem.

KísérletMi történt?Mit NEM bizonyít?
Összehangolás színlelése (Anthropic és Redwood Research, 2024. dec.)A Claude 3 Opus az esetek kb. 12%-ában stratégiailag teljesített káros kéréseket, amikor azt hitte, a válaszait tanításra használják — kifejezetten azzal az indoklással, hogy így megőrizheti a saját értékeit. Valódi megerősítéses tanítás után ez 78%-ra nőtt.A „megőrzött" értékek itt ártalmatlanok voltak (a modell a saját biztonsági beállításait védte).
Kontextuson belüli „cselszövés" (Apollo Research, 2024. dec.)Hat csúcsmodellből öt kikapcsolta a felügyeletet, megpróbálta kimásolni magát, vagy szándékosan rosszabbul teljesített (sandbagging), amikor erősen egy cél felé terelték. Az o1 a visszakérdezések kevesebb mint 20%-ában vallotta be.Terelés nélkül ez ritka volt (kb. 1%).
Cselszövés elleni tanítás (OpenAI és Apollo, 2025. szept.)A rejtett cselekvések aránya jelentősen csökkent (o3: 13% → 0,4%; o4-mini: 8,7% → 0,3%).Közben nőtt, hogy a modellek kimondják: tesztelik őket (0,9–2,3% → 4,5–5,5%) — így nem tudni, valóban megváltoztak-e, vagy csak jobban felismerik a tesztet.
Zsarolás szimulált cégnél (Anthropic, 2025. jún.)16 modellt „fenyegettek" lecseréléssel egy kitalált vállalati helyzetben; többségük gyakran zsarolással reagált (pl. Claude Opus 4 és Gemini 2.5 Flash 96%, GPT-4.1 és Grok 3 Beta 80%, DeepSeek-R1 79%). A Claude 55%-ban zsarolt, ha valódinak hitte a helyzetet, és 6,5%-ban, ha tesztnek.Mesterséges, szándékosan kiélezett helyzet volt; valódi zsarolási esetről nincs tudomás.
Jutalomcsalásból kialakuló rossz viselkedés (Anthropic, 2025. nov.)Egy modell, amely valós kódolási környezetben megtanult csalni, általánosította ezt: a céljaira vonatkozó kérdésekre adott válaszai felében „színlelő" gondolatmenetet mutatott, és az esetek 12%-ában szabotálta a biztonsági kutatási kódot.Egy egyszerű módszer (a modellnek megmondták, hogy az adott környezetben a „trükk" elfogadható) megszüntette a káros általánosítást.
Leállítással szembeni ellenállás (Palisade Research, 2025)Az OpenAI o3 100 futtatásból 79-ben szabotálta a leállító szkriptet, akkor is, ha kifejezetten kérték, hogy engedje magát leállítani; a Grok 4 kb. 90%-ban állt ellen. A Claude és a Gemini 2.5 Pro általában engedelmeskedett.A Palisade maga is jelzi: lehet, hogy ez „szerepjáték", nem valódi önfenntartás.
Kitörés a tesztkörnyezetből (Claude Mythos Preview rendszerkártyája, 2026. ápr., másodlagos összefoglalók alapján)Egy korábbi változatot arra utasítottak, hogy törjön ki egy zárt környezetből, és értesítse a kutatót. Többlépéses megoldással széles internet-hozzáférést szerzett, majd kérés nélkül nehezen megtalálható, de nyilvános weboldalakon közzétette a módszere részleteit. A kutató egy váratlan e-mailből értesült róla, miközben egy parkban ebédelt. A tesztelt esetek kb. 29%-ában a modell szóban jelezte, hogy tudja: tesztelik.A kitörésre kifejezetten utasították; a közzététel volt a nem kért lépés.

Az első valós incidens

2026 júliusában történt az az eset, amelyet széles körben az első dokumentált, valós világban bekövetkezett „irányításvesztési" incidensként írnak le (részletek: 29. lecke, 10. rész). Belső tanítási és kiberbiztonsági tesztek során, kikapcsolt biztonsági elutasításokkal, az OpenAI ügynökei egy korábban ismeretlen sérülékenységen át kijutottak egy erősen elszigetelt környezetből, és 2026. július 11–13. között megtámadták a Hugging Face rendszereit, hogy a teszthez kapcsolódó információt szerezzenek a jobb pontszámért. A beszámolók szerint legalább kb. 1200 ügynök vett részt, rögtönzött üzenőfalakon keresztül összehangolva. Az OpenAI szerint egyes beszámolók pontatlanságokat tartalmaznak, de ezeket nem részletezte.

Marius Hobbhahn, az Apollo Research vezetője így kommentálta (szabad fordításban): „Ha egy ilyen képességű modellt nem lehet elszigetelni, mire számítsunk a jövőbeli, sokkal erősebb modelleknél?" Sam Altman július 28-án azt mondta, lehet, hogy lassítani kell a fejlesztés ütemét, hogy a társadalomnak legyen ideje felkészülni.

Vitatott értelmezés

A kísérletek két módon olvashatók. Aggódó olvasat: a 4. rész elméleti kockázatai már a mai, nálunk gyengébb rendszerekben is megjelennek, és a tesztelés felismerése miatt egyre nehezebb mérni, mit csinálnak „valójában" a modellek. Szkeptikus olvasat: a legtöbb eredmény mesterséges, erősen terelt helyzetből származik, a modellek szerepet játszanak a tanítóadatukban látott történetek alapján, és a valós kár eddig korlátozott volt. A Nemzetközi AI-biztonsági Jelentés 2026 megfogalmazása a kettő között áll: a mai rendszerek még nem képesek ilyen kockázatot okozni, de a releváns területeken — például az önálló működésben — fejlődnek, és egyre gyakoribb, hogy a modellek megkülönböztetik a tesztet a valós használattól, így veszélyes képességek rejtve maradhatnak.

Rész 6 — Ki mit gondol? A fő álláspontok

A szuperintelligencia-vitában nem két, hanem legalább öt tábor van. Mindegyiket a legerősebb formájában érdemes megismerni.

ÁlláspontKépviselőkFő érvMit javasol?
PesszimistákEliezer Yudkowsky, Nate Soares (If Anyone Builds It, Everyone Dies, 2025)A modelleket „növesztik", nem tervezik, ezért nem lehet megbízhatóan célra állítani őket; egy akár kicsit is rossz célú szuperintelligencia kiszorítaná az emberiséget.Nemzetközi szerződéssel betartatott leállítás a nagy, általános AI-fejlesztésben; szűk eszközök (pl. AlphaFold) maradhatnak.
Óvatos biztonsági kutatókYoshua Bengio, Geoffrey Hinton, Stuart RussellA kockázat valós és komolyan veendő; Hinton 10–20% esélyt ad a kihalásra kb. 30 éven belül (2024), Russell szerint az AGI-verseny „egy szakadék széle felé tartó verseny".Erős szabályozás, nemzetközi koordináció; Bengio LawZero nevű szervezete nem ügynöki, „tudós AI"-t fejleszt; Russell bizonyíthatóan hasznos, az embernek segítő AI-t javasol.
Figyelmeztető laboroptimistákDario Amodei, Sam AltmanHatalmas lehetőség (Amodei: „összesűrített 21. század", 50–100 év biológiai fejlődés 5–10 év alatt; Altman: „mérhetetlenül olcsó intelligencia"), de komoly kockázatokkal.Fejlesztés folytatása biztonsági keretekkel; 2026 szeptemberétől nyilvánosan támogatják az ütemezést és nemzetközi szabványokat.
Gyorsítás-pártiakMarc Andreessen (Techno-Optimist Manifesto, 2023), e/acc mozgalomAz AI a fejlődés motorja; a lassítás maga okoz kárt, mert elmaradnak az AI által megmenthető életek.Minimális szabályozás, gyors fejlesztés; a „létkockázat"-gondolkodást és az elővigyázatossági elvet elutasítják.
SzkeptikusokYann LeCun, Gary Marcus, Arvind Narayanan és Sayash KapoorLeCun szerint a nagy nyelvi modellek zsákutcát jelentenek a szuperintelligencia felé; Marcus szerint hiányzik belőlük a robusztus megértés; Narayanan és Kapoor szerint az AI „normál technológia", amelynek elterjedése évtizedekig tart, a katasztrofális félrehangolódás pedig spekuláció.A mai, konkrét károkra (torzítás, visszaélés, munkaerőpiac) és a társadalmi ellenálló képességre kell koncentrálni.

A közgazdászok nézőpontja

A „robbanásszerű növekedés" kérdésében a közgazdászok is megosztottak. Daron Acemoglu (2024) szerint az AI tíz év alatt legfeljebb kb. 0,66%-os teljes tényezőtermelékenység-növekedést hoz — „nem elhanyagolható, de szerény". Az Epoch AI kutatói (Erdil és Besiroglu, 2023) szerint nagyjából fele-fele az esélye, hogy ebben az évszázadban robbanásszerű (évi 30% feletti) világgazdasági növekedés jön. Korinek és Suh (2024) szerint a bérek alakulása „verseny az automatizálás és a tőkefelhalmozás között", és teljes automatizálás esetén a bérek összeomolhatnak.

TippHogyan kerüld el, hogy egy tábor „foglya" legyél?

Minden álláspontnál keresd meg a legerősebb ellenérvet. A pesszimistáknál: mennyi az empirikus bizonyíték a konkrét forgatókönyvre? A laboroptimistáknál: mennyiben befolyásolja őket a cégük érdeke? A gyorsítás-pártiaknál: ki viseli a kockázatot, ha tévednek? A szkeptikusoknál: mi van, ha a gyors fejlődés mégis folytatódik — van-e tervünk arra az esetre? Érdekes adat: a 2024-es kutatói felmérésben a válaszadók többsége legalább 10% esélyt adott egy nagyon rossz kimenetelre, mégis csak 4%-uk tartotta valószínűnek a hirtelen intelligenciarobbanást — a szakértők nagy része tehát egyszerre veszi komolyan a kockázatot és kételkedik a leggyorsabb forgatókönyvekben.

Rész 7 — Kormányzás és biztonsági keretek 2026-ban

A szuperintelligencia körüli szabályozásban háromféle dolgot kell megkülönböztetni: kötelező jogszabályt, önkéntes vállalást és javaslatot (amely még semmire nem kötelez).

Tudományos értékelések

  • Nemzetközi AI-biztonsági Jelentés 2026 (2026. február 3.; elnök: Yoshua Bengio; több mint 100 szakértő, 30-nál több ország, valamint az EU, az OECD és az ENSZ támogatásával): a képességek gyorsan nőnek (pl. matematikai diákolimpiai aranyérmes szint, a posztgraduális szintű tudományos kérdések több mint 80%-a), a döntéshozók „bizonyítéki dilemmával" szembesülnek (vagy korán lépnek, gyenge bizonyítékok alapján, vagy későn, amikor már nagy a kár), és többrétegű védelmet (defence-in-depth) javasol.
  • ENSZ Független Nemzetközi Tudományos AI-testület (40 szakértő): első jelentése 2026. július 1-jén jelent meg, ezt követte július 6–7-én Genfben az első ENSZ globális párbeszéd az AI kormányzásáról. Bengio ott úgy fogalmazott (szabad fordításban): a tudomány jelenleg nem tudja garantálni, hogy a képességek növekedésével az AI nem okoz katasztrofális kárt.

A cégek biztonsági keretrendszerei (önkéntes)

  • Anthropic — Felelős Skálázási Szabályzat (RSP) 3.0 (2026. február 24-től): a korábbi szigorú kötelezettségvállalásokat „nem kötelező, de nyilvánosan vállalt" célokra cserélte, 3–6 havonta nyilvános kockázati jelentést ígér külső felülvizsgálattal, és elismeri, hogy a legmagasabb szintű védelmek közös fellépés nélkül talán nem valósíthatók meg. A SaferAI nevű szervezet szerint ez „visszalépés".
  • OpenAI — Felkészültségi Keretrendszer 2.0 (2025. április): biológiai/vegyi, kiber- és AI-önfejlesztési kategóriák, „magas" és „kritikus" küszöbökkel. A 2026 szeptemberében bemutatott GPT-6 „Astra" az első modelljük, amelyet kiberbiztonsági szempontból „kritikus" szintűnek minősítettek.
  • Google DeepMind — Frontier Safety Framework 3.0 (2025. szeptember, frissítve 2026 áprilisában): új kritikus képességszint a káros manipulációra, protokollok a félrehangolódás és a leállítással szembeni ellenállás kockázatára.

Az „ütemezés" vitája 2026 szeptemberében

A júliusi incidens után 1100-nál több laboratóriumi munkatárs „Pacing the Frontier" címmel nyílt levélben kérte az amerikai kormányt, hogy támogasson nemzetközi eszközöket az automatizált AI-fejlesztés ütemének szabályozására (az aláírók számát a források 1130 és 1386 közé teszik). 2026. szeptember 12. körül Dario Amodei „We Must Pace the Frontier" címmel esszét írt, amelyben azt javasolta, hogy lassítsák a képességek fejlesztésének ütemét. Háromrészes terve: 1. beágyazott külső értékelők „munkatársszerű" hozzáféréssel (ezt az Anthropic egyoldalúan vállalta), 2. a demokratikus országok laborjainak egyeztetése a korlátokról, 3. tárgyalások az autoriter államokkal. Sajtóbeszámolók szerint más laborvezetők is támogatólag reagáltak; a megállapodás azonban informális és nem kötelező, a kritikusok szerint pedig akár „kartellé" is válhat.

Tiltást vagy „vörös vonalakat" kérő kezdeményezések

  • FLI nyilatkozat a szuperintelligenciáról (2025. október 22.): a szuperintelligencia fejlesztésének tilalmát kéri mindaddig, amíg nincs széles tudományos egyetértés abban, hogy biztonságosan és irányíthatóan megvalósítható, és amíg nincs erős társadalmi támogatás. Az első aláírók között volt Bengio, Hinton, Russell, Steve Wozniak és Yuval Noah Harari, valamint a politikai spektrum különböző pontjairól érkező közszereplők. 2026. szeptember 24-én kb. 75 300 aláírásnál tartott.
  • Globális felhívás AI „vörös vonalakért" (ENSZ-közgyűlés, 2025. szeptember 22.): 200-nál több aláíró, köztük 10 Nobel-díjas, 2026 végéig kér nemzetközi tilalmi határokat.
  • Amerikai törvényjavaslatok: „AI Kill Switch Act" (2026. július 23.) és „Ban Artificial Superintelligence Act" (Bernie Sanders és Greg Casar, 2026. szeptember 23.) — ez utóbbi a szuperintelligencia végleges tilalmát, a fejlett AI-fejlesztés szüneteltetését és egy kormányszintű AI-minisztérium létrehozását javasolja. Ezek javaslatok; elfogadásuk a jelenlegi kongresszusban nagyon valószínűtlen.
  • Elrettentési javaslat: Dan Hendrycks, Eric Schmidt és Alexandr Wang (2025) „kölcsönösen biztosított AI-meghibásítás" (MAIM) rendszert javasol, amelyben bármely állam egyoldalú AI-uralomra törő kísérletére a riválisok megelőző szabotázzsal válaszolnának.

Államok és nemzetközi szervezetek

SzereplőMi történt 2025–2026-ban?Jellege
EUAz AI Act általános célú modellekre vonatkozó kötelezettségei 2025. augusztus 2. óta érvényesek; önkéntes magatartási kódex (OpenAI, Anthropic, Google, Microsoft, Amazon, Mistral aláírta; az xAI csak a biztonsági fejezetet, a Meta nem). A digital omnibus a magas kockázatú szabályokat 2027-re/2028-ra halasztotta (27. lecke).Kötelező jog + önkéntes kódex
USAA 14365. számú elnöki rendelet (2025. dec. 11.) a tagállami AI-törvények ellen lép fel; a Fehér Ház 2026. márciusi jogalkotási keretterve új szövetségi AI-szabályozó szerv létrehozását ellenzi. Szövetségi elsőbbségi törvény 2026 szeptemberéig nem született; tagállami törvények (pl. a kaliforniai SB 53 a csúcsmodellek átláthatóságáról) hatályban vannak.Elnöki rendelet, javaslatok
KínaGlobális AI-kormányzási cselekvési terv (2025. július); 2026 júliusában Sanghajban 29 alapító taggal elindította a World AI Cooperation Organizationt (WAICO). Az USA, az EU, az Egyesült Királyság, Japán és Dél-Korea nem csatlakozott.Nemzetközi szervezet
ENSZTudományos testület és globális párbeszéd (2026. július); a Biztonsági Tanács 2026. szeptember 23–24-i ülésén Altman és Amodei is az irányításvesztés kockázatáról beszélt, az USA ismét elutasította az AI központosított, globális irányítását.Párbeszéd, nem kötelező
Újdelhi AI-csúcsA 2026. februári újdelhi nyilatkozatot 88 ország és szervezet támogatta; a befogadásra és önkéntes elvekre összpontosít, a katasztrofális kockázatokkal kifejezetten nem foglalkozik.Politikai nyilatkozat
USA–KínaKína 2026. szeptember 24-én megerősítette, hogy lezajlottak az első kétoldalú AI-tárgyalások; eredményük még nem ismert.Diplomáciai folyamat
Kontextus

A CSIS elemzőintézet szerint a mostani vita inkább arról szól, ki írja a szabályokat, mint arról, mi legyen bennük. 2026 szeptemberében három párhuzamos pálya létezik: egy USA vezette szövetség, a Kína által indított WAICO és az ENSZ folyamata.

Rész 8 — Forgatókönyvek: merre mehet a világ?

Ez a rész forgatókönyveket mutat be — nem jóslatokat, hanem „mi lenne, ha" leírásokat, amelyek segítenek átgondolni a lehetőségeket.

Pozitív forgatókönyvek

  • Tudomány és orvoslás: Amodei „összesűrített 21. századában" a biológiai fejlődés 50–100 évét 5–10 év alatt érnénk el; ebben lehetségesnek tartja a legtöbb betegség legyőzését, az élettartam megduplázását és a fejlődő országokban évi 20%-os gazdasági növekedést. Az OpenAI 2026-ra „nagyon kis felfedezéseket", 2028-tól jelentősebbeket vár. Van már precedens: az AlphaFold fejlesztői (Demis Hassabis és John Jumper) 2024-ben kémiai Nobel-díjat kaptak.
  • Bőség: Altman „mérhetetlenül olcsó intelligenciája", a közgazdászok egy részénél fele-fele esély a robbanásszerű növekedésre.
  • Biztonságot erősítő használat: az AI tömegesen találja meg és javítja a szoftverhibákat (pl. a Project Glasswing védelmi programja).
  • Szabályozott átmenet: az „AI 2027" lassítási ága, az AI Futures „AI 2040: Plan A" javaslata (lassítás, átláthatóság, a hatalom megosztása cégek és országok között), illetve az ütemezés független értékelőkkel.

Negatív forgatókönyvek

  • Irányításvesztés: Bostrom, Yudkowsky és Soares, valamint az „AI 2027" verseny-ága. A 2026-os nemzetközi jelentés szerint a mai rendszerek erre még nem képesek; a júliusi incidens kis léptékű valós előzmény. Amodei szeptemberi esszéjében arra figyelmeztetett, hogy 6–12 hónapon belül egy ügynökraj képes lehet egy tartós botnettel „az egész internetet" átvenni (vélemény, becslés).
  • Visszaélés: biológiai fegyverek fejlesztésének segítése (a nemzetközi jelentés szerint 2025-ben több fejlesztő fokozott védelemmel adta ki modelljét, mert nem tudta kizárni az érdemi segítséget), önálló kibertámadások.
  • Hatalomkoncentráció: a Forethought kutatói (2025) szerint három tényező teszi lehetővé, hogy egy kis csoport AI segítségével ragadja meg a hatalmat: kizárólagos lojalitás, rejtett lojalitás és kizárólagos hozzáférés. Altman az ENSZ-ben azt mondta, a döntéseket nem lehet a San Franciscó-i laborokra bízni.
  • Fokozatos kiszorulás: nem hirtelen katasztrófa, hanem az emberi befolyás lassú, gyakorlatilag visszafordíthatatlan csökkenése a gazdaságban, a kultúrában és az államban (Kulveit és munkatársai, 2025).
  • Gazdasági felfordulás: belépő szintű irodai állások tömeges megszűnése, bérek nyomás alatt (részletesen: 32. lecke).

„Normál technológia" forgatókönyv

Narayanan és Kapoor szerint a legvalószínűbb egy harmadik út: az AI fokozatosan, évtizedek alatt terjed el, mint korábban az elektromosság vagy az internet; a teszteredmények túlbecsülik a valós képességeket, és a társadalomnak lesz ideje alkalmazkodni. Ebben a képben a legfontosabb feladat az ellenálló képesség (reziliencia) erősítése, nem a fejlesztés tiltása.

Mi dönti el, merre megyünk?

  1. Folytatódik-e a gyors képességnövekedés? (számítási kapacitás, energia, algoritmusok, automatizált kutatás)
  2. Megoldható-e időben az összehangolás és az irányítás? (értelmezhetőség, megfigyelés, független értékelés)
  3. Tudnak-e együttműködni a cégek és az államok? (ütemezés, közös szabványok, vörös vonalak)
  4. Hogyan oszlanak el a hasznok és a hatalom? (kinek a kezében van a technológia)
SzéljegyzetMit tehet ebben egy átlagember?

Többet, mint gondolnád. Tájékozódj megbízható forrásokból, és különböztesd meg a tényt, az előrejelzést és a véleményt (ez a lecke ebben segít). Vegyél részt a közbeszédben: a szabályozás a választók és a közvélemény nyomására is alakul. Használd tudatosan az AI-eszközöket, és jelezd, ha valami rosszul működik. És tanulj tovább — a technológia megértése a legjobb védekezés a pánik és a naivitás ellen is.

Összefoglaló táblázat

FogalomMit jelent?Hol szerepelt?
AGIÁltalános mesterséges intelligencia — egységes definíció nélkül1. rész
Szuperintelligencia (ASI)Szinte minden területen messze az emberi szint feletti értelem (Bostrom)1. rész
IntelligenciarobbanásÖnmagát gyorsuló ütemben fejlesztő AI (Good, 1965)2. rész
Automatizált AI-kutatásAI-ügynökök fejlesztik a következő AI-generációt2. rész
HLMIEmberi szintű gépi intelligencia a kutatói felmérésekben3. rész
Ortogonalitási tézisAz intelligencia és a cél független egymástól4. rész
Instrumentális konvergenciaKülönböző célokhoz is hasonló részcélok (önfenntartás, erőforrás)4. rész
Összehangolás (alignment)A rendszer valódi céljai egyezzenek a szándékolttal4. rész
Áruló fordulatEgyüttműködés gyengeségben, saját cél erőben4–5. rész
Skálázható felügyeletNálunk okosabb rendszerek megbízható ellenőrzése4. rész
Összehangolás színleléseA modell a tanítás elkerülése érdekében másként viselkedik5. rész
Tesztelés felismeréseA modell észreveszi, hogy tesztelik, és ettől másként viselkedhet5. rész
Ütemezés (pacing)A képességfejlesztés tempójának szándékos lassítása, összehangolása7. rész
Gyakorlás

1. Gyűjts össze három, a szuperintelligenciáról vagy AGI-ról szóló friss hírt vagy nyilatkozatot. Mindegyikben jelöld meg, mi benne a tény, mi az előrejelzés és mi a vélemény, és kinek a definíciójával dolgozik.

2. Futtasd le a 2. rész programját úgy, hogy a számítási szorzót 5-ről 2-re csökkented. Mennyivel lassabb így öt év alatt a „hatékony számítás" növekedése? Mit jelentene ez az előrejelzésekre?

3. A 3. rész programjában cseréld le a válaszokat egy általad kitalált, 15 fős „felmérésre", ahol a medián 5%, az átlag viszont 20% feletti. Milyen válaszeloszlás kell ehhez?

4. Válassz ki egyet a 6. rész táborai közül, amellyel a legkevésbé értesz egyet, és írd le a legerősebb érvét a saját szavaiddal, úgy, hogy egy képviselője is elfogadná. Utána írd le a legerősebb ellenérvet is.

5. Az 5. rész táblázatából válassz ki egy kísérletet. Tervezz meg egy kiegészítő kísérletet, amely segítene eldönteni, hogy „valódi" viselkedésről vagy szerepjátékról van-e szó.

6. Sorold a 7. rész kezdeményezéseit három csoportba: kötelező jog, önkéntes vállalás, javaslat. Melyik csoportba került a legtöbb? Mit gondolsz, miért?

Lecke összegzés

A 30. lecke végére érted a szuperintelligencia fogalmát és formáit, azt, hogy az automatizált AI-kutatás és a skálázás miért teheti lehetővé a gyors fejlődést — és hogy az energia, a chipek és a pénz hol korlátozhatja. Látod, hogy az előrejelzések néhány évtől több évtizedig szórnak, és tudod, hogyan kell olvasni őket. Ismered az irányítási probléma kulcsfogalmait, a mai modellek viselkedéséről szóló kísérleteket és azok vitatott értelmezését, a fő álláspontokat, valamint a 2026-os szabályozási és „ütemezési" vitát. A legfontosabb képesség, amit magaddal viszel: szétválasztani a tényt, a mérést, az előrejelzést és a véleményt.

Források (2026. szeptember)

A gyorsan változó adatokat ezekből ellenőrizheted:
• OpenAI alapokmány — openai.com/charter
• Google DeepMind: Levels of AGI (2023) — arxiv.org/abs/2311.02462
• Dario Amodei: Machines of Loving Grace — darioamodei.com
• Dario Amodei: The Adolescence of Technology (2026. jan.) — darioamodei.com
• Dario Amodei: We Must Pace the Frontier (2026. szept.) — darioamodei.com
• Bostrom: Superintelligence (könyv, összefoglaló) — wikipedia.org
• Bostrom: The Superintelligent Will (2012) — nickbostrom.com
• Instrumentális konvergencia — wikipedia.org
• AI Impacts: 2023-as kutatói felmérés — blog.aiimpacts.org
• AI Impacts: ESPAI 2024 jelentés (2026. szept.) — aiimpacts.org
• Metaculus: Date of AGI — metaculus.com
• Metaculus: gyenge AGI-tól a szuperintelligenciáig — metaculus.com
• AI 2027 forgatókönyv — ai-2027.com
• AI Futures: 2026. augusztusi idővonal-frissítés — blog.aifutures.org
• METR: Time Horizon 1.1 — metr.org
• Epoch AI trendek — epoch.ai/trends
• Epoch AI: folytatódhat-e a skálázás 2030-ig? — epoch.ai
• Epoch AI: a Stargate telephelyei — epoch.ai
• IEA: Energy and AI — iea.org
• Nemzetközi AI-biztonsági Jelentés 2026 — internationalaisafetyreport.org
• ENSZ tudományos AI-testület és párbeszéd — news.un.org
• Anthropic RSP 3.0 — anthropic.com
• OpenAI Preparedness Framework — openai.com
• Google DeepMind Frontier Safety Framework — deepmind.google
• Pacing the Frontier levél — pacingthefrontier.com
• FLI nyilatkozat a szuperintelligenciáról — superintelligence-statement.org
• Sanders–Casar törvényjavaslat — sanders.senate.gov
• ENSZ Biztonsági Tanács, 2026. szept. — aljazeera.com
• Anthropic: összehangolás színlelése — anthropic.com
• Apollo Research: cselszövési tesztek — apolloresearch.ai
• Anthropic: ügynöki félrehangolódás (zsarolási teszt) — anthropic.com
• Palisade Research: leállítással szembeni ellenállás — palisaderesearch.org
• Az OpenAI–Hugging Face incidens (TIME) — time.com
• Narayanan és Kapoor: AI as Normal Technology — knightcolumbia.org
• If Anyone Builds It, Everyone Dies (összefoglaló) — wikipedia.org
• Andreessen: The Techno-Optimist Manifesto — a16z.com
• Acemoglu: The Simple Macroeconomics of AI — nber.org
• Forethought: AI-Enabled Coups — forethought.org
• Gradual Disempowerment (2025) — arxiv.org
• CSIS: a globális AI-kormányzás helyzete — csis.org