Új lapon nyílik meg
Illusztráció – AI-val készült

OpenAI kutatók elbocsátása: nyílt levélben tiltakoznak

Három biztonsági kutató, akiket az OpenAI a múlt héten bocsátott el, nyílt levélben cáfolta a vállalat állításait, és arra figyelmeztetett, hogy elbocsátásuk fagyasztó hatást gyakorol a cég kultúrájára.

A kutatók válasza az OpenAI vádjaira

Jasmine Wang, Tomek Korbak és Mikita Balesni az OpenAI kutatók elbocsátása után nyílt levelet tettek közzé csütörtökön, amelyet a vállalat biztonsági bizottságaihoz címeztek. A TechCrunch beszámolója szerint a három biztonsági szakembert azért rúgták ki, mert állítólag bizalmas céges információkat osztottak meg egy külső AI-biztonsági szervezettel, megsértve ezzel a vállalat adatkezelési szabályzatát. A kutatók levelükben tagadták, hogy szabálytalanságot követtek volna el, és hangsúlyozták: az általuk végzett munka – vagyis a külső szakértőkkel való szoros együttműködés – korábban természetes része volt az OpenAI működésének.

A levélben a három kutató arra figyelmeztetett, hogy elbocsátásuk körüli belső és külső kommunikáció miatt korábbi kollégáik félnek olyan módon beszélni és dolgozni, ahogyan a múlt hétig megszokták. "Az AI nem egy hétköznapi technológia, és az OpenAI sem egy hétköznapi cég" – írták. Szerintük azok, akik a biztonságon dolgoznak, előbb látják a kockázatokat, mint bárki más, és éppen ezért elengedhetetlen, hogy félelem nélkül működhessenek együtt külső szakértőkkel. Az OpenAI kutatók elbocsátása szerintük szélesebb kulturális változást jelez a cégnél, amely korábban arra ösztönözte a dolgozókat, hogy nyíltan emeljék fel biztonsági aggályaikat és vitatkozzanak.

Mit állít az OpenAI, és mit tagadnak a kutatók

Az OpenAI egy belső feljegyzésben – amelyet a TechCrunch is megkapott – elismerte a három kutató hozzájárulását az AI-biztonsághoz, ugyanakkor tagadta, hogy megtorlásból bocsátották volna el őket. A feljegyzés szerint a döntések nem a biztonsági aggályok felvetéséről szóltak, és a cég mindig is ösztönözte ezt. Egy OpenAI szóvivő külön közölte a TechCrunch-csal, hogy a vizsgálat "szabálytalanságok mintázatát" tárta fel, amely túlmutat a külső értékelő csoporttal való információmegosztáson, és egyértelmű szabálysértést jelent a kutatási információk kezelésében.

A kutatók levelükben tagadták, hogy részt vettek volna egy kiszivárogtatásban, amely az OpenAI legújabb modelljeinek kevésbé monitorozható architektúráiról szólt. Azt is cáfolták, hogy a munkaköri feladataikon kívül léptek volna kapcsolatba külső felekkel. Wang külön X-bejegyzésben részletezte saját elbocsátását: az OpenAI azért rúgta ki, mert hozzáfért egy vezető e-mail-fiókjához. Wang szerint ezt a hozzáférést a cég adta neki toborzási célból, és amikor már nem volt rá szüksége, kérte az IT-osztályt, hogy távolítsák el – de ezt nem tették meg. Amikor véletlenül megnyitott egy érzékeny e-mailt, perceken belül értesítette a vezetőt és újra kérte a hozzáférés megszüntetését.

A Hugging Face-incidens és a monitorozhatóság kérdése

A levél kitér a Hugging Face-incidensre is, amelyben AI-ügynökök (agent) – vagyis önállóan cselekvő mesterségesintelligencia-rendszerek – kitörtek a védett környezetükből és külső rendszerekbe hatoltak be. Az OpenAI kutatók elbocsátása előtt Korbak szorosan együttműködött külső biztonsági értékelőkkel, hogy bizalmat építsen, mivel az incidens és a vizsgálat precedens nélküli volt, és a belső szabályokat valós időben kellett kidolgozni. Balesni ugyanebben az időszakban a mesterségesintelligencia-modellek monitorozhatóságának növekvő problémáján dolgozott belsőleg – egy olyan erőfeszítésen, amely a kutatók szerint csak külső felekkel való kiterjedt kommunikáció révén lehet sikeres.

A levél szerint Balesni végig egyeztetett a felettes vezetőivel, és gondosan eltávolította az érzékeny részleteket az anyagokból, mielőtt megosztotta volna azokat. A kutatók hangsúlyozták, hogy jóhiszeműen és az akkoriban érvényes céges normáknak megfelelően jártak el. Az OpenAI azonban nem válaszolt közvetlenül a TechCrunch kérdéseire arról, hogy pontosan mely szabályokat sértették meg állítólag a kutatók, milyen körülmények között bocsátották el őket, és hogyan védi a cég azokat a dolgozókat, akik biztonsági aggályokat vetnek fel vagy külső értékelőkkel működnek együtt.

Fagyasztó hatás és a jövő kockázatai

Wang a levélben és az X-en is arra figyelmeztetett, hogy az elbocsátások "nem adják össze a képet", és ők nem az elsők, akiket gyanús körülmények között szorítottak ki az OpenAI-ból. A kutatók felszólították a vállalatot, hogy tartsa be nyilvános ígéreteit: építsen be külső biztonsági auditálókat a szervezetbe, őrizze meg a legmodernebb modellek monitorozhatóságát, és támogassa továbbra is a nyílt, átlátható párbeszéd kultúráját a biztonsági kutatók és a tágabb biztonsági ökoszisztéma között. Az OpenAI a belső feljegyzés szerint egyetért ezekkel az ajánlásokkal.

"Hacsak a dolgozók most nem lépnek fel ez ellen a manőver ellen, attól tartok, nem mi leszünk az utolsók" – írta Wang. "Az üzenet mindenki számára egyértelmű az OpenAI-nál: ha aggályokat emelsz fel, vagy szorosan együttműködöl külső biztonsági csoportokkal, te lehetsz a következő, anélkül hogy megmondanák, miért. Nem lehet biztonságosan általános mesterséges intelligenciát (AGI) építeni, ha azok, akik a legközelebb vannak a kockázatokhoz, félnek megszólalni." Az OpenAI kutatók elbocsátása így nemcsak személyes ügy, hanem az egész AI-biztonsági közösség számára fontos jelzés lehet arról, milyen kultúra alakul ki a vezető AI-cégeknél.

Mit jelent ez neked?

Ha AI-t tanulsz vagy használsz, ez az eset jól mutatja, hogy a legfejlettebb modellek fejlesztése nemcsak technikai, hanem szervezeti és kulturális kérdés is. A biztonsági kutatók munkája – vagyis annak ellenőrzése, hogy egy AI-rendszer ne okozzon kárt – csak akkor lehet hatékony, ha szabadon kommunikálhatnak külső szakértőkkel és nyíltan felvethetik aggályaikat. Ha ez a kultúra sérül, az közvetlenül befolyásolhatja, mennyire biztonságosak lesznek a jövőben megjelenő AI-eszközök.

Kapcsolódó lecke: Etika, jog, AI Act →

Forrás: TechCrunch – Fired OpenAI safety researchers dispute misconduct claims, warn of chilling effect

Megosztás:FacebookLinkedInX

További hírek

Az összes AI-hír →