Új lapon nyílik meg
Illusztráció – AI-val készült

AI dezinformációs kampány: OpenAI leállított 2 műveletet

Az OpenAI bejelentése szerint két mesterséges intelligenciával támogatott befolyásolási műveletet állított le, amelyek hamis újságírókat és egy álkutatóintézetet használtak geopolitikai üzenetek terjesztésére.

Az OpenAI október 8-án tette közzé, hogy két AI-alapú dezinformációs kampányt sikerült felszámolnia, amelyek hamis identitásokat használtak politikai üzenetek terjesztésére. A befolyásolási műveletek (influence operations) olyan koordinált kampányok, amelyek célja a közvélemény manipulálása, gyakran rejtett vagy megtévesztő módszerekkel. Az OpenAI szerint ezek a kampányok mesterséges intelligencia eszközöket használtak a tartalom előállításához és a hitelesség látszatának megteremtéséhez.

Hamis újságírók és álkutatóintézet

A két AI dezinformációs kampány közös jellemzője, hogy úgynevezett "false front" (hamis homlokzat) technikát alkalmaztak. Ez azt jelenti, hogy valódinak tűnő újságírói profilokat és egy kutatóintézetet hoztak létre, amelyek mögött valójában nem valós személyek vagy szervezetek álltak. Ezek a hamis identitások geopolitikai témákban foglaltak állást és terjesztettek tartalmakat, miközben igyekeztek elrejteni valódi céljaikat és forrásaikat.

Az ilyen műveletek veszélyessége abban rejlik, hogy a mesterséges intelligencia segítségével könnyen lehet nagy mennyiségű, meggyőzőnek tűnő tartalmat előállítani. A nyelvi modellek képesek természetes hangvételű szövegeket generálni, ami megnehezíti a felismerést. Az OpenAI nem közölt részletes információkat arról, hogy pontosan milyen geopolitikai üzeneteket terjesztettek ezek a kampányok, vagy hogy mely országokhoz vagy csoportokhoz köthetők.

Hogyan derült ki a manipuláció?

Az OpenAI biztonsági csapata folyamatosan figyeli, hogy platformjait hogyan használják, és igyekszik felismerni a visszaéléseket. A vállalat korábbi bejelentéseiben is beszámolt már hasonló esetekről, amikor AI-eszközöket próbáltak meg dezinformációs célokra felhasználni. A felderítés általában mintázatok felismerésén alapul: ha egy fiók vagy fiókcsoportok gyanúsan koordinált módon viselkednek, vagy nagy mennyiségű, hasonló stílusú tartalmat állítanak elő, az figyelmet kelthet.

A hamis újságírói profilok és az álkutatóintézet valószínűleg azért tűntek fel, mert tevékenységük nem illeszkedett a normális felhasználói viselkedéshez. Az AI-generált tartalmak esetében néha nyelvi vagy stilisztikai jellemzők is árulkodóak lehetnek, bár a modellek egyre jobbak lesznek a természetes szövegalkotásban.

Mit jelent ez a dezinformáció elleni harcban?

Az AI dezinformációs kampányok felszámolása fontos lépés, de egyben figyelmeztetés is: a mesterséges intelligencia eszközök egyre könnyebben elérhetők, és rosszindulatú szereplők is használhatják őket. A befolyásolási műveletek hagyományosan sok emberi erőforrást igényeltek, de az AI-modellek lehetővé teszik, hogy kisebb csapatok is nagy léptékű kampányokat indítsanak.

Az OpenAI lépése rámutat arra, hogy az AI-fejlesztőknek felelősséget kell vállalniuk eszközeik visszaélésszerű használatának megakadályozásáért. A vállalat korábban is bevezette a használati feltételek szigorítását és a monitoring rendszereket, hogy csökkentse a visszaélések kockázatát. Ugyanakkor a dezinformáció elleni küzdelem nem csak technológiai kérdés: a felhasználóknak is kritikusan kell értékelniük az online tartalmakat, és figyelniük kell a források hitelességére.

Mit jelent ez neked?

Ha AI-t tanulsz vagy használsz, tudnod kell, hogy ezek az eszközök nemcsak hasznos dolgokra alkalmasak, hanem visszaélésre is. A dezinformációs kampányok azt mutatják, hogy a nyelvi modellek képesek meggyőző, de hamis tartalmakat előállítani, és ezt politikai manipulációra is fel lehet használni. Fontos, hogy tisztában legyél ezekkel a kockázatokkal, és felelősen használd az AI-eszközöket.

Kapcsolódó lecke: Etika, jog, AI Act →

Forrás: OpenAI – Disrupting AI-enabled “false front” operations

Megosztás:FacebookLinkedInX

További hírek

Az összes AI-hír →