ChatGPT vízjel EU-ban: OpenAI indítja a textGrain-t
Az OpenAI láthatatlan vízjelet épít be a ChatGPT és a Codex által generált szövegekbe az Európai Unióban, hogy megfeleljen az EU mesterségesintelligencia-törvényének.
Az OpenAI bejelentése szerint a ChatGPT vízjel EU-ban hamarosan minden felhasználónál megjelenik, aki a ChatGPT-t vagy a Codex nevű kódgeneráló eszközt használja. A TechCrunch beszámolója alapján a vízjel bevezetése az EU AI Act, vagyis az Európai Unió mesterségesintelligencia-törvényének átláthatósági szabályai miatt szükséges, amelyek augusztus 2-án léptek hatályba. A szabályozás előírja, hogy az AI-cégeknek úgy kell megjelölniük a mesterséges intelligencia által készített tartalmat, hogy más rendszerek is fel tudják ismerni azt.
A vízjel nem egy látható szimbólum vagy jel, hanem egy láthatatlan mintázat, amely a szövegben rejlik. A technológia úgy működik, hogy finoman befolyásolja a modell szóválasztását: apró, emberi szemmel nem látható eltéréseket hoz létre a szavak sorrendjében és megválasztásában. Ezeket az eltéréseket egy speciális detektor (felismerő eszköz) képes azonosítani, így meg lehet állapítani, hogy a szöveget AI generálta-e. Mivel a mintázat magában a szövegben van, másolás és beillesztés után is megmarad.
A textGrain módszer működése
Az OpenAI által kifejlesztett módszer neve textGrain. A cég egy technikai jelentést is közzétett a módszerről, amelyet a Pennsylvaniai Egyetem és a Yale kutatóival közösen készítettek. A rendszer egy titkos kulcs segítségével rendezi sorba a következő szó lehetséges választásait, és ezzel finoman alakítja a mondatokat. Több száz ilyen apró beavatkozás együtt olyan mintázatot hoz létre, amelyet a detektor csak a szöveg és a kulcs ismeretében tud felismerni. A vízjel nem azonosítja a felhasználót, és az OpenAI szerint nem befolyásolja érdemben a modellek teljesítményét sem.
A ChatGPT vízjel EU-ban az elkövetkező hetekben jelenik meg minden előfizetési csomagban, de egyelőre csak az unióban. Az OpenAI API-ját (programozási felületét) használó fejlesztők világszerte bekapcsolhatják a vízjelet bizonyos modelleknél, de alapértelmezés szerint ki van kapcsolva. A cég egyelőre nem tervezi, hogy globálisan kötelezővé teszi a szövegvízjelzést.
Mennyire megbízható a vízjel?
Az OpenAI tesztjei szerint a vízjel eltávolítható szerkesztéssel. Egy kísérletben, amikor a szavak 10 százalékát szinonimákra cserélték, a felismerési arány 92 százalékról 66 százalékra esett vissza. A cég azt is közölte, hogy rövid szövegrészletek, matematikai válaszok és lefordított szövegek esetében nehezebb a vízjel felismerése. Ezek a korlátok hozzájárultak ahhoz, hogy az OpenAI a detektort egyelőre csak jóváhagyott kutatóknak és szakértői szervezeteknek adja ki, akik segíthetnek értékelni a megbízhatóságot és a felelős felhasználást.
Az OpenAI arra is figyelmeztet, hogy a vízjel hiánya nem bizonyítja, hogy a szöveget ember írta. A szöveg lehet túl rövid, túlságosan szerkesztett, vagy származhat egy másik cég mesterségesintelligencia-rendszeréből is. A cég szerint a vízjel jelezheti, hogy egy OpenAI-rendszer generálta vagy feldolgozta a szöveg egy részét, de nem mutatja meg, mennyi emberi ítélőképesség, szerkesztés vagy kreativitás került bele.
Miért most jön a vízjel?
A bejelentés két hónappal azután érkezik, hogy az Anthropic bejelentette: vízjelet ad a Claude nevű chatbot által generált szövegekhez, méghozzá világszerte. Ez a döntés visszatetszést váltott ki egyes Claude-felhasználókból, akik azzal érveltek, hogy ők adták az utasításokat, a kontextust és a döntéseket, a Claude pedig csak egy eszköz volt. Az OpenAI korábban már kifejlesztett egy szövegvízjelet, de nem vezette be, részben amiatt aggódva, hogy a felhasználók olyan versenytársakhoz váltanának, amelyek nem jelölik meg a szöveget – erről a Wall Street Journal számolt be 2024-ben.
Az Anthropic, a Google, a Meta, a Microsoft és az OpenAI is aláírta az EU mesterségesintelligencia-tartalmakra vonatkozó magatartási kódexét. A ChatGPT vízjel EU-ban való bevezetése ennek a kötelezettségvállalásnak a része, és várhatóan más cégek is hasonló lépéseket tesznek a közeljövőben.
Ha te is ChatGPT-t használsz az EU-ban, hamarosan minden általa írt szövegbe beépül egy láthatatlan vízjel, ami jelzi: ezt AI készítette. Ez nem változtat a minőségen, de segít megkülönböztetni az emberi és a gépi szöveget. Fontos tudni, hogy a vízjel nem tökéletes: szerkesztéssel gyengíthető, és rövid szövegeknél kevésbé működik.
Forrás: TechCrunch – OpenAI will start watermarking ChatGPT’s text in the EU · The Verge – OpenAI is adding text watermarking in ChatGPT and Codex · OpenAI – Our approach to EU text provenance rules
