Google bug bounty program felfüggesztve AI-beadványok miatt
A Google felfüggesztette nyílt forráskódú bug bounty programját 2027 első negyedévéig, miután az automatizált, mesterséges intelligencia által generált beadványok száma jelentősen megnőtt.
A Google bug bounty programja október 1-jétől szünetel, miután a vállalat „jelentős növekedést" tapasztalt az automatizált beadványokban, amelyek túlnyomó többsége érvénytelen volt. A TechCrunch beszámolója szerint a cég az Open Source Software Vulnerability Rewards Program (Nyílt Forráskódú Szoftver Sebezhetőségi Jutalom Program) keretében jutalmazza azokat a kutatókat, akik biztonsági réseket találnak a Google nyílt forráskódú szoftvereiben. A program felfüggesztése jól mutatja, hogy az AI-eszközök elterjedése nemcsak lehetőségeket, hanem komoly kihívásokat is teremt a kiberbiztonság területén. Mi az a bug bounty program? A bug bounty (hibavadász) programok olyan kezdeményezések, amelyekben a technológiai cégek pénzjutalmat kínálnak azoknak a biztonsági kutatóknak, akik szoftverükben hibákat, sebezhetőségeket találnak és jelentenek. Ez egy win-win helyzet: a kutatók pénzt kereshetnek, a cégek pedig olcsóbban és hatékonyabban javíthatják ki a biztonsági réseket, mielőtt azokat rosszindulatú támadók kihasználnák. A Google több ilyen programot is működtet, de most kifejezetten a nyílt forráskódú projektekre vonatkozó kezdeményezést kellett leállítania.", "A Tom's Hardware információi szerint a Google mérnökeit és a nyílt forráskódú karbantartókat elárasztották az érvénytelen jelentések, amelyek sok esetben AI-hallucinációkat tartalmaztak. A hallucinációk olyan jelenségek, amikor a mesterséges intelligencia valótlan információkat állít, olyan hibákról számol be, amelyek valójában nem léteznek. Ez komoly terhet ró a szakemberekre, akiknek minden bejelentést át kell nézniük és ellenőrizniük kell. Az AI-slop veszélye a Google bug bounty rendszerében Már 2025-ben figyelmeztettek kiberbiztonsági szakértők arra, hogy az AI-slop – vagyis az alacsony minőségű, automatikusan generált tartalom – komoly kockázatot jelent a bug bounty programokra nézve. A Google esetében ez a figyelmeztetés valósággá vált. Az automatizált eszközök képesek tömegesen generálni sebezhetőségi jelentéseket, de ezek minősége gyakran megkérdőjelezhető, és a valódi biztonsági problémák felkutatása helyett csak zajt keltenek a rendszerben.", "A vállalat X-en és a program hivatalos weboldalán tett bejelentésében ígéretet tett arra, hogy 2027 első negyedévében frissítést ad a program jövőjéről. Addig is arra biztatja a résztvevőket, hogy vegyék fontolóra a Google egyéb bug bounty programjait, amelyek továbbra is működnek. Ez azt jelenti, hogy a cég nem mondott le teljesen a közösségi hibavadászatról, csupán időt szeretne nyerni, hogy megoldást találjon az AI-generált beadványok problémájára. Miért fontos ez a biztonsági kutatóknak? A Google bug bounty program felfüggesztése nemcsak a vállalatot érinti, hanem a biztonsági kutatók közösségét is. Sokan számítanak ezekre a programokra mint jövedelemforrásra vagy szakmai elismerésre. Az AI-eszközök tömeges használata azonban aláássa a rendszer működését: ha a valódi, értékes munkát elveszti a sok automatizált, értéktelen beadvány között, akkor a kutatók motivációja is csökkenhet. A helyzet rávilágít egy szélesebb problémára is: ahogy az AI-eszközök egyre elérhetőbbé válnak, egyre több területen jelentkeznek visszaélések és minőségi problémák. A bug bounty programok esetében a megoldás valószínűleg szigorúbb szűrési mechanizmusok bevezetése lesz, amelyek képesek megkülönböztetni az emberi szakértők által készített jelentéseket az automatizáltan generáltaktól. A Google 2027-es frissítése várhatóan ilyen intézkedéseket fog tartalmazni.
Ha AI-t tanulsz vagy használsz, ez a hír jól mutatja, hogy az automatizálás nem mindig jelent előrelépést. Az AI-eszközök képesek tömegesen generálni tartalmat, de ha az minőségtelen, akkor több kárt okoznak, mint hasznot. A Google esete figyelmeztetés: a felelős AI-használat nemcsak etikai, hanem gyakorlati kérdés is.
