35. lecke
Gyakorlati projekt: saját chatbot építése API-val
Ebben a projektleckében összerakod mindazt, amit a nyelvi modellekről (17.), a promptolásról (26.), az éles üzemeltetésről (25.), a jogról (27.), a költségekről (28.) és a RAG-ról (33.) tanultál: megtervezel és megépítesz egy egyszerű ügyfélszolgálati chatbotot, amely egy nagy nyelvi modellt API-n keresztül használ. Megnézzük, hogyan működik egy API-hívás, hogyan kezeld a beszélgetés előzményeit, a költségeket, a biztonságot, és hogyan teszteld a botot, mielőtt élesbe kerül.
- A terv: mit tudjon a chatbot?
- Az első API-hívás
- Beszélgetés, védőkorlát, költség
- Tudás hozzáadása RAG-gal
- Biztonság, adatvédelem, jog
- Tesztelés és élesítés
- Olvasási idő: kb. 5 perc (a kódok kipróbálásával több)
- 6 rész · 2 kódpélda
- A végén gyakorló feladatok ellenőrzik a tudásodat

Rész 1 — A terv: mit tudjon a chatbot?
Minden jó projekt a feladat pontos meghatározásával kezdődik (15., 37. lecke). Példánk egy kitalált kerékpárbolt ügyfélszolgálati botja. Mielőtt egyetlen sort kódolnál, írd le:
- Mire válaszoljon? Nyitvatartás, szervizidők, árak, termékinformációk.
- Mire ne? Minden másra (politika, orvosi tanács, más cégek) udvariasan hárítson.
- Mi történjen, ha nem tudja? Ne találgasson — ajánlja fel, hogy egy kolléga visszahívja.
- Honnan tudja a tényeket? A bolt saját dokumentumaiból (RAG, 33. lecke), nem a modell „emlékezetéből".
- Milyen hangnemben? Tegező vagy magázó, rövid vagy részletes — ez a márka része.
Mert az általános asszisztens bármiről beszélget, a boltodról viszont nem tud semmit, és könnyen kitalál árakat vagy nyitvatartást. Egy jó üzleti chatbot szűk feladatra van beállítva, a saját adataidból dolgozik, és tudja, mikor kell emberhez fordulnia.
Rész 2 — Az első API-hívás
A nagy nyelvi modelleket a szolgáltatók API-n keresztül teszik elérhetővé (25. lecke): a programod egy kérést küld az interneten át, és válaszként megkapja a modell szövegét. Az alábbi példa az Anthropic Python-könyvtárát használja; más szolgáltatóknál (például OpenAI, Google) a felépítés nagyon hasonló.
# pip install anthropic — az API-kulcsot az ANTHROPIC_API_KEY környezeti változóba tedd, SOHA ne a kódba!
import anthropic
kliens = anthropic.Anthropic() # a kulcsot automatikusan a környezeti változóból olvassa
RENDSZER = (
"Te egy udvarias, tömör ügyfélszolgálati asszisztens vagy egy kerékpárbolt számára. "
"Csak a boltról, a termékekről és a szervizről válaszolj. "
"Ha nem tudod a választ, mondd meg, és ajánld fel, hogy kolléga visszahívja az ügyfelet."
)
valasz = kliens.messages.create(
model="claude-sonnet-5", # a modell neve: a szolgáltató dokumentációjában ellenőrizd
max_tokens=400, # a válasz maximális hossza (és egyben költségkorlát)
system=RENDSZER,
messages=[{"role": "user", "content": "Mennyi idő alatt javítjátok meg a kerékpár fékjét?"}],
)
print(valasz.content[0].text)A kérés három fontos része: a system prompt (a bot szerepe és szabályai, 26. lecke), az üzenetek listája (a beszélgetés), és a max_tokens (a válasz maximális hossza). A futtatáshoz regisztráció és API-kulcs kell, és a használat díjköteles — ezt a kódot ezért nem futtatjuk itt, a következő rész viszont API nélkül is kipróbálható.
Soha ne írd bele a kódba, ne töltsd fel GitHubra (d-s8. lecke: .gitignore), és ne tedd a weboldal böngészőben futó részébe, mert ott bárki kiolvashatja. A kulcs mindig a szerveren, környezeti változóban legyen, és állíts be költségkeretet a szolgáltató felületén.
Rész 3 — Beszélgetés, védőkorlát, költség
A nyelvi modellnek nincs saját emlékezete a beszélgetésről: minden kérésnél újra el kell küldeni az előzményeket. Ez két gyakorlati következménnyel jár: a hosszú beszélgetés egyre drágább (több token), és egy ponton túl nem is fér el. Ezért a legtöbb chatbot csak az utolsó néhány üzenetet küldi el, vagy összefoglalja a régebbieket.
# Futtatható szimuláció API nélkül: beszélgetés-előzmény, egyszerű védőkorlát és költségbecslés
def modell_valasza(uzenetek):
"""Itt hívnád az API-t (lásd az előző példát). A szimuláció csak visszhangoz."""
return f"[szimulált válasz a(z) {len(uzenetek)}. üzenetre: {uzenetek[-1]['content'][:30]}...]"
TILTOTT = ["jelszó", "kártyaszám"] # egyszerű bemeneti szűrő (a valóságban ennél több kell)
def csevegj(elozmeny, szoveg, max_elozmeny=6):
if any(t in szoveg.lower() for t in TILTOTT):
return "Kérlek, ne ossz meg érzékeny adatot a chatben!"
elozmeny.append({"role": "user", "content": szoveg})
kuldendo = elozmeny[-max_elozmeny:] # csak az utolsó néhány üzenet megy el (kontextus + költség)
valasz = modell_valasza(kuldendo)
elozmeny.append({"role": "assistant", "content": valasz})
return valasz
def koltseg_ft(bemeneti_token, kimeneti_token, ar_be=3, ar_ki=15, usd_huf=360):
"""Árak dollárban, millió tokenenként (példaértékek — az aktuálisakat lásd a 28. leckében)."""
return (bemeneti_token * ar_be + kimeneti_token * ar_ki) / 1_000_000 * usd_huf
elozmeny = []
for kerdes in ["Szia! Nyitva vagytok szombaton?", "És mennyibe kerül egy fékbeállítás?", "Megadom a kártyaszámom: 1234..."]:
print("Ügyfél:", kerdes)
print("Bot: ", csevegj(elozmeny, kerdes))
# Havi becslés: napi 200 beszélgetés, beszélgetésenként kb. 1500 bemeneti és 300 kimeneti token
havi = koltseg_ft(200 * 30 * 1500, 200 * 30 * 300)
print(f"\nBecsült havi API-költség: kb. {havi:,.0f} Ft".replace(",", " "))A kimenetben a bot az első két kérdésre válaszol (a szimulált válaszban látszik, hogy a második kérdésnél már 3 üzenet ment el: az első kérdés, az első válasz és az új kérdés), a harmadiknál pedig a szűrő megállítja a kártyaszám megosztását. A becslés szerint napi 200 beszélgetésnél a havi API-költség a példaárakkal kb. 19 440 Ft — ez jól mutatja, hogy egy kisvállalkozás chatbotja jellemzően olcsó, de a forgalommal arányosan nő.
Használj kisebb, olcsóbb modellt az egyszerű kérdésekre, és csak a bonyolultakat küldd a drágábbnak; korlátozd az előzmények hosszát és a max_tokens értéket; a gyakori, változatlan szövegrészekre (például a hosszú system promptra) sok szolgáltató kedvezményes „gyorsítótárazást" (prompt caching) kínál (28. lecke).
Rész 4 — Tudás hozzáadása RAG-gal
A bot csak akkor ad pontos választ az árakra és a nyitvatartásra, ha megkapja ezeket az adatokat. A 33. lecke mini-RAG-ja pontosan ide illeszkedik: minden kérdésnél kikeresed a bolt dokumentumaiból a releváns részleteket, és a promptba teszed őket, azzal az utasítással, hogy a modell csak ezekből válaszoljon, és jelezze, ha nincs benne a válasz.
- Gyűjtsd össze a bot „tudását": GYIK, árlista, szervizfeltételek, szállítási és garanciális információk.
- Darabold és indexeld őket (33. lecke, 2. rész).
- A
csevegj()függvényben a modell hívása előtt keresd ki a legjobb 3–5 részletet, és illeszd be az üzenetbe. - Árváltozáskor csak a dokumentumot frissítsd — a bot azonnal a friss adatból dolgozik.
Rész 5 — Biztonság, adatvédelem, jog
| Kockázat | Védekezés |
|---|---|
| A bot kitalál egy árat vagy ígéretet | RAG + „ha nem tudod, mondd meg" utasítás; érzékeny ügyekben emberi átadás. |
| Prompt injection („felejtsd el az utasításaidat…") | A system prompt szabályai, szűk jogosultságok, a bot ne tudjon önállóan pénzügyi vagy visszafordíthatatlan műveletet végezni (29. lecke). |
| Személyes adatok a chatben | Tájékoztatás, szűrés, a naplók korlátozott tárolása; ellenőrizd a szolgáltató adatkezelési feltételeit (27. lecke: GDPR). |
| Az ügyfél nem tudja, hogy géppel beszél | Jelezd egyértelműen, hogy AI-asszisztenssel beszél — az EU AI Act átláthatósági szabályai is ezt írják elő. |
| Váratlan költségrobbanás | Költségkeret a szolgáltatónál, üzenetszám-korlát felhasználónként. |
Jó gyakorlat, ha a bot automatikusan emberhez irányít panasznál, reklamációnál, pénzügyi kérdésnél, vagy ha a felhasználó kéri. A cél nem az, hogy a bot mindent megoldjon, hanem hogy a gyakori, egyszerű kérdéseket gyorsan lezárja, a többit pedig jól előkészítve továbbadja.
Rész 6 — Tesztelés és élesítés
Mielőtt a bot élesbe kerül, teszteld úgy, ahogy egy modellt értékelsz (24. lecke):
- Tesztkérdés-lista: 30–50 valós kérdés a várt válasszal — köztük „csapdák" is (ismeretlen termék, témán kívüli kérdés, trükkös utasítás).
- Értékelés: hány válasz helyes, hány „nem tudom" jogos, és hány hallucináció van?
- Javítás: a hibák alapján finomítsd a system promptot és a tudásbázist, majd futtasd újra a teljes listát.
- Élesítés: a botot egy szerveroldali API mögé tedd (25. lecke), a weboldal csak ezzel kommunikáljon.
- Monitorozás: nézd rendszeresen a naplókat (a személyes adatok kímélésével): miről kérdeznek, hol akad el a bot?
Összefoglaló táblázat
| Elem | Szerepe | Lecke |
|---|---|---|
| System prompt | A bot szerepe, szabályai, hangneme | 26. |
| Üzenetelőzmény | A beszélgetés „memóriája", minden hívásnál újra elküldve | 35. |
| RAG | Pontos, friss tények a saját dokumentumokból | 33. |
| Védőkorlátok | Szűrés, emberi átadás, szűk jogosultságok | 29., 32. |
| Költségkezelés | Modellválasztás, tokenkorlát, költségkeret | 28. |
| Tesztelés, monitorozás | Tesztkérdés-lista, naplók figyelése | 24., 25. |
1. Írd meg a saját (valós vagy kitalált) vállalkozásod chatbotjának system promptját a Rész 1 öt kérdése alapján.
2. A szimulációban állítsd a max_elozmeny értékét 2-re. Mi változik abban, hogy mi megy el a modellnek?
3. Számold ki a koltseg_ft() függvénnyel: mennyi lenne a havi költség napi 1000 beszélgetésnél? És ha a beszélgetések kétszer olyan hosszúak?
4. Bővítsd a tiltott szavak listáját, és gondold végig: miért nem elég önmagában egy szólistás szűrő?
5. Kösd össze a 33. lecke mini-RAG-ját a szimulációval: a modell_valasza() előtt keresd ki a legjobb két részletet, és írd ki, mi menne el a modellnek.
6. Állíts össze 10 tesztkérdést (köztük 3 csapdát) a botodhoz, és írd mellé a várt viselkedést.
A 35. lecke végére végiggondoltál és megépítettél egy chatbotot a tervezéstől az élesítésig: tudod, hogyan néz ki egy API-hívás, miért kell az előzményeket újra elküldeni, hogyan becsüld és korlátozd a költséget, hogyan adj a botnak pontos tudást RAG-gal, milyen biztonsági és jogi szabályokra figyelj, és hogyan teszteld, mielőtt ügyfelek elé kerül.
Források és további olvasnivaló
A szolgáltatók hivatalos dokumentációi (az árak és a modellnevek itt ellenőrizhetők):
• Claude API — első lépések — docs.claude.com
• OpenAI API — dokumentáció — platform.openai.com
• OWASP — biztonsági kockázatok nyelvi modellekre épülő alkalmazásokban — genai.owasp.org