Új lapon nyílik meg

35. lecke

Gyakorlati projekt: saját chatbot építése API-val

6 rész2 kódpélda1 ábra
Miről szól ez a lecke?

Ebben a projektleckében összerakod mindazt, amit a nyelvi modellekről (17.), a promptolásról (26.), az éles üzemeltetésről (25.), a jogról (27.), a költségekről (28.) és a RAG-ról (33.) tanultál: megtervezel és megépítesz egy egyszerű ügyfélszolgálati chatbotot, amely egy nagy nyelvi modellt API-n keresztül használ. Megnézzük, hogyan működik egy API-hívás, hogyan kezeld a beszélgetés előzményeit, a költségeket, a biztonságot, és hogyan teszteld a botot, mielőtt élesbe kerül.

Amit ebben a leckében megtanulsz
  • A terv: mit tudjon a chatbot?
  • Az első API-hívás
  • Beszélgetés, védőkorlát, költség
  • Tudás hozzáadása RAG-gal
  • Biztonság, adatvédelem, jog
  • Tesztelés és élesítés
Tudnivalók
  • Olvasási idő: kb. 5 perc (a kódok kipróbálásával több)
  • 6 rész · 2 kódpélda
  • A végén gyakorló feladatok ellenőrzik a tudásodat
Kézzel rajzolt, színes jegyzetplakát: A saját chatbot felépítése: weboldal, saját szerver a rejtett API-kulccsal, és az AI-modell
A saját chatbot felépítése: weboldal, saját szerver a rejtett API-kulccsal, és az AI-modell.

Rész 1 — A terv: mit tudjon a chatbot?

Minden jó projekt a feladat pontos meghatározásával kezdődik (15., 37. lecke). Példánk egy kitalált kerékpárbolt ügyfélszolgálati botja. Mielőtt egyetlen sort kódolnál, írd le:

  • Mire válaszoljon? Nyitvatartás, szervizidők, árak, termékinformációk.
  • Mire ne? Minden másra (politika, orvosi tanács, más cégek) udvariasan hárítson.
  • Mi történjen, ha nem tudja? Ne találgasson — ajánlja fel, hogy egy kolléga visszahívja.
  • Honnan tudja a tényeket? A bolt saját dokumentumaiból (RAG, 33. lecke), nem a modell „emlékezetéből".
  • Milyen hangnemben? Tegező vagy magázó, rövid vagy részletes — ez a márka része.
SzéljegyzetMiért nem elég egy általános AI-asszisztenst bekötni a weboldalra?

Mert az általános asszisztens bármiről beszélget, a boltodról viszont nem tud semmit, és könnyen kitalál árakat vagy nyitvatartást. Egy jó üzleti chatbot szűk feladatra van beállítva, a saját adataidból dolgozik, és tudja, mikor kell emberhez fordulnia.

Rész 2 — Az első API-hívás

A nagy nyelvi modelleket a szolgáltatók API-n keresztül teszik elérhetővé (25. lecke): a programod egy kérést küld az interneten át, és válaszként megkapja a modell szövegét. Az alábbi példa az Anthropic Python-könyvtárát használja; más szolgáltatóknál (például OpenAI, Google) a felépítés nagyon hasonló.

PYTHON● ● ●
# pip install anthropic   — az API-kulcsot az ANTHROPIC_API_KEY környezeti változóba tedd, SOHA ne a kódba!
import anthropic

kliens = anthropic.Anthropic()          # a kulcsot automatikusan a környezeti változóból olvassa

RENDSZER = (
    "Te egy udvarias, tömör ügyfélszolgálati asszisztens vagy egy kerékpárbolt számára. "
    "Csak a boltról, a termékekről és a szervizről válaszolj. "
    "Ha nem tudod a választ, mondd meg, és ajánld fel, hogy kolléga visszahívja az ügyfelet."
)

valasz = kliens.messages.create(
    model="claude-sonnet-5",            # a modell neve: a szolgáltató dokumentációjában ellenőrizd
    max_tokens=400,                     # a válasz maximális hossza (és egyben költségkorlát)
    system=RENDSZER,
    messages=[{"role": "user", "content": "Mennyi idő alatt javítjátok meg a kerékpár fékjét?"}],
)
print(valasz.content[0].text)

A kérés három fontos része: a system prompt (a bot szerepe és szabályai, 26. lecke), az üzenetek listája (a beszélgetés), és a max_tokens (a válasz maximális hossza). A futtatáshoz regisztráció és API-kulcs kell, és a használat díjköteles — ezt a kódot ezért nem futtatjuk itt, a következő rész viszont API nélkül is kipróbálható.

Az API-kulcs olyan, mint egy bankkártya

Soha ne írd bele a kódba, ne töltsd fel GitHubra (d-s8. lecke: .gitignore), és ne tedd a weboldal böngészőben futó részébe, mert ott bárki kiolvashatja. A kulcs mindig a szerveren, környezeti változóban legyen, és állíts be költségkeretet a szolgáltató felületén.

Rész 3 — Beszélgetés, védőkorlát, költség

A nyelvi modellnek nincs saját emlékezete a beszélgetésről: minden kérésnél újra el kell küldeni az előzményeket. Ez két gyakorlati következménnyel jár: a hosszú beszélgetés egyre drágább (több token), és egy ponton túl nem is fér el. Ezért a legtöbb chatbot csak az utolsó néhány üzenetet küldi el, vagy összefoglalja a régebbieket.

PYTHON● ● ●
# Futtatható szimuláció API nélkül: beszélgetés-előzmény, egyszerű védőkorlát és költségbecslés

def modell_valasza(uzenetek):
    """Itt hívnád az API-t (lásd az előző példát). A szimuláció csak visszhangoz."""
    return f"[szimulált válasz a(z) {len(uzenetek)}. üzenetre: {uzenetek[-1]['content'][:30]}...]"

TILTOTT = ["jelszó", "kártyaszám"]              # egyszerű bemeneti szűrő (a valóságban ennél több kell)

def csevegj(elozmeny, szoveg, max_elozmeny=6):
    if any(t in szoveg.lower() for t in TILTOTT):
        return "Kérlek, ne ossz meg érzékeny adatot a chatben!"
    elozmeny.append({"role": "user", "content": szoveg})
    kuldendo = elozmeny[-max_elozmeny:]          # csak az utolsó néhány üzenet megy el (kontextus + költség)
    valasz = modell_valasza(kuldendo)
    elozmeny.append({"role": "assistant", "content": valasz})
    return valasz

def koltseg_ft(bemeneti_token, kimeneti_token, ar_be=3, ar_ki=15, usd_huf=360):
    """Árak dollárban, millió tokenenként (példaértékek — az aktuálisakat lásd a 28. leckében)."""
    return (bemeneti_token * ar_be + kimeneti_token * ar_ki) / 1_000_000 * usd_huf

elozmeny = []
for kerdes in ["Szia! Nyitva vagytok szombaton?", "És mennyibe kerül egy fékbeállítás?", "Megadom a kártyaszámom: 1234..."]:
    print("Ügyfél:", kerdes)
    print("Bot:   ", csevegj(elozmeny, kerdes))

# Havi becslés: napi 200 beszélgetés, beszélgetésenként kb. 1500 bemeneti és 300 kimeneti token
havi = koltseg_ft(200 * 30 * 1500, 200 * 30 * 300)
print(f"\nBecsült havi API-költség: kb. {havi:,.0f} Ft".replace(",", " "))

A kimenetben a bot az első két kérdésre válaszol (a szimulált válaszban látszik, hogy a második kérdésnél már 3 üzenet ment el: az első kérdés, az első válasz és az új kérdés), a harmadiknál pedig a szűrő megállítja a kártyaszám megosztását. A becslés szerint napi 200 beszélgetésnél a havi API-költség a példaárakkal kb. 19 440 Ft — ez jól mutatja, hogy egy kisvállalkozás chatbotja jellemzően olcsó, de a forgalommal arányosan nő.

SzéljegyzetHogyan csökkenthető a költség?

Használj kisebb, olcsóbb modellt az egyszerű kérdésekre, és csak a bonyolultakat küldd a drágábbnak; korlátozd az előzmények hosszát és a max_tokens értéket; a gyakori, változatlan szövegrészekre (például a hosszú system promptra) sok szolgáltató kedvezményes „gyorsítótárazást" (prompt caching) kínál (28. lecke).

Rész 4 — Tudás hozzáadása RAG-gal

A bot csak akkor ad pontos választ az árakra és a nyitvatartásra, ha megkapja ezeket az adatokat. A 33. lecke mini-RAG-ja pontosan ide illeszkedik: minden kérdésnél kikeresed a bolt dokumentumaiból a releváns részleteket, és a promptba teszed őket, azzal az utasítással, hogy a modell csak ezekből válaszoljon, és jelezze, ha nincs benne a válasz.

  1. Gyűjtsd össze a bot „tudását": GYIK, árlista, szervizfeltételek, szállítási és garanciális információk.
  2. Darabold és indexeld őket (33. lecke, 2. rész).
  3. A csevegj() függvényben a modell hívása előtt keresd ki a legjobb 3–5 részletet, és illeszd be az üzenetbe.
  4. Árváltozáskor csak a dokumentumot frissítsd — a bot azonnal a friss adatból dolgozik.

Rész 5 — Biztonság, adatvédelem, jog

KockázatVédekezés
A bot kitalál egy árat vagy ígéretetRAG + „ha nem tudod, mondd meg" utasítás; érzékeny ügyekben emberi átadás.
Prompt injection („felejtsd el az utasításaidat…")A system prompt szabályai, szűk jogosultságok, a bot ne tudjon önállóan pénzügyi vagy visszafordíthatatlan műveletet végezni (29. lecke).
Személyes adatok a chatbenTájékoztatás, szűrés, a naplók korlátozott tárolása; ellenőrizd a szolgáltató adatkezelési feltételeit (27. lecke: GDPR).
Az ügyfél nem tudja, hogy géppel beszélJelezd egyértelműen, hogy AI-asszisztenssel beszél — az EU AI Act átláthatósági szabályai is ezt írják elő.
Váratlan költségrobbanásKöltségkeret a szolgáltatónál, üzenetszám-korlát felhasználónként.
SzéljegyzetMikor adja át a bot a beszélgetést egy embernek?

Jó gyakorlat, ha a bot automatikusan emberhez irányít panasznál, reklamációnál, pénzügyi kérdésnél, vagy ha a felhasználó kéri. A cél nem az, hogy a bot mindent megoldjon, hanem hogy a gyakori, egyszerű kérdéseket gyorsan lezárja, a többit pedig jól előkészítve továbbadja.

Rész 6 — Tesztelés és élesítés

Mielőtt a bot élesbe kerül, teszteld úgy, ahogy egy modellt értékelsz (24. lecke):

  1. Tesztkérdés-lista: 30–50 valós kérdés a várt válasszal — köztük „csapdák" is (ismeretlen termék, témán kívüli kérdés, trükkös utasítás).
  2. Értékelés: hány válasz helyes, hány „nem tudom" jogos, és hány hallucináció van?
  3. Javítás: a hibák alapján finomítsd a system promptot és a tudásbázist, majd futtasd újra a teljes listát.
  4. Élesítés: a botot egy szerveroldali API mögé tedd (25. lecke), a weboldal csak ezzel kommunikáljon.
  5. Monitorozás: nézd rendszeresen a naplókat (a személyes adatok kímélésével): miről kérdeznek, hol akad el a bot?

Összefoglaló táblázat

ElemSzerepeLecke
System promptA bot szerepe, szabályai, hangneme26.
ÜzenetelőzményA beszélgetés „memóriája", minden hívásnál újra elküldve35.
RAGPontos, friss tények a saját dokumentumokból33.
VédőkorlátokSzűrés, emberi átadás, szűk jogosultságok29., 32.
KöltségkezelésModellválasztás, tokenkorlát, költségkeret28.
Tesztelés, monitorozásTesztkérdés-lista, naplók figyelése24., 25.
Gyakorlás

1. Írd meg a saját (valós vagy kitalált) vállalkozásod chatbotjának system promptját a Rész 1 öt kérdése alapján.

2. A szimulációban állítsd a max_elozmeny értékét 2-re. Mi változik abban, hogy mi megy el a modellnek?

3. Számold ki a koltseg_ft() függvénnyel: mennyi lenne a havi költség napi 1000 beszélgetésnél? És ha a beszélgetések kétszer olyan hosszúak?

4. Bővítsd a tiltott szavak listáját, és gondold végig: miért nem elég önmagában egy szólistás szűrő?

5. Kösd össze a 33. lecke mini-RAG-ját a szimulációval: a modell_valasza() előtt keresd ki a legjobb két részletet, és írd ki, mi menne el a modellnek.

6. Állíts össze 10 tesztkérdést (köztük 3 csapdát) a botodhoz, és írd mellé a várt viselkedést.

Lecke összegzés

A 35. lecke végére végiggondoltál és megépítettél egy chatbotot a tervezéstől az élesítésig: tudod, hogyan néz ki egy API-hívás, miért kell az előzményeket újra elküldeni, hogyan becsüld és korlátozd a költséget, hogyan adj a botnak pontos tudást RAG-gal, milyen biztonsági és jogi szabályokra figyelj, és hogyan teszteld, mielőtt ügyfelek elé kerül.

Források és további olvasnivaló

A szolgáltatók hivatalos dokumentációi (az árak és a modellnevek itt ellenőrizhetők):
• Claude API — első lépések — docs.claude.com
• OpenAI API — dokumentáció — platform.openai.com
• OWASP — biztonsági kockázatok nyelvi modellekre épülő alkalmazásokban — genai.owasp.org