Amikor az AI hibázik: hogyan ismerd fel, és mit tegyél

Van egy tulajdonsága ezeknek a rendszereknek, amit érdemes megérteni, mert ebből következik minden gyakorlati szabály: nem tudják, hogy nem tudják.

Ha megkérdezel valamit, amiről nincs információjuk, nem azt válaszolják, hogy „nem tudom". Előállítanak egy választ, ami úgy hangzik, mint a helyes válasz — ugyanolyan magabiztosan, ugyanolyan szakszerűen. Ezt hívják hallucinációnak, és nem hiba a rendszerben, hanem a működés természetes következménye.

Ez nem elméleti probléma

Néhány gyakorlati példa arra, hogyan jelenik meg egy kkv napjában:

• Megkérdezed, mennyi egy adott szolgáltatás áfája, és kapsz egy határozott számot. Rossz.
• Kérsz egy jogszabályhelyet, és kapsz egy paragrafusszámot, ami nem létezik.
• Megkérdezed, milyen funkciói vannak egy szoftvernek, és felsorol olyanokat is, amik nincsenek.
• Összefoglal egy dokumentumot, és beleírja azt is, ami logikusan következne — de nem szerepel benne.

Az utolsó a legveszélyesebb, mert a leghihetőbb.

Négy jel, amire figyelj

Túl kerek a válasz. Ha egy összetett kérdésre gyanúsan tiszta, kételkedés nélküli választ kapsz, az figyelmeztető jel. A valódi szakértő hezitál, feltételeket említ, visszakérdez.

Konkrét szám vagy hivatkozás, amit nem te adtál meg. Ha nem volt a bemenetben, akkor honnan van? Ez a legfontosabb reflex, amit érdemes kialakítani.

Pont azt mondja, amit hallani akartál. Ezek a rendszerek hajlamosak egyetérteni. Ha a kérdésedben benne volt a remélt válasz, nagy eséllyel visszakapod.

Nagyon speciális, helyi, vagy friss dolog. Egy magyar önkormányzati rendelet, egy kis szoftver árazása, egy múlt heti változás. Minél szűkebb és minél újabb, annál valószínűbb a találgatás.

Amit tenni tudsz — négy gyakorlati fogás

1. Add oda az anyagot, ne a memóriájára hagyatkozz. Ez a legnagyobb hatású egyetlen dolog. „Mennyi ennek az áfája?" — rossz kérdés. „Itt van a számla, olvasd ki, mi szerepel rajta áfakulcsként" — jó kérdés. Az első emlékezetből dolgozik, a második dokumentumból.

2. Kérj hivatkozást a saját anyagodra. „Melyik bekezdésből következik ez?" Ha nem tudja megmutatni, akkor kitalálta. Ez egyszerű teszt, és nagyon jól működik.

3. Adj neki kiutat. Írd bele a kérdésbe: „ha a dokumentumban nincs erre válasz, azt írd, hogy nincs benne." Ez érzékelhetően csökkenti a találgatást — a modellek gyakran csak azért gyártanak választ, mert nincs engedélyük nem válaszolni.

4. Kérdezz rá kétszer, máshogy. Ha két különböző megfogalmazásra két különböző számot kapsz, akkor egyik sem megbízható. Ez a leggyorsabb megbízhatósági teszt, amit ismerek.

Hol nem baj, ha hibázik

Fontos, hogy ez ne bénítson meg. Rengeteg feladatban a hiba ártalmatlan, mert azonnal látszik:

• Szövegvázlat, amit átolvasol.
• Ötletlista, amiből választasz.
• Fordítás, amit értesz.
• Összefoglaló, ami mellett ott van az eredeti.
• Belső jegyzet, ami nem megy ki a cégből.

Ezekben nyugodtan használható, és itt van a nyereség nagy része. A gyors győzelmek épp azért gyors győzelmek, mert ide esnek.

És a csapatnak is el kell mondani

Ha bevezetsz valamit a cégben, ez az egy dolog, amit mindenkinek tudnia kell — nem a funkciók, hanem ez.

Elég egy mondat a belső iránymutatásban: „Az eszköz magabiztosan is mondhat rosszat. Amit ügyfélnek küldünk vagy amiben szám van, azt ember ellenőrzi."

Ez a mondat többet ér, mint egy egész tréning. Aki érti, miért kell ellenőrizni, az ellenőrizni fog — aki csak azt hallotta, hogy „ez okos", az nem.

Amit ne várj el

Ne várd, hogy a következő verzió megoldja. Sokat javult és javulni fog, de a jelenség a működés természetéből következik, nem hibából. Aki úgy vezet be AI-t, hogy majd „hamarosan megbízható lesz", az rossz alapon tervez.

A helyes hozzáállás nem a bizalmatlanság, hanem a munkamegosztás: a gép a mechanikus részt végzi, az ítélet emberi marad. Ez nem átmeneti állapot — ez a stabil felállás.