Új hozzászólás Aktív témák

• #48847 Aszpirin támogató vadkörte #48844

  Új Válasz 2026-02-09 10:38:18 #48847

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Aszpirin

  támogató

  válasz vadkörte #48844 üzenetére

  Az LLM-ekkel kapcsolatban az az általános tévhit, hogy egyfajta "intelligens keresők", azaz az intrnetről nézik ki a választ. Ez azonban nem így van, mert igen veszélyes lenne az internet teljes tartalmával tanítani egyrészt, másrészt maga a tanítási folyamat is igen hosszadalmas tud lenni. Az LLM a saját betanításakori információkat "ismeri", ami nem feltétlenül naprakész. Ezért naprakész információkat számonkérni tőlük nem jó elképzelés.

  Amikor ragaszkodik egy információhoz, az nem hallucináció, hanem az esetleges rossz vagy elavult információkkal való betanításáé, és a "ragaszkodik a hallucinációjához" nem is értelmezhető - legalábbis a hallucináció fogalmának LLM-kontextusban való értelmezése alapján.

  De én a téves elvárásokat nem nevezném user error-nak, hiszen a hype akkora körülöttük, hogy az olyan jogosnak vélt hallgatólagos elvárásokat generál, amiket az LLM ma (még) nem tud teljesíteni. Az, hogy mindenre (is), bármilyen rosszul feltett kérdés legyen, azonnal vágja a helyes választ, mára már a Kano-modell szerinti "dissastisfier" kategóriájú követelménnyé vált, és mivel nem teljesítik az LLM-ek, ezért jól láthatóak már mindenfelé a lelkesedés korszakát követő alapos kiábrándultság jelei (amikor olyanokat mondanak egy LLM-ről, hogy "buta mint a föld, állandóan hallucinál, és ragaszkodik a hallucinációjához", mert egy-egy XY által ismert információt nem helyesen közli, akkor XY elfelejti, hogy mindezek mellett az LLM tudásbázisa egy-egy emberének, így XY tudásának is többezerszerese; azt pedig a legtöbben (még) nem is tudják, hogy eme óriási tudásbázis kiaknázására ill. a válaszok tényszerűségének (factuality) növelésére és a hallucinációk számának csökkentésére külön tudományág van kialakulóban, az ún. "prompt engineering", ami komoly kutatásokon alapul, és amiben nap mint nap újabb és újabb tudományos publikációk születnek.

  Én örülök ennek a kiábrándultságnak, mert kijózanítja az elvárásokat, és segít megtalálni az LLM-ekben azt az elképesztően hasznos eszközt, ami. De egy bonyolult eszköz, és mint minden bonyolult eszközt (pl. egy repülőgépet) ezt sem lehet felkészültség nélkül használni, bármennyire is próbálják elhitetni velünk.

  Egy új kor hajnalán vagyunk, amiben ha úgy tetszik, a prompt engineering a programozás új paradigmája.

Új hozzászólás Aktív témák