Új hozzászólás Aktív témák

• #30 Mp3Pintyo HÁZIGAZDA freeapro #27

  Új Válasz 2025-05-11 23:23:19 #30

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Mp3Pintyo

  HÁZIGAZDA

  válasz freeapro #27 üzenetére

  Hm.. rendben. Ha ablakot váltok akkor mindig hangsúlyosan mondom majd, hogy mire.

• #29 Mp3Pintyo HÁZIGAZDA freeapro #28

  Új Válasz 2025-05-11 23:18:15 #29

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Mp3Pintyo

  HÁZIGAZDA

  válasz freeapro #28 üzenetére

  Igen, a 32B-s modellek beleférnek. Azt sajnálom, hogy a spekulatív dekódolással már nem fér bele

• #23 Mp3Pintyo HÁZIGAZDA freeapro #20

  Új Válasz 2025-05-11 11:25:23 #23

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Mp3Pintyo

  HÁZIGAZDA

  válasz freeapro #20 üzenetére

  Még nagyon nagy a különbség egy Google Gemini 2.5 Pro és egy lokális LLM között. Főleg ha nem rendelkezel megfelelő géppel.
  Ahhoz, hogy egy lokális LLM megfelelő sebességgel fusson és ne kelljen minidg kávézni menned amíg kiírja a váélaszt jelenleg 2 lehetőséged van:
  1. Nvidia videókártya
  2. Mac Mx
  Első esetben a videókártya memória szab határt, hogy mekkora modellt tudsz használni. Egy 7-8B és egy 12-14B között például óriási minőségbeli ugrások vannak.
  Második esetben ha egy 32 GByteos M3-t veszel mondjuk akkor már elég nagy és jó minőségű modelleket tudsz futtatni.

  Ezeket persze ki lehet egészíteni MCP megoldásokkal és akkor egy igazán jó kódoló rendszered van úgy, hogy minden a saját gépen marad és nem megy sehova.

• #22 Mp3Pintyo HÁZIGAZDA freeapro #21

  Új Válasz 2025-05-11 11:21:29 #22

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Mp3Pintyo

  HÁZIGAZDA

  válasz freeapro #21 üzenetére

  Szia! Melyik részre gondolsz? Megpróbálom ezt minimalizálni.
  
  Amúgy ez kb a 600. AI videó a csatornán. De természetesen mindig megpróbálom úgy bemutatni, hogy aki még ismeretlen ezen a terepen az is megértse.
  Nehéz az egyensúlyt megteremteni mivel van aki még csak most találkozik ezzel az egész világgal és valaki már profin használja a munkájában.

Új hozzászólás Aktív témák