Új hozzászólás Aktív témák

• #62 Komplikato veterán pengwin #61

  Új Válasz 2024-05-14 18:56:52 #62

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Komplikato

  veterán

  válasz pengwin #61 üzenetére

  Nagyobb modelleket most SE tud futtatni senki célhardver nélkül. Más tészta, hogy azokat szvsz NPU-val se fogja senki. Amúgy csak nekem fura, hogy a mobil szegmensbe nem áll bele az Nvidia, hanem partneren keresztül, aki állítólag a Mediatek lesz?

• #42 Komplikato veterán arn #19

  Új Válasz 2024-05-03 16:11:34 #42

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Komplikato

  veterán

  válasz arn #19 üzenetére

  Van brutális modell, ami meglepően jó, csak nem mindenkinek van a gépében 300GB+ vram és 1TB+ memória. De elfutni elfut lokálisan. Saját betanításhoz sok mindenre elég lenne egy 7B vagy 13B modell is, csak betanításhoz még több vram kell.

Új hozzászólás Aktív témák