Új hozzászólás Aktív témák

• #39 Kristof93 senior tag S_x96x_S #38

  Új Válasz 2025-02-26 18:58:37 #39

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Kristof93

  senior tag

  válasz S_x96x_S #38 üzenetére

  Azokon is van 128gb HBM vagy forrasztott lpddr5. De teljesen más kategória, nem otthoni szerver amit 4db strix halo árából raksz össze, ami a hasonlítási alap volt itt.

• #35 Raymond titán S_x96x_S #34

  Új Válasz 2025-02-26 17:23:04 #35

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz S_x96x_S #34 üzenetére

  Csak hogy vilagos legyen pedig mar irtam regebben. Fantasztikus hogy tudsz giglizni es hasznalni az internetet, de sokat segitene ha ertened is amit olvasol es megertened az osszefuggeseket. Ez a resz egyelore nagyon nagyon hianyos. Case in point:

  "Az én FANTÁZIÁMBAN a lokális Deepseek R1 futtatása a cél.
  Ami egy MoE - és nem árt hozzá több 128GB-os Strix Halo"

  Ezt igy bughatod, mivel tobbe kerul es tobb a limitacio (clusteringnek hala) mint egy magasabb sebesseget elero sima 2U szerver lenne telepakolva RAM-al.

• #31 Raymond titán S_x96x_S #30

  Új Válasz 2025-02-26 14:38:34 #31

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz S_x96x_S #30 üzenetére

  O RLY?

  1. nem errol beszeltel hanem a 128GB-rol, tehat egy gep, foleg abban a kontextusban
  2. ha mar ott tartasz hogy 6+ darab kell akkor ez eleve nem opcio mert 12K nyugati penzert inkabb egy 2U server egy 8 vagy 12 csatornas vezerlovel es 1TB+ RAM-al

  Szerk: egyebkent nem azt mondtam hogy *csak* a 64GB-nak van ertelme, olvasd el meg egyszer mit irtam ott. Foleg ugy hogy nem cluster-rol volt szo.

• #28 Raymond titán S_x96x_S #27

  Új Válasz 2025-02-26 14:09:47 #28

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz S_x96x_S #27 üzenetére

  Hiaba latsz benne fantaziat ha nincs olyan MoE ami belefer a 128 vagy a 192GB-ba a most mar lassan matuzsalemnek nevezheto Mixtral-on kivul. Az hogy inference kozben kevesebb az aktiv az a memoriameret igenyeknel lenyegtelen mert a komplett cuccot be kell olvasnod.

• #25 Raymond titán S_x96x_S #24

  Új Válasz 2025-02-26 13:45:47 #25

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz S_x96x_S #24 üzenetére

  A RAM 75%-at tudja, tehat a 128GB modellnel 96GB. A 32GB-osnal pedig 24GB, ezt latni lehetett az Asus Flow teszteknel.

Új hozzászólás Aktív témák