Új hozzászólás Aktív témák

• #41 Raymond titán Kristof93 #37

  Új Válasz 2025-03-08 12:16:57 #41

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Raymond

  titán

  válasz Kristof93 #37 üzenetére

  Nocsak, ezt nem is lattam...

  Nem en vagyok eltevedve hanem te. A kontextus is jo lett volna ha megnezed. Itt arrol volt szo hogy egy rakat 256GB/s savszelt tudo 128GB-os gepet osszekotni hogy a nagy modellek menjenek. Ennek nincs ertelme az eszmeletlen ara miatt. Produktiv kornyezetben ezt nem csinalod mert a teljesitmeny csapnivalo, ezt max jatszadozasra es kiprobalasra jo (a kollega pl. a full Deepseek R1-et celozzta meg), oda meg nem fogsz 12-14K USD/EUR-t beleolni mert ugyanazt megkapod ennek az arnak a toredekeert. A Strix Halo-nal lathato 256bit DDR5-8000 alltal adott 256GB/s megvan a 8-12 csatornas szever platformoknal is ahol egy darab gepbe belerakod a szukseges 512-768GB RAM-t es a komplett ar a toredeke lesz a 6x Framework gepek aranak. Ha jobban megerolteted magad es turelmes vagy akkor 1-2 darab Framework gep araert megvan a 12 csatornas gep 768GB RAM-al.

• #38 S_x96x_S addikt Kristof93 #37

  Új Válasz 2025-02-26 18:41:45 #38

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Kristof93 #37 üzenetére

  a vram tényleg fontos ( mind a mennyiség / sávszélesség / és az ár is )

  > Olyan szerver cpu amiben van egy gyors igpu pedig nem létezik.

  ~ attól függ, hogy mit nevezünk igpu-nak;
  vagyis nem árt a pontosítás - mert mindenki mást ért alatta;
  ( AMD Instinct™ MI300A ; NVIDIA GH200 Grace Hopper Superchip; .... )

  Amúgy az AI gyorsítók fogalma elég tág;
  az Intelnek is van - AMX ( CPU-s ) esettanulmánya - amikor az A100 -nál jobb.
  "Performance: 17x Faster Than NVIDIA* A100 Tensor Core GPUs"
  és ott van még a régi "Xeon Phi" próbálkozás is.

  Amúgy ha nincs más - egy 12-csatornás Epyc -el 400 - 460.8 GB/sec - et ki lehet hozni.

• #24 S_x96x_S addikt Kristof93 #22

  Új Válasz 2025-02-26 13:42:15 #24

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Kristof93 #22 üzenetére

  > A legnagyobb quadro is csak 48gb

  Az nvidiánál még alternativa lehet ( a Digits megjelenéséig )
  a robotikára kifejlesztett
  "NVIDIA Jetson AGX Orin modul, 64 GB" ~ EUR 2 676,00 (Áfával együtt)
  - 64GB 256-bit LPDDR5 ~ 204.8GB/s
  - 12-core Arm® Cortex®-A78AE v8.2 64-bit CPU
  - 2048-core NVIDIA Ampere architecture GPU with 64 Tensor Cores

  > a strix halo, elég meglepő.
  > Egy erős, desktop szintű igp, de hozzáfér akár 128gb memóriához.

  mindenfélét irtnak - úgyhogy nemárt pontosan utánanézni.
  - valahol - hogy csak 96GB címezhető az RDNA 3.5 -el a 128GB -ból
  - valahol - meg azt, hogy ennél több is lehet ..
  Talán a 96GB a hivatalos.

Új hozzászólás Aktív témák