Új hozzászólás Aktív témák

• #55 S_x96x_S addikt arabus #54

  Új Válasz 2024-06-07 12:30:42 #55

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz arabus #54 üzenetére

  tessék - pl. pár AI teszt , sőt még egy játék teszt is.
  és 350+ teszt eredménye:
  

• #50 S_x96x_S addikt arabus #49

  Új Válasz 2024-06-07 03:52:53 #50

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz arabus #49 üzenetére

  > Ha te is alaposan megnézed a cb2024 már akkor elavult volt mikor kiadták.

  sajnos igen,
  "AVX-512 is used in Cinebench 2024, but in such low amounts that it’s irrelevant."
  remélem jön majd egy zen5-re optimalizált változat is.
  (Cinebench 2024: Reviewing the Benchmark )

  > Ha linuxolsz és villogni szeretnél manapság inkább tegyél be egy LLAMA tesztet.

  rá kell nézni, hogy jól van-e lefordítva,
  mert amúgy:
  "Llamafile 0.7 Brings AVX-512 Support: 10x Faster Prompt Eval Times For AMD Zen 4"
  https://www.phoronix.com/news/Llamafile-0.7

  de úgy általában az Inference-nél
  a memória sebessége a szűk keresztmetszet, és abban az Intel egyenlőre jobb,
  és nem véletlen, hogy a Threadripperek hasítanak, a több memória csatorna miatt.

  De amúgy linux tesztekből jó vagyok.
  pl. itt egy másik: 173 CPU teszt. Ebből 60 esetben a 14900K volt az első.
  És ez picivel több mint a tesztek 1/3 -a. És el kell ismerni, ez nem is annyira rossz a 14900K -tól. Viszont az idő az avx-512 -nek dolgozik. Egyre több és több alkalmazás támogatja.

  "Across 173 different CPU/system benchmarks carried out, the Intel Core i9 14900K was in first place 60 times while the AMD Ryzen 9 7950X racked up 72 first place finishes and the 3D V-Cache enabled Ryzen 9 7950X3D racked up another 24 wins."
  > Csak a gond hogy lehervadt a ryzen csúnyán benne.

  szerencsére nem állt meg az optimalizáció.
  https://x.com/JustineTunney/status/1790571803984966020
  "I just wrote brand new exponent functions for llamafile and llama.cpp that make SiLU and SoftMax 2x faster, at full accuracy, for ARM NEON, AVX512, AVX2, AND SSE2."

  persze ezekből főleg majd a zen5 profitál, de már a zen4-nél is kimérhető.
  https://github.com/ggerganov/llama.cpp/pull/7154#issuecomment-2102956053

• #21 arabus támogató arabus #19

  Új Válasz 2024-06-06 15:02:17 #21

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  arabus

  támogató

  válasz arabus #19 üzenetére

  Starship repül az űrben.
  

• #7 Sinesol veterán arabus #5

  Új Válasz 2024-06-06 12:50:49 #7

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Sinesol

  veterán

  válasz arabus #5 üzenetére

  Elég vérszegény cikk, vicc, hogy egy origo-n összeszedettebb cikket lehet olvasni es ott mar vga-s reszletek is kint vannak. Onnan jöttem ide tovabbi reszletekert, aztan itt kb semmi…vajon fizetnek azert is, hogy csak kesve jöjjön amd konkurrens hir?

• #6 tasiadam veterán arabus #5

  Új Válasz 2024-06-06 12:49:33 #6

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  tasiadam

  veterán

  válasz arabus #5 üzenetére

  láttam már falon pókot. N100-ból sem nagyon tolonganak, pedig egy ideje már létezik

Új hozzászólás Aktív témák