Új hozzászólás Aktív témák

• #7397 S_x96x_S addikt Petykemano #7395

  Új Válasz 2022-08-14 22:04:34 #7397

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Petykemano #7395 üzenetére

  > Szóval vajon miért tolja az Intel az AMX-et,
  > miközben ott vannak a tensor magok (nvidia és google)?

  szerintem főleg startégiai okokból .. de amúgy hasznos is lehet egyes esetekben..

  pl. Ha az ügyfélnek van 10 milla USD-je a problémára; akkor az Intel-es DL. Boost + AMX -el
  az ügyfelek egy részét le lehet beszélni arról, hogy a büdzsé keret egy részért prémiumos nVidia -ra költsék
  vagyis nem kell osztozkodni a pénzen ... és ez nagy motiváció tud lenni.

  Amúgy a feladatok egy részében a CPU és a GPU közötti oda-vissza mozgatás költséges . főleg akkor ha csak egy apró müveletet kell elvégezni .. ilyen esetben az AMX sokkal hatékonyabb lehet.
  Vagyis vannak olyan problémák, amelyeknek az AMX jobban fekszik mint a GPU. ( persze nem midnen )
  És ha a CPU-ra HBM-et kötsz, akkor sebesség se akkora probléma.
  
  --------
  
  amúgy az Apple A13 -ban is van már AMX .. ( arm-es amx )
  pedig abban van külön GPU is ..
  persze az M1-ben is benne van.

  Anandtech/A13: "The biggest surprise and change to the CPU cores is the addition of so-called machine learning accelerators into the new CPUs. The technical designation for these new units are the AMX blocks, and seemingly they look like SIMD units added to the CPU, yet having a very DSP-like instruction set. The big mystery here is exactly how these units are integrated into the CPU and how it plays along with the ARM ISA. Apple has already integrated support for the units into the Accelerate.framework APIs and applications will be able to take advantage of the new performance capabilities – advertise at up to 1 TOPS in computational capacity. Apple made a remark that they’re in a unique position in terms of their vertical integration, owning everything from the transistor level up to the OS software and dictating application architecture, being able to take advantage of this unlike any other vendor."

  -------

  Amúgy Abu itt irt az AMX-ről.
  https://prohardver.hu/hir/intel_szerverpiac_evek_ota_eloszor_szemez_tron.html ( ~ 1 évvel ezelőtt .. a kommenteket is érdemes újraolvasni )

  https://prohardver.hu/hir/ket_verzioban_jon_jovore_sapphire_rapids.html
  
  

Új hozzászólás Aktív témák