Új hozzászólás Aktív témák

• #7400 S_x96x_S addikt Petykemano #7398

  Új Válasz 2022-08-15 10:23:39 #7400

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  addikt

  válasz Petykemano #7398 üzenetére

  > De miért AMX és miért nem egy IGP,
  > ami koherens módon látja ugyanazt a memóriaterületet

  "ha jól értem",
  akkor ez egy AVX-512 -re szorosan épülő dolog[1];
  Amit minimális tranzisztorbővítésből meg lehetett csinálni,
  aminek az is az előnye, hogy müveletek végén gyors utófeldolgozást lehet csinálni a SIMD müveletekkel[2], amig az adatok még a proci cache-ben vannak.

  [1] "The best way for now to think of AMX is that it’s a matrix math overlay for the AVX-512 vector math units, as shown below. We can think of it like a “TensorCore” type unit for the CPU. The details about what this is were only a short snippet of the overall event, but it at least gives us an idea of how much space Intel is granting to training and inference specifically."
  [2] "At the end of each multiplication round, the tiles move to cache and SIMD post-processing and storing."
  ( via: nextplatform )

  az "alap" GPU-knak nem része a “TensorCore” ..
  vagyis ha az intel az XEON IGP -be akarja berakni, akkor eléggé fel kell tupiroznia azt.
  
  --------------
  
  Az AMD a jövőben .. [ Phoenix APU -ban és a Ryzen-ekben és az EPYC-ben ] a XILINX-es - AI Engine (AIE) -t használja,
  ami amolyan adaptive .. és ha jól látom tudja mátrixos müveleteket is gyorsítani.

  Vagyis akkor lesz az AMX-nek is alternativája .. habár lehet, hogy nem lesz utasítás szinten kompatibilis.
  
  "
  AMD is uniquely positioned with its broad product portfolio and experience serving diverse embedded markets to help customers develop and deploy applications with multiple forms of AI.
  The transformative acquisition of Xilinx provides AMD with an unmatched set of hardware and software capabilities, integrating the leadership Xilinx AI Engine (AIE) across AMD Ryzen, AMD EPYC and Xilinx Versal™ products for small and mid-size AI models to complement next-generation AMD Instinct accelerators and adaptive SoCs, enabling leadership performance on scale-out training and inference workloads.
  To unify AI programming tools, AMD also announced a multi-generation Unified AI Software roadmap that will allow AI developers to program across its CPU, GPU, and Adaptive SoC product portfolio from machine learning (ML) frameworks with the same set of tools and pre-optimized models." ( via )

  

  Elég izgalmas ez az AI-Engine:
  https://www.xilinx.com/products/technology/ai-engine.html
  

Új hozzászólás Aktív témák