Új hozzászólás Aktív témák

• #8 Gábor001 tag Shyciii #7

  Új Válasz 2024-05-12 20:07:00 #8

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Gábor001

  tag

  válasz Shyciii #7 üzenetére

  Részben igaz, tényleg töredéke a training kapacitásigényének a futtatás. A bottleneck LLM-eknél inkább a (V)RAM, ami iPhone-on kicsi, az M2U viszont abban kifejezetten erős. Szerintem ez a fő ok a "kiszervezésre", mivel szerintem is elég erős az NPU az iPhone-okban.

Új hozzászólás Aktív témák