Új hozzászólás Aktív témák

• #57 haxiboy veterán Kristof93 #54

  Új Válasz 2024-05-05 00:24:54 #57

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  haxiboy

  veterán

  válasz Kristof93 #54 üzenetére

  A videóban a demot egy laptopon csinálta Chuck...leszámítva azt a néhány bevágást amivel demonstrálta mit lehet kihozni egy multi-gpu rendszerből.

  De érdekességképpen most kipróbáltam egy Raspberry Pi5 -ön és egész vállalható sebességgel fut még a llava is.

  Szerintem elképzelni nem tudod mennyi pénzt tolnak bele a cégek a publikusan elérhető modellek tanításába, amik futtatásához jé! nem kell atomerőmű.

• #53 haxiboy veterán Kristof93 #51

  Új Válasz 2024-05-03 23:59:11 #53

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  haxiboy

  veterán

  válasz Kristof93 #51 üzenetére

  [link] Ezt érdemes megnézni

• #47 haxiboy veterán Kristof93 #45

  Új Válasz 2024-05-03 19:39:45 #47

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  haxiboy

  veterán

  válasz Kristof93 #45 üzenetére

  "Senki nem fog ai gyorsítót venni" ?
  Ez pont olyan kijelentés minthogy GPU-t nem veszünk mert van a prociba integrálva, vagy hangkártyát/hálókártyát mert van az alaplapon.

  Apple az A11 óta pakolja a Neural Engine-t hardware-be. Észre sem fogjuk venni, néhány generáció váltás, és az AI ready hardware-kben ott lesz.

  Ahogy most az a menő hogy a videókártyádon van egy m.2 pcie csati az SSD-knek, miért ne jöhetne ilyen formátumban AI accelerator a jövőben vagy elhagyva a csatlakozót, rádrótozva a kártyára/alaplapra.

  A Microsoft egy halom pénzt öntött az OpenAI-ba. Előbb utóbb követelménnyé fogják tenni az AI gyorsítót a copilot-hoz. Olcsóbb az usernél futtatni mint a datacenterben.

• #37 Busterftw nagyúr Kristof93 #33

  Új Válasz 2024-05-03 14:01:01 #37

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Busterftw

  nagyúr

  válasz Kristof93 #33 üzenetére

  Te irtal 3080-t, en csak mondtam, hogy ha az a VRAM mennyiseg kell, akkor van mindket generacioban 24GB.

  Mellesleg a cikk nem kizarolag laptopokrol szol, hanem AI PC-krol, ahol dedikalt megoldasok is benne vannak.
  De ha mar mobil, a mobil 4090-en 16GB VRAM van.

• #34 haxiboy veterán Kristof93 #33

  Új Válasz 2024-05-03 12:54:49 #34

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  haxiboy

  veterán

  válasz Kristof93 #33 üzenetére

  Ps4 és Xbox one-nál -és az új konzolok esetében is- koherens memóriáról beszélünk. Kár összehasonlítani egy PC-vel.
  Amikor a Ps4 megjelent a GTX Titan és Titan Z volt az nvidia legizmosabb kártyája, 6 illetve 2x6GB gpu-val.
  A "standard" inkább a 2GB-s kártyák voltak akkoriban. Quantizált modelleket, alacsonyabb precizitással már egy 4GB Vram-mal rendelkező GPU-n is lehet futtatni.
  Valószínű, ha szeretné a gyors elterjedését a Microsoft az otthoni offline AI-nak, akkor olyan modellt fog szállítani ami.
  Az ASIC vagy FPGA alapú gyorsítók is hamarosan elérhető áron lesznek elérhetők. Mint pl a pici modellekhez szánt Coral.

• #32 Busterftw nagyúr Kristof93 #24

  Új Válasz 2024-05-03 09:40:38 #32

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Busterftw

  nagyúr

  válasz Kristof93 #24 üzenetére

  Nem tudom mirol beszelsz, 24GB vram volt a elozo es mostani gennel is.
  Ha ez a teljesitmeny kell, akkor megvehetted eddig is.

Új hozzászólás Aktív témák