Új hozzászólás Aktív témák

• #63887 S_x96x_S őstag Busterftw #63885

  Új Válasz 2024-02-26 15:59:19 #63887

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  S_x96x_S

  őstag

  válasz Busterftw #63885 üzenetére

  > mert ez a project otthon takolo felprofi embereknek/"cegeknek"
  > szol. Nekik az adott projectre olcsobb lenne berelni.

  A TinyCorp terv része ez is, mivel egy olcsó cloud-ot is szeretne felépíteni.
  És később akár saját cél chipet is.

  A tinygrad framework pedig hw független
  ( Apple M, AMD, nVidia, Qualcomm )
  vagy másképpen
  ( CPU ; GPU (OpenCL) ; C Code (Clang) ; LLVM; METAL ; CUDA ; PyTorch ; HIP )

  Szerintem ez inkább a profi embereknek/cégeknek szól ..
  akik tudják mit akarnak és meg is van a tudásuk
  a szoftveres bütyköléshez.
  (persze nem mindenkinek, de ez egy jó alternativa lehet)

  Lehet, hogy régen a profik Mainfame-t esetleg Microsoft Windows-t vagy Oracle-t használtak. De mára már sokkal inkább Linux-ot és PostgreSQL-t bütykölnek.
  A Cloud és az Open Source mindent megváltoztatott.

  Nincs éles határ, de én inkább a félprofiknak javasolnám a készrecsomagolt nVidia megoldást.
  De még a profiknál is lehet hibrid megoldásra szüksége
  amikor is az interference egy olcsóbb hw-en fut.

  A profi cégeknél se végtelen a büdzsé
  vagyis adott költségből kell a legtöbbet kihozni.
  és minél nagyobb a cég, annál inkább megéri lehajolni a centekért.
  Ezért is van profi cégeknek saját megoldásuk és chipjük. ( A Google-nek pl. saját TPU chipje )
  Ez a méretgazdaságosság.
  Az Intel-nek se volt végtelen ideig monopóliuma,
  És hiába mondta azt, hogy a profik csak Intel chipeket használnak
  mert az sokkal jobb és olcsóbb is,
  Ennek ellenére az Apple másképp számolt és kihozta a saját chipjét.

  Persze a közgazdaság ennél bonyolultabb egy TCO számításhoz.
  pl. az energiaköltség elég magas az EU egyes országaiban, hogy megérje bérelni. De bérlésnél is jó ha van alternativa
  ( ami nem nVidia ) mert az olcsó megoldásokra mindig van igény.

  A TiniCorp nyilvánvalóan a sokadik cég, akik az nVidia piacára pályáznak.
  És mivel startup .. Vagy sikerül nekik vagy nem.

  És a matek amit Geohot lát faék egyszerű:
  - 7900 XTX : 950 USD

  - A6000 (Ampere) : 4500 USD
  - A6000 (Ada) : 12300 USD
  - A6000 (Blackwell) : ???? USD

  Másképpen:
  6db 7900 XTX : 950 USD = ~ 6000 USD
  4db A6000 (Ampere) : 4500 USD = ~ 18000 USD

  És 1-2 év múlva:
  6db RDNA4: ???? USD = ~ 6000 USD
  4db A6000 (Ada) : 10000 USD = ~ 40000 USD

  És az ár - olló egyre csak nagyobb .. és nagyobb ..

  Emlékeztető:
  2018: Nvidia updates GeForce EULA to prohibit data center use
  Instead, it wants you to buy the significantly more expensive Tesla

  Vagyis itt azt a kérdés van feltéve,
  hogy
  - Legyen-e nVidia alternativa az AI-ban ?
  - Jó e az nVidia AI monopólium hosszú távon?
  Mert a verseny jó ! és ez az nVidia árakat is csökkenti,

  És nem az a kérdés, hogy mindenkinek megéri-e
  MOST a 6x 7900 XTX -es hw szörny ..
  Mert persze, hogy most még nem éri meg mindenkinek.
  ( Főleg azoknak akik nVidia kártyát használva kommentelnek az AMD topikba. )

  Ami még lényeges, hogy Geohot
  a Crypto profizmusra és nézőpontra is utalt ..
  vagyis olcsó (akár consumer) hw-ből értéket teremteni.

  és emlékeztetőül:

  "What's the goal of the tiny corp?
  To accelerate. We will commoditize the petaflop and enable AI for everyone."

  Mottó: "A verseny jó!"

Új hozzászólás Aktív témák