Új hozzászólás Aktív témák

• #67 Reggie0 félisten pengwin #61

  Új Válasz 2024-06-28 22:24:36 #67

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Reggie0

  félisten

  válasz pengwin #61 üzenetére

  NPU az ami csak az int8-ra megy es minden mas felesleges sallangot kivagtak belole. Treningelni NPU-val is lehet, ahhoz sem mas a matek precizitasa, csak sokkal tobb memo es szamitas kell.

• #62 Komplikato veterán pengwin #61

  Új Válasz 2024-05-14 18:56:52 #62

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  Komplikato

  veterán

  válasz pengwin #61 üzenetére

  Nagyobb modelleket most SE tud futtatni senki célhardver nélkül. Más tészta, hogy azokat szvsz NPU-val se fogja senki. Amúgy csak nekem fura, hogy a mobil szegmensbe nem áll bele az Nvidia, hanem partneren keresztül, aki állítólag a Mediatek lesz?

• #23 haxiboy veterán pengwin #5

  Új Válasz 2024-05-03 02:17:36 #23

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  haxiboy

  veterán

  válasz pengwin #5 üzenetére

  Jelenleg ezen dolgozik mindenki:
  Whisper, Piper, Fooocus (Stable Diffusion modellek), LLama stb.

  Ami néhány éve még álom volt, majd megjelent cloudban, már elérhető otthon is. Bár valóban érdemes őket megtámogatni. Nem is a modellek futtatásával van jelenleg már a gond. Az új modellek készítése/fine tuneolása még mindig hatalmas erőforrást igényel.

  "Így van! Amit, viszont el tudok képzelni, mondjuk 10 éven belül, hogy a nem fő NPC-k, AI generált válaszokat adnak a játékos viselkedése alapján."

  https://github.com/AkshitIreddy/Interactive-LLM-Powered-NPCs

  Lehet vele játszani Bár ez pont GPT4, ha elérünk erőforrásban oda hogy nem horror összegekbe kerül feltanítani egy modellt...
  Jó eséllyel ehhez nem fog kelleni 10 év. Ha valaki 5 évvel ezelőtt azt mondja nekem, hogy lesznek speciális AI modellek amik on-the-fly képesek nekem kódot írni, kontextus alapján, nagy valószínűséggel kitalálni hogy mit szeretnék csinálni, és/vagy specifikáció alapján kódot generálni, kiröhögöm. Most pedig napi szinten használom a munkámhoz.

  Egyébként meg az olyan nagy cégek mint a csúnya rossz Meta, sőt Microsoft, Apple és még sorolhatnám, tesznek közzé publikus modelleket és/vagy toolokat.

• #10 proof88 addikt pengwin #5

  Új Válasz 2024-05-02 18:18:47 #10

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  proof88

  addikt

  válasz pengwin #5 üzenetére

  De a kettő nem üti egymást, most is felhőből is és lokálisan is használjuk az AI-t.

• #9 hapakj őstag pengwin #5

  Új Válasz 2024-05-02 17:54:01 #9

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  hapakj

  őstag

  válasz pengwin #5 üzenetére

  Én meg épp azt látom, hogy az lenne a cél, hogy minnél több mindent letolni lokálba. Szerintem az infrastruktúra nem olcsó a cégeknek ehhez, s nehezen fognak majd tudni pénzt kérni érte. Főleg ahogy nézem az Apple valszeg meg se fogja lépni a serveren való futtatást. Nekik a iPhone 15 Pro-ba már 37 TOPS-szos NPU van. Átemelni ezt az Mx szériába sem lesz nagy probléma.

• #8 boxmaci tag pengwin #5

  Új Válasz 2024-05-02 17:53:16 #8

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  boxmaci

  tag

  válasz pengwin #5 üzenetére

  A következő generációs játékok valószínűleg AI-t használnak majd a grafikához valósidejű számítással, ezt csak lokálisan lehet megcsinálni. Hacsak nem streamelve játszik valaki, de az soha nem lesz rendes opció.

Új hozzászólás Aktív témák