- Xiaomi 15 - kicsi telefon nagy energiával
- A sógorokhoz érkezik a kompakt Vivo X200 FE
- Mobil flották
- Csak semmi szimmetria: flegma dizájnnal készül a Nothing Phone (3)
- Redmi Note 13 Pro 5G - nem százas, kétszázas!
- Redmi Note 13 Pro+ - a fejlődés íve
- iPhone topik
- Samsung Galaxy Watch6 Classic - tekerd!
- Milyen okostelefont vegyek?
- Hat év támogatást csomagolt fém házba a OnePlus Nord 4
Új hozzászólás Aktív témák
-
ddekany
veterán
válasz
Mp3Pintyo
#12
üzenetére
Túl könnyű feladatok. De ha már YouTube, kivárom mit mond az AI Explained. (Ha magyar nyelvű csatornákra szűkítesz, eleve a választék valami töredék ezrelékéből választasz, ami furcsa.)
Amúgy meg mostani AI-oknál nagyon számít, hogy mire használod, mivel mind eléggé korlátos. Ha pl. azt látjuk, hogy Cursor-ban ezt használják R1 vagy Calude helyett, munkára(!), na az valami. Főleg ha agent módban nem vérzik el, az nagyon meglepő lenne.
-
ddekany
veterán
Na várjunk... DeepSeek-nél a nagyobb context window lehet, hogy nem is ad hozzá sokat VRAM igényhez, a KV cache-el kapcsolatos újításuk miatt. A tipikus "distilled" modelleknél (amik inkább meglévők fine tuning-ai) ez az újítás értelemszerűen nincs. A Unsloth félére már viszont vonatkozik (feltételezem), szóval akkor lehet, hogy tudsz jó nagy context lenght-et beállítani.
-
ddekany
veterán
Na ja, csak ez a sokkal olcsóbb memória sokkal lassabb is. A H100 meg MI300 ára persze azért is elmebeteg, mert alkalmasak arra, hogy rakás klienst kiszolgálj velük, azaz azok "ipari" termelőeszközök, amiknek mindig is magas volt az ára, az átlagember otthonra szánt cuccaihoz képest.
Valójában az lenne a jó üzlet nekünk, ha az nVidia nem szívózna azzal, hogy kevés VRAM-ot rak a halandóknak szánt videókártyáira, de hát ugye nem ettek meszet. (Persze aztán majd még jöhet a Digits és társai.)
-
ddekany
veterán
QwQ-32B az nagyon új fejlemény (bár előzetes már volt pár hónapja), és meglepne, ha a gyakorlatban is megütné azt a szintet mint az R1. Másfelől viszont, azt simán elhinném, hogy 1-2 éven belül egy 32B-s model tudni fogja aszt, amit most egy ~671B-s... és ahhoz képest nem totál lehetetlen, hogy ez már most van.
-
-
ddekany
veterán
DeepSeek R1 esetén, ami rengeteg tétovázós kimenetet generál, 2K nagyon kevésnek tűnik. Persze feladat függő, de azt mondanám, az szinte mindenre kevés. 16K körül meg már felfut 500GB-re VRAM igény. Meg persze ez, amivel kalkulálsz, eleve egy erősen összenyomott változat, és bár a készítők azt állítják, hogy szinte észrevehetetlen a különbség, én nem lennék optimista... a rendes R1-nek is még van mit fejlődnie megbízhatóság terén.
Új hozzászólás Aktív témák
Hirdetés
- Sorozatok
- Vezetékes FEJhallgatók
- WLAN, WiFi, vezeték nélküli hálózat
- Debrecen és környéke adok-veszek-beszélgetek
- Jogász topic
- D1Rect: Nagy "hülyétkapokazapróktól" topik
- PROHARDVER! feedback: bugok, problémák, ötletek
- Xiaomi 15 - kicsi telefon nagy energiával
- A sógorokhoz érkezik a kompakt Vivo X200 FE
- Fájdalmasan gyenge kijelzőt válaszott a Switch 2-höz a Nintendo
- További aktív témák...
- Asztali PC , i7 11700KF , RTX 3070 Ti , 32GB DDR4 , 512GB NVME , 2TB HDD
- Új, Gamer - GIGABYTE Z790 D + Intel I7 14700KF + Kingston Fury Beast RGB 2x16GB DDR5 6000MHz CL30
- Csere-Beszámítás! Akciós Gamer PC! R5 5500 / GTX 1070Ti Rog Strix / 32GB D4 / 500GB SSD
- Gamer Félgép - MSI Z370-A PRO + Intel I7 8700K + Kingston HyperX 2x8GB 2666MHz CL13
- ASRock Z690 PG Riptide + Intel I7 12700 ES + Netac 2x16GB DDR4 3200MHz CL16
- Apple iPhone 14 128GB , Kártyafüggetlen
- SanDisk Extreme Portable 8TB (SDSSDE61-8T00-G25)
- Akciós Windows 10 / 11 Pro OEM Licenc Kulcs 100% eredeti, jogtiszta!
- Csere-Beszámítás! AMD Ryzen 7 7700 Processzor!
- ÁRGARANCIA!Épített KomPhone Ryzen 7 7800X3D 32/64GB RAM RTX 5070Ti 16GB GAMER PC termékbeszámítással
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft
Város: Budapest
Cég: PC Trade Systems Kft.
Város: Szeged