- Garmin Forerunner 970 - fogd a pénzt, és fuss!
- Apple iPhone 16 Pro - rutinvizsga
- Xiaomi 14T - nem baj, hogy nem Pro
- iPhone topik
- Samsung Galaxy A55 - új év, régi stratégia
- LTE frekvenciák
- Youtube Android alkalmazás alternatívák reklámszűréssel / videók letöltése
- Honor Magic6 Pro - kör közepén számok
- A sógorokhoz érkezik a kompakt Vivo X200 FE
- Magisk
Új hozzászólás Aktív témák
-
Zizi123
senior tag
válasz
S_x96x_S
#1411
üzenetére
Akkor ezek szerint a channels és a controllers ugyanaz?
Csak mert a dual, quad, eight channels rendszerekbe ugye annyi darab memóriát kell rakni ahhoz, hogy kihasználja a rendszer sebességét.
Az Apple-né viszont 1-2db memória modul van max, és az tud 16, 24, 32 channelt???"kétcsatornás DDR5 memória ;
2x64 = 128 bit ; vagyis annyi tudhat mint az alap M4
és kevesebbet mint az "M4 Pro"
Ez azért fura, mert ahogy írtam is jelen pillanatban a létező leggyorsabb DDR5 memória modulok tudnak 40GB/s-et. azért nagyon elmarad a 120GB/s-től.Sajnos az Apple memória sebességről semmit nem lehet találni, hogy milyen gyors, mekkora a tényleges átviteli sebessége.
Visszatérve az AI-ra:
A Geegbench AI alapján:Single Precision (FP32) score:
M4 Pro 5.770
RTX 4090: 42.338Half Precision (FP16) score:
M4 Pro: 38.425 (RTX 4070 szint)
RTX 4090: 56.949Quantized (INT8) Score:
M4 Pro: 51.440
RTX 4090 31.147Tehát nagyon jó az Apple proci, főleg, hogy tartalmazza a GPU-t is, de 1 ugyanolyan árú PC-vel csak bizonyos AI feladatok esetén tudja felvenni a harcot.
-
Zizi123
senior tag
válasz
S_x96x_S
#1409
üzenetére
Értem, csak senki nem beszélt eddig notebookról.
Emlékeim szerint MacMini-ről, mini PC-ről volt szó utána én hoztam fel a PC-t, mint alternatív megoldást a MacMini helyett.Viszont még mindig nem értem, hogy a memória sebessége a controllerek számától függ?
Tehát a memória végtelen sebességű, csak attól függ a gyakorlati sebessége, hogy mennyi controller van a gépben?
Én eddig azt hittem, hogy maga a memória modulnak , a rajta levő chipnek van 1 sebessége. De akkor ezek szerint nem.
Pl az Intel i5-14500 CPU-ban mennyi memória controller van? -
Zizi123
senior tag
válasz
S_x96x_S
#1392
üzenetére
Bocs tényleg benéztem, hogy 16GB RAM van benne, így 100et-al olcsóbb, mint írtam.
Viszont amit írtál csak részben igaz."A gyors egyesített memória sebessége eléggé fontos, és egy M4 PRO-s 273GB/s of memory bandwidth -et lehetetlen összehozni 2 csatornás DDR5-ből."
Ez így igaz, ahogy az Apple sem tudja összehozni szerintem. Ez max 1 elvi sebesség lehet, mert maga a DDR5 memória nem tud annyit amit használ az Apple is. A csúcs DDR5 memóriák tudnak 40GB/s körül olvasni az LPDDR5 viszont nyilván nincs a közelébe ennek. Ha DDR5-ből csinál GPU memóriát, akkor annak kellene lennie a gyenge láncszemnek.
Vagy valamit nagyon félreértek.Nem túl sportszerű mobil GPU-val hasonlítgatni a MacMini-t
Ha a 4070 Ti-vel, vagy Ti Super-al hasonlítjuk összes akkor már nagyon csúnyán alúlmarad a MacMini a az RTX 4070 GPU-k 672.3 GB/s memória sávszélességhez képest.
Vagy az RTX 4080 Super 736MB/s-jéhez képest.Igen ezek csak 16GB-os kártyák azt nem tudom, hogy tudnak-e az AI alkalmazások több kártyát használni egyszerre, pl a (ComfyUI biztos nem, mert azzal szórakoztam én is, de azt írják, hogy csak 1 kártyát tud kezelni egyszerre)
Tehát azért 1 próbát megérne, hogy az említett 48GB-os modell-t ha betöltöd az milyen sebességgel dolgozik, a LPDDR5 memória visszafogja-e vagy sem ...
De persze ez józan paraszti logika, símán lehet, hogy nem így működik a dolog.
Írdd már meg légy szíves ha nem stimmel a gondolkodásom. -
S_x96x_S
addikt
válasz
S_x96x_S
#1399
üzenetére
És egy 28GB -os modell ; csak 1.55 token/sec
cpu mód:
"""
# ollama run gemma2:27b-instruct-q8_0 --verbose
>>> hello
Hello! 👋
How can I help you today? 😊
total duration: 26.185456189s
load duration: 72.464752ms
prompt eval count: 10 token(s)
prompt eval duration: 17.71s
prompt eval rate: 0.56 tokens/s
eval count: 13 token(s)
eval duration: 8.372s
eval rate: 1.55 tokens/s
"""
( Minisforum UM790 Pro - Ryzen 9 7940HS - 32 GB DDR5 RAM )Persze kinek mire kell;
de a nagy modellek sebessége egyre csak csökken és nem árt a memória sávszélesség.
emiatt a CPU módot hamar ki lehet nőni ... -
Lokarson
tag
válasz
S_x96x_S
#1391
üzenetére
Én most Intel 1135g7(Iris XE) notit használok 24GB Ram-mal. IPEX-LLM-mel már GPU támogatásom is volt (taskbar-ban is láttam a GPU terhelést: 90%), de nem volt gyors.
A Mac-től egy kicsit tartok (nem ismert Op.rendszer, programok, perifériák, nem bővíthető stb.), ezért gondoltam a 125H/155H vonalra.
A 780M-re még nincs rendes GPU támogatás? (Ezt is néztem egyébként.)
Olvasva a többiek hozzászólását is, talán egy használt 3060 12GB-os gép lenne a legköltséghatékonyabb megoldás számomra, vagy heti néhány órára runpod. -
ptesza
senior tag
válasz
S_x96x_S
#1349
üzenetére
Nekem nagyon úgy tűnik, hogy nem az AI-t használják. Hanem a régi jólbevált végeselem módszert amit az ANSYS fog adni. Egy helyen meg is villantották. Egy ilyen hidraulikus szimuláció a háló sűrűségétől függően akár több napig is eltarthat egy 2000-3000 magos klaszteren is. Ez drága játékszer a nagyfiúknak. Eddig sem az volt a baj, hogy a mérnök nem értette azt amit csinált és kellett volna hozzá egy AI, hanem ilyen eszközökhöz inkább csak a nagy multi cégek tudnak hozzáférni és megfizetni.
-
repvez
addikt
válasz
S_x96x_S
#1338
üzenetére
majd ha melo mellett több időm lesz megg látom, hogy esetleg tudok valamit kezdeni a dologbol, akor ugy is jobban rá álnék a témára, de addig mig semmit nem tudok addig nem akarok pénzt belefeccolni, föleg ha tényleg nem ugy halad ahogy szeretném.
Ezért lett volna jo ha van egy olyan ismerős aki hasonlo érdeklödésu mint én és tud programozni, mert akkor folyamatába tdtuk volna egymást segiteni és az ötletelésel ö meg a kodolással és akkor elöbb utobb már mindenki beleszokott volna és átlátta volna a kodot, hogy mit miért hogyan . -
#1337
Komplikato
veterán
S_x96x_S
#1335
Komplikato
veterán
válasz
S_x96x_S
#1335
üzenetére
OFF: Nekem nagyon vicces, hogy ma a Phyton mennyire megkerülhetetlen. Mikor anno Amigára (!) kijött ez a nyelv, az alapjait tartalmazó könyvet alig bírták elsózni. Annyit tudtak felhozni mellette, hogy könnyebb és észszerűbb, mint a C.
Érdekelne hogyan vészelte át azt az 1-2 évtizedet, amíg annyira el volt ásva, hogy nem is hallottam felőle. -
repvez
addikt
válasz
S_x96x_S
#1335
üzenetére
ezeket a kröket már megfutottam évekkel ezelött, nincs senki ismerős aki kodolni tud, a codolos topicokbol meg elhajtanak azzal, hogy az ugy nem megy ahogy én gondolom, mert elöbb tanuljak meg basicet meg más egyszerü nyelvet majd utána ha az megy akkor tanuljak meg olyan nyelvet amivel már mindent lehet aztán azon is gyakoroljak kis programokat és majd utána nekiállhatok .
Mert azt ugy nem lehet, hogy egy nagy projectnek nekiálok és elöszor felépitem a vázát , és majd kicsinnyenként épitem fel hozzá a részleteket.
YT-on és könyvekbol meg egyedül nem leht , ugy hogy közben nincs senki aki megválaszolná azokat a részeket ami nem tiszta és ott se tudom átultetni olyan programba ami nekem tetszik, olyant meg nem szeretnék, hogy csak azért csinálok egy telefonkönyvet, vagy számologépet , amit utána nem használok, de az idő meg eltelik vele és nem haladok azzal ami érdekelne.Ezért is örülök, hogy már van ilyen AI leetőség,mert bár nem értem a kodot,, de legalább már most olyan dolgokat sikerült vele megcsinálnomm, amit szerettem volna , igaz, hogoy bajlodni kell vele, hogy megértse mit akarok, vagy hogy müködjön egyáltalán, de legallább valamerre visz.
-
repvez
addikt
válasz
S_x96x_S
#1333
üzenetére
mivel nem tudok egyáltalán kodolni és a legtöbb ilyenhez azért kéne érteni minimálisan valamit , ezért mégha le is van irva nem teljesen tiszta, hogy mikor mit és hogyan kéne használnom, a github meg amugy is nekem egy elég átláthatatlan valami
Csak annyira szoktam használni, hogy a zip filet le tudom tölteni .
DE inkább maradnék valami jobban átlátható leirásnál vagy egy OCI install nál vagy egy next next ok, stilusnál.
Ezért is kérdeztem, mert a YT-on látom hogy használják páran, de a pontos részleteit nem mutatják meg, hogy akkor most mégis mit honnan kell letötlteni beállitani.
Meg általában nálam sose szokott mukodni elsöre az ami ott igy a hibákat se tudom, hogy lehet kijavitani vagy mit kell olyankor tenni. -
V.Stryker
nagyúr
válasz
S_x96x_S
#1205
üzenetére
Próbáltam és ugye alapból a plusba rakott be. Nagyon jól válaszolt, nem volt benne annyira sok halandzsa.
Amúgy ami a free-ből hiányzik, hogy tudjak neki doksikat (pdf, word,) bedobni és az abban lévő adatokról infókat kérdezni, hogy ne nekem kelljen órákig átnyálazni.
Na ez a plusban zseni módon működik.
Van esetleg erre ingyenes AI?
-
Atomgeszi
nagyúr
válasz
S_x96x_S
#1194
üzenetére
Nekem csak az a bajom, hogy rendkívül sokat hibázik, még egyszerű dolgokban is.
Amire 2 héttel ezelőtt zsigerből jól mondta a választ, azt most nem jól tudja. Ha kijavítom, akkor mondja, hogy "Igazad van, rosszul tudtam" "Javítom" "Legközelebb tudni fogom"... aha. Aztán utána ugyanúgy nem tudja. Persze, oké, hibázhat ez tény. De én már bármilyen válaszra inkább kétszer kérdezek rá, és akkor önellenőrzésnél általában saját magától rájön, hogy hibásan gondolkodott. Most kipróbáltam egy szándékosan egyszerű rajzzal is, már ezt elsőre benézte, amikor kértem, hogy rajzoljon bele.
Persze magunknak is ez egy jó ellenőrzés, hogy kételkedünk mindenben, amit mond, a gond azzal van, hogy sok sok idő megy el a kiigazításra.
És ez csak egy szándékosan párvonalas rajz volt, a bonyolultabbakat nem is mertem.
Amúgy hétről hétre ügyesebb, a válaszokat tekintve is. Csak tudni kell a korlátjait.
-
-
Mp3Pintyo
HÁZIGAZDA
-
-
Mp3Pintyo
HÁZIGAZDA
válasz
S_x96x_S
#1090
üzenetére
A Copilot esetén egyből bukik a ne jusson ki a netre. A Copilot 365 Studiot próbáltam én is. Felemás eredményeket adott válaszként. Késő tavasszal még nem kezelte jól a magyar nyelvű fájlokat. Az előfizetés sem olcsó rá. 100 dokumentumot lehet tudásbázisnak beadni amik max...mennyi is volt talán 1MByteosak lehetnek.
-
-
5leteseN
senior tag
-
consono
nagyúr
válasz
S_x96x_S
#1072
üzenetére
Igen, vicces dolog
Bár hogy értem hozzád képest van azért különbség, mert itt az integrált Arc GPU végzi a munka nehezét, még ha nem is dedikált memóriával, hanem a RAM-ból lecsípve. Jó, hát gyorsnak így sem gyors, az tény Az NPU használatra én is kíváncsi lennék, főleg a fogyasztása miatt, mert csodát ott sem várok a teljesítményben egy combosabb GPU-hoz képest...
-
5leteseN
senior tag
válasz
S_x96x_S
#1070
üzenetére
"A CPU-nak: max 40 PCIe 3.0 sávja van. ..."
A sok (főleg megfizethetőség)szempontból versenytárs Ryzen-eknek meg a fele se. Van a Ryzen-nek 2-csatornás RAM-üzemmódja, amivel valóban lehet arany-árony a gyorsabb DDR5-RAM sebességet letenni az asztalra a jelen esetben 5GBps körüli négy-csatornás DDR3-as helyett, majd megduplázva az említett aranyárat lesz is
felenegyede RAM, mint ez esetben a "kis-öregnek"(2011-3): 128GB.
Nekem még ott van a "kis-öreges vas"(2011-3) esetében a tarsolyban a RAM-disk-es futtatás is!
![;]](//cdn.rios.hu/dl/s/v1.gif)
Linux-nál lazán megy(toram
).
Az alapra írják egyébként, hogy 2x16sávos VGA és 1x4sávos VGA van rajta, teljes(16 sávos aljzattal mindegyik)."...Vagyis modern GPU-t nem tudsz kihajtani vele..."
Miért nem?Ha drága az alap rendszer akkor tudok venni bele kezdetnek egy 3090-et, vagy 4060Ti 16GB-ot.
Ezek az AI programon többségénél az AI szoftvet(és modell/LLM/*.safetensor) betöltés után szinte csak a GPU-n dolgoznak. A PCIe3.0-ból 4 csatorna is elég a jelenlegi szoftverek esetén.Ha "fejhető" átlag-felhasználók többségének ez-ilyen VGA-ja van(lesz) akkor ezen a szoftver irányon nem is fognak tudni(akarni) változtatni a kereslet-kínálat törvénye alapján.
"...és egy modern SSD-vel se tudod etetni a GPU-t."
Miért nem tudom? Van 2 PCIe3.0-s SSD-m, szofveres RAID0 alá teszem őket!
Nicsak: Megvan a PCIe4.0-ás sebessége , és szerintem 2x1TB Gen3-as SSD olcsóbb, mint egy 2TB-os Gen4-es.A PCIe5.0-ás ellen valóban maradna a RAID0-ás (kétszeres PCIe3.0=) PCIe4.0-ás sebesség, de ez már olyan, mint amikor a(z ironikus) Playboy-karikatúrában a azon vitáznak ketten , hogy a Ferrari a tulajdonosnak jobb, vagy a Bugatti gazdinak, miközben órák óta ülnek a városi dugóban!
Igen, a PCIe5.0-s SSD sebességét ezzel a 2011-3-as alaplappal nem lehet elérni(csak a PCIe4.0-ásét), de a kettő közötti különbség a gyakorlatban jelentéktelen, viszont az ármegtakarításból a GPU-ra fordítható összeglátványosan megnő, és egy fél-professzionális AI-vas teljesítménye lesz kiépíthető így! ...gondolom(és csinálom) én!
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
Hirdetés
- Anime filmek és sorozatok
- Bestbuy játékok
- LEGO klub
- Továbbfejlődött a Keychron egéralternatívája a Logitech MX Masterre
- Autós topik
- Azonnali informatikai kérdések órája
- Asztalos klub
- OTP Bank topic
- Hálózati kábelek és szerelésük
- Telekom otthoni szolgáltatások (TV, internet, telefon)
- További aktív témák...
- HP Probook 450 G5 - 15", i5-8250U, 8GB RAM, 128GB SSD
- BESZÁMÍTÁS! Gigabyte A620M R5 7500F 32GB DDR5 500GB SSD RX 6700XT 12GB Cooler Master CMP 520L 750W
- Samsung SD590C 27" Full Hd monitor
- Creality Ender 3 Pro 3D nyomtató
- BESZÁMÍTÁS! MSI B450M R 5 5600X 32GB DDR4 512GB SSD RTX 3060 12GB Rampage SHIVA Corsair 650W
- Beszámítás! Sony PlayStation 4 PRO 1TB fekete játékkonzol extra játékokkal garanciával hibátlan
- Crucial 240GB SSD eladó
- 129 - Lenovo Legion Pro 7 (16ARX8H) - AMD Ryzen 9 7945HX, RTX 4080
- Lejárt a gyártói garancia? Mi tovább támogatjuk az IT infrádat!
- Lenovo ThinkPad X270 (16) - i5-7300U, 16GB, 512GB SSD, 12" FULL HD
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft
Város: Budapest
Cég: PC Trade Systems Kft.
Város: Szeged