Új hozzászólás Aktív témák
-
PHenis
senior tag
válasz
tothd1989
#1868
üzenetére
Én is kínai kamerákat használok csak nekem poe megy mindenfele a padláson. Van egy hikvison beltérim ami rögzít, ezért nem olyan égető. Engem inkább a frigate mindenféle tárgy és személy felismerő funkciója izgat amit majd ki szeretnék próbálni. Csak ahhoz is kell egy gpu vagy egy google coral vagy valami... én még nagyon messze állok attól hogy ilyesmit írjak magamtól, nemrég keztem a linuxot megismerni/használni.
Én személy szerint imádom a community cuccokat mert a tizedénél nem tartanék nélkülük, szoktam is donételni ha valamit használok vagy supportot kapok.
Jól értem , hogy wifis kamerákkal rögzítesz folyamatosan? Az úgy elég keményen hangzik
-
PHenis
senior tag
-
tothd1989
tag
válasz
tothd1989
#1850
üzenetére
Úgy nézem, a readme szerint támogatja a gpu-s generálást, de arra nem tudtam rábírni. Valószínűleg kézzel kellene újraforgatni a kódot vagy nem tudom, igazából csak a benchmark eredmények miatt szerettem volna kipróbálni. Egyébként egy ilyen összesített táblázatot érdemes lenne összehozni, melyik eszköz, hogy teljesít különböző cpun/gpun.
-
-
5leteseN
senior tag
válasz
tothd1989
#1825
üzenetére
Én inkább egy nVidia TESLA P40-et javaslok, az "igazi" 24GB VRAM, nem a kérdéses 2x12GB. Ilyen "magában", PCIe=>EPS adapterrel(eBay: 200$ körül):
...asztali gépbe előkészítve(a +blower hűtővel, kompletten+, kb. 30€/$):
Korábban ide is linkeltünk egész korrekt értékelést a P40-ről, abból kb összegezve: szövegesekhez még jó, több P40-nel tanítani is, kép-videó generálásra már saját használatra is gyengusz, de belépőnek elmegy.
Saját kiegészítés: Kétséges, hogy jól(kb null-szaldós egyenleggel) lehet kiszállni majd belőle.Ilyen:
..is viszonylag megfizethetően kiépíthető(3x200$/€, + az alapgép), de igazán csak szöveges (chat) AI-MI-re, tanításra lesz jó, a kép-videó generáló szoftverekkel eléggé "várakozós".
AI-S induló start-up-nak, tanításra, LoRA, RAG kipróbálásra elég, kis anyagi kockázattal.A Yt-on szerintem pikk-pakk kidobja a P40 összehasonlítós videókat, köztük azt a szerintünk is elég-jó szakmait, amit már linkeltünk is.
Egy a sok közül, ami az etalonnak számító 3090-el hasonlítja össze(nem néztem meg, nemtom' milyen szintű értékelés):
ITT(Yt) .A végére: kis eBay-es "lesben állással" 50-100€ között komplett szervert(HP/DELL) is el lehet csípni hozzá 60(nekem sikerült 128GB) RAM-mal.
![;]](//cdn.rios.hu/dl/s/v1.gif)
A két asztali gépes +hűtő egység-csomag(kb 2x30€) többe kerül!
...kis szerencsével! -
5leteseN
senior tag
válasz
tothd1989
#1818
üzenetére
A TESLA K80 2x12GB!! Gyanús, hogy egyben nem tudja 24GN-ként használni. A rajta használt Kelpler-GPU-t a mostani AI-MI szoftverek egyre jelentősebb része nem támogatja. Ez a folyamat csak rosszabb lesz.
Poénnak jó, jelentős napi gyakorlati használat szempontjából zsákutca.
Ahogy lassan a TESLA P4, P40 és AMD MI25ők is: elfogy alóluk a szoftver támogatás(CUDA, ROCm, ...).Ha nem szerverbe rakod, akkor még +venti-adapter és blower-venti is kell ám hozzá: +25-40€ összesen, kb!
Ismerős a helyzet P40 tulajdonoskén!
-
5leteseN
senior tag
válasz
tothd1989
#1722
üzenetére
A piac ennyire árazza be: kb 300€. Kis "lesben állással" én általában elcsípek jelentősen jobb vételeket. Ezt bárki megteheti.
Most még annyi 5letet bele vittem, hogy nem az 500$-os 22GB-os 2080Ti-t vettem meg, hanem egy 11GB-osat alig több, mint fél-áron. Már úton van.
Egy "szomszéd" cég ár alatt megcsinálja a 22GB-ra bővítést, némi ismeretséggel "alátámasztva".
Azon is gondolkozom, hogy a korábbi saját tudásomat felfrissítem erről a hw javítás-építés területről...Összeadva a két előnyt, nekem biztos megéri. Akinek szintén van ilyen tudásból-ismeretségből átkonvertálható árelőnye. annak is, bőven.
Aki meg nem szán 8-900€-t egy 3090-re, annak is....szerintem.
-
S_x96x_S
addikt
válasz
tothd1989
#1712
üzenetére
> .... meg volt válaszolva, minden friss.
> Mondjuk azt nem tudom miért haluzza be,
> hogy windows 10, amikor lassan 1 éve 11-et használok asztali gépen (virtualizálva is).én amikor elérem azt a pontot .. hogy ~ "nem értem, nem tudom "
akkor nagyon gyorsan arra a következtetésre jutok,
hogy --> újratelepítés nulláról.
és reménykedni, hogy ezúttal jobb lesz a helyzet.
( és ez a windows + linux -ra is érvényes )Amúgy én még angol nyelvű operációs rendszereket preferálom,
amiatt a praktikus ok miatt, hogy a hibaüzenetek is angolul vannak,
és akkor van remény, hogy találok a neten valami hasonló problémát
- ami közelebb vezethet a megoldáshoz. -
S_x96x_S
addikt
válasz
tothd1989
#1697
üzenetére
Ez a wsl néha elég trükkös.
Nem árt a WSL2 + WSLg
és tudtommal WSL1 -ben biztos nem fog menni.wsl --version
wsl --update
+ és néhány tuning.
"""
Since WSL2 is a virtual machine you’ll need to assign it resources. Microsoft provides some sensible defaults. WSL2 is allowed access to all CPU cores and GPU cores if you have WSLg installed. Memory is limited to half of your system’s memory. In my case WSL used 16GB because I had 32GB before my upgrade.
Please note, it can use up to a maximum of half your memory and all CPU/GPU cores. It doesn’t if there’s no need. When you create a regular VM, memory is locked for the VM to ensure it has enough. In this case, WSL can allocate more if it needs to use more.
Now that you know how resource management works on a high level, let’s take a look at configuring the memory limit.
https://fizzylogic.nl/2023/01/05/how-to-configure-memory-limits-in-wsl2
+ How to set up CUDA and PyTorch in Ubuntu 22.04 on WSL2 -
DarkByte
addikt
válasz
tothd1989
#1694
üzenetére
Mondjuk ezzel így nem tudok sok mindent kezdeni, konkrétum kellene mi nem megy.
De igazából azt mondanám, etesd meg a hibával a ChatGPT-t, és jó eséllyel elnavigál
Sajnos AMD vonalon nem vagyok képben se a WSL2 se a Linux-os integrációval. R9 270X volt az utolsó Radeon-om, azóta Nvidia-zom ismét.(Illetve hát.. ez sem igaz, mert a 7950X3D-ben van AMD grafikus mag, csak az APU részt még annyira sem támogatja ROCm-el az AMD, pedig már gondoltam rá megpróbálom befogni valami kevésbé intenzív feladatra, mint CLIP vagy VAE encode/decode, de sajnos zsákutca.)
-
DarkByte
addikt
válasz
tothd1989
#1692
üzenetére
Nem próbálkoztam még vele. Képgenerátorokhoz van a OneTrainer amit kinéztem már hogy egyszer kipróbálok, de nem volt még olyan dolog amit annyira be akartam volna neki tanítani.
Viszont Windows-on szerintem érdemes WSL2-zni. Tök jól működik vele pl. a CUDA gyorsítás. Lehet akárhány instance-od (distro-nak hívja szerencsétlenül). Van hozzá egy WSL2-Distro-Manager grafikus tool is, tud Dockerhub-os image-kből is csinálni újat. Elég bugos pár helyen, de összességében azért használható.
Én nemrég raktam át a ComfyUI-t bele teljesen, mert pár dolgot Windows-on sokkal körülményesebb lefordítani (pl. insightface dolgai)
Azért is jó, mert nem szemeteled vele a fő OS fájlrendszerét, ha kell akkor pillanatok alatt el lehet dózerolni, vagy akár drive-ok között költöztetni is.Template-eket is lehet vele csinálni, pl. én sokszor van hogy kipróbálok valami új ComfyUI plugin-t, de a fő installációmtól függetlenül hogy ne barmolja össze a Python függőségeket. Ezzel pillanatok alatt fel tudok lőni egy új példányt az alap beállításaimmal.
Tervben van hogy majd szerintem felrakok egy natív Linux-ot is (úgy is szeretnék kicsit próbálkozni a Proton-al is, bár Nvidia-val pont nem szerencsés), csak a napi mókuskerék mellett a fő állásomban valahogy nem visz rá OS telepítgetésre már a lélek.
A Windows Terminal-al együtt szerintem a WSL2 az utóbbi évek leghasznosabb dolga amit a Microsoft csinált, hogy ezt így beépítették és gondozzák.
-
S_x96x_S
addikt
válasz
tothd1989
#1687
üzenetére
> +8gb (lassabb) ram és 4x annyi token/s?
a titok nyitja,
hogy a deepseek-r1:32b - eleve 20GB csak az adat.
úgyhogy ahhoz, hogy a 16GB -on is fusson - swappelni kell a memóriát,
ami extrém módon lassítja .A deepseek-r1:14b - meg csak 9 GB
és az elfér teljesen egy 16GB -os VRAM-ban -
és itt tud érvényesülni a kevés de gyors VRAM.https://ollama.com/library/deepseek-r1/tags
14b
ea35dfe18182 • 9.0GB • 4 weeks ago32b
38056bbcbb2d • 20GB • 4 weeks ago -
5leteseN
senior tag
válasz
tothd1989
#1638
üzenetére
Mint szintén szerver újrahasznosító tag(ML350p G8, +egyebek...), örülök az ebből a szempontból is gyarapodó csapatnak.
Windows alatt az AMD-k mostoha-gyerekek
, tom', nekem is azok vannak.
Az én MI25-ösöeim a Linux-os ROCm alól is éppen kicsúsztak
, talán néhány hónapon belül hozzá hekkeli valaki.A szervert igazán egy reiser-rel kivezetett és kb 4x4-esen elosztott kűlső kiegészítéssel lehet kihasználni, az így megteremtett több VGA-t virtuálisan egyesítve és utána "vmi"(W10-11, Linux,...) alatt futtatva a 2-3-4VGAx0,85(kb az "összehangolási veszteségeket megadó
szorzóosztó") szeres AI-MI teljesítménytSzóval: "Üdv a fedélzeten!"
.
![;]](http://cdn.rios.hu/dl/s/v1.gif)
, tom', nekem is azok vannak.
, talán néhány hónapon belül hozzá hekkeli valaki.
.Új hozzászólás Aktív témák
Hirdetés
- Steam, GOG, Epic Store, Humble Store, Xbox PC Game Pass, Origin Access, uPlay+, Apple Arcade felhasználók barátságos izgulós topikja
- One otthoni szolgáltatások (TV, internet, telefon)
- NBA és kosárlabda topic
- Magga: PLEX: multimédia az egész lakásban
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- Hosszabb bemutatót kapott a Borderlands 4
- Genshin Impact (PC, PS4, Android, iOS)
- Windows Insider Program
- Autós topik
- Nagyrobogósok baráti topikja
- További aktív témák...
- BONTATLAN Új Iphone 16 PRO 128Gb - 1TB Független 1év Apple GARANCIA Deák Térnél Azonnal Átvehető.
- Új Bontatlan Mac Studio M4 Max 2025 14cCPU /32cGPU / 36GB RAM / 512GB SSD - Azonnal Átvehető Deák.
- BONTATLAN Új Iphone 16e 128-512GB 1év APPLE garancia gyári független Deák AZONNAL Átvehető Deák térn
- ÚJ bontatlan S9 45mm Silver Stainless steel Cellular milanese fémszíj 199.900 azonnal átvehető Deák
- ÚJ kipróbálásra felbontott MacBook Pro 16 M4 Pro 14CPU/20GPU 24GB/512GB SSD Magyar billentyűzet Azon
- Telefon felvásárlás!! iPhone 13 Mini/iPhone 13/iPhone 13 Pro/iPhone 13 Pro Max
- Telefon felváráslás!! Samsung Galaxy S22/Samsung Galaxy S22+/Samsung Galaxy S22 Ultra
- LG 34GS95UE - 34" Ívelt OLED / QHD 2K / 240Hz & 0.03ms / 1300 Nits / NVIDIA G-Sync / AMD FreeSync
- Lenovo Thinkpad L14 Gen 4 -14"FHD IPS - i5-1335U - 8GB - 256GB - Win11 - 2 év garancia - MAGYAR
- HPE Aruba PoE+ L3 switch raktárról azonnal elérhető!
Állásajánlatok
Cég: PC Trade Systems Kft.
Város: Szeged
Cég: CAMERA-PRO Hungary Kft
Város: Budapest