- Xiaomi 14T - nem baj, hogy nem Pro
- Realme 9 Pro+ - szükséges plusz?
- Xiaomi Redmi Note 5 Global
- Új design és okosabb AI: megjött a Galaxy S25 készülékcsalád
- Szilícium-szén teleppel készül a Galaxy S26
- Integrálja a Honor saját asszisztensébe a DeepSeeket
- iPhone topik
- Redmi Note 9 Pro [joyeuse]
- One mobilszolgáltatások
- Samsung Galaxy A55 - új év, régi stratégia
Új hozzászólás Aktív témák
-
Feketelaszlo
senior tag
Ez mondjuk pont úgy hangzik, mint egy Solver mintafeladat. LLM chatprogramokra nem érdemes lineáris programozást bízni.
[ Szerkesztve ]
-
seredy
tag
Sziasztok, a munkahelyen a következő heti beosztást én szoktam elkészíteni, a csapattagokat különféle service-ekbe kell betennem (chatelés, telefon, bejövő ticketek routolása). Van erre egy Excel-táblázat, ahol a kollégák előzetesen megadják, ki milyen sávokban érhető el, meg ahol a szabizók is jelzik előre, hogy adott napon nem elérhetőek. A feltételek megadásával az Excel-template-et feltöltve melyik AI tudná generálni a beosztást? (Nyilván szenzitív adatokat eleve kiszedném, a lényeg, hogy gyártson le egy beosztást.) Simán ChatGPT vagy van valami hatékonyabb? Heti szinten 3 órám minimum elmegy azzal, hogy kisakkozzam, hogy kéne lefedni a service-eket.
[ Szerkesztve ]
-
freddirty
senior tag
válasz
aprokaroka87 #1576 üzenetére
Akkor az már eléggé pöpec AI. A legtöbb mindenféle hülyeséget hord össze a földbe döngölve így a megbízhatóságát. Nagyjából itt van ma a határa az AI-nak az alkalmazások nagy részénél. Ha kérdezek és a válasz nem 100%-osan jó akkor inkább nem is kérdezek. Mondjuk egy programrészletet a válaszban ki tudok javítani a használat során (mert időt spórol nekem az ai nem szakértelmet), de ha egzakt 100%os válaszokat akarok mert a tudásom nem elegendő akkor ma még nem megoldás az AI.
fred
-
attiati
veterán
válasz
aprokaroka87 #1576 üzenetére
még mindig jobb, mint amikor majd azt mondja, hogy az "adott feladat meghaladja a képességeidet"
-
aprokaroka87
nagyúr
Nincs is annál jobb érzés amikor az AI közli veled hogy az Adott feladat meghaladja a képességeit 😁
-
consono
nagyúr
válasz
Rodzser Mór #1571 üzenetére
Ha megvan a szabvány, akkor pl. a Google féle NotebookLM sokat tud segíteni, lehet kérdezni, állít össze kérdéssort, összefoglalót, stb.
Ellenben ha nincs meg a szabvány és te a vásárlás helyett az MI-ből akarod kiszedni, akkor sok sikert hozzá..."Mechazilla has caught the booster."
-
S_x96x_S
addikt
válasz
Rodzser Mór #1571 üzenetére
> Leírja nekem a MI a teljes szabványt? (pl angolul, az eredeti nyelven íródva)
> Melyik MI-t lehet / érdemes erről kérdezni?Az általános MI-nél - általában meg kell adni a PDF-t
( ami lehet egy tudományos kutatás vagy egy szabvány )
és akkor lehet kérdezni tőle,
vagy megkérni, hogy magyarázza el.
Minden más esetben hallucinál.Természetesen létezhetnek speciális szakmai standerdekkel foglalkozó adatbázisok, amelyektől MI-vel kérdezhetsz,
pl. ---> https://chatgpt.com/gpts keresés :
"iso standards" -ból van sok alternative de ezeknek utána kell nézni.Az első találat:
ISO Standards Regulatory Assistant
By Vitalijs Canajevs
Built with access to over 15'000 ISO regulatory documents
https://chatgpt.com/g/g-3mp5A9THt-iso-standards-regulatory-assistant----------
Amúgy léteznek kockázatok is.
"The Risks of Using AI Tools like ChatGPT in ISO 27001 Compliance: What To Look Out For" --> https://archive.md/P29Cg
[ Szerkesztve ]
Mottó: "A verseny jó!"
-
hiperFizikus
senior tag
válasz
Rodzser Mór #1571 üzenetére
"Melyik most a legfejlettebb MI?"
Amit én épen most programozok le !
De biztosan nem ugyanazt értjük az MI fogalom alatt ♥
Ti röviden mit értetek alatta !
A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
Rodzser Mór
senior tag
Helló!
Melyik most a legfejlettebb MI?
Teljes szabványokat szeretnék (letölteni), amik egyébként fizetősek, elég komoly összegeket kérnek érte.
Leírja nekem a MI a teljes szabványt? (pl angolul, az eredeti nyelven íródva)
Melyik MI-t lehet / érdemes erről kérdezni? Kipróbálnám magam, csak nem ismerem ezeket a MI weboldalakat. A ChatGPT-ről hallottam már, de nem használtam, azt sem tudom, hol keressem
-
5leteseN
senior tag
Lehet, hogy gyorsan le kellene tölteni a Huginface-ről amíg-lehet/amíg-hagyják DeepSeek és a Qwen LLM-eket, "de-gyorsan"?
Óvatosan a mesterséges intelligenciával, új szabályozás érkezett, és nagy büntetések jönnek(Index)
Egy Tik Tok kizárására emlékeztető forgatókönyvet látok a háttérben, az üzlet-rontó "kici-kínai" megoldással szemben, ismét.
Elvégre: MekkelMenteniA Világot/-demokráciát/...
[ Szerkesztve ]
-
nincsnév007
őstag
válasz
hiperFizikus #1568 üzenetére
Viccen kívül, sokszor jól jönne mert akkor nem kell egyesével le fényképezni neki pl tanulássnál, meg az aktív képernyő megosztas is. De azt megtudtam hogy ezek a plusz elofizetéssben vannak, meg sajnos itthon még nem működik, de egyre több uniós országban igen.
-
hiperFizikus
senior tag
válasz
nincsnév007 #1565 üzenetére
És akkor tisztíthatom utánuk a ragacsos billentyűzetemet, mi ?
A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
Mp3Pintyo
aktív tag
válasz
freddirty #1566 üzenetére
A videósorozat első részében láthatod, hogy egy ai starter kit kerül fel ami egy olyan dockeres telepítés ami több mindent tartalmaz. Többek között a postgrest is. Tehát nem kell vele külön foglalkoznod. De a qdrant is jó ha azt jobban szereted. Az is a része.
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
freddirty
senior tag
@Mp3Pintyo: Láttam a videóidban hogy postgres vector adatbázist használsz RAG-hoz.
Idáig az anythingllm és webui RAG funkcióit próbálgattam és egyszerűbb inputokkal hasonlóan működnek mint mondjuk a Te Rejtős példád az n8n használatával.
De komolyabb doksiknál már megfekszik az AI, halucinál, kevés valóságtartalommal, hülye válaszokkal jön vissza. /több száz oldalas IT specifikációk/
Megpróbálnám az n8n-el is, hátha. Nálam picit más az IT környezet, homelab szerver amin a konténerek/szolgáltatások futnak, az egyetlen lokális a desktopomon az ollama mert ugye a videokártya a gaming gépben van
Na de a kérdés, hogy milyen postgres szerver kell a RAG-hoz n8n mögé? Van egy rakat konténer amit rá tudok tenni a szerverre, kböző verziók, official/non official image-ek.fred
-
nincsnév007
őstag
válasz
hiperFizikus #1563 üzenetére
aktív képernyőmegosztás
mondjuk az is nagyon jó.
-
hiperFizikus
senior tag
válasz
nincsnév007 #1562 üzenetére
mi jöhet még ezután ?
A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
nincsnév007
őstag
Sziasztok. Akinek van chatgpt elofizetése az megnézné hogy megjelent e már hogy videóban is lehet vele beszélni?
-
consono
nagyúr
válasz
lockdown90 #1560 üzenetére
Nem, nyilván
De én segítségnek használom, Stackoverflow helyett, nem arra, hogy dolgozzon helyettem
"Mechazilla has caught the booster."
-
Azt értem hogy át tudjátok állítani, de az nem jelenti azt, hogy egy ChatGPT llm-et kaptok, annak a megszokott szolgáltatásaival, és műkődési jellegével. A modell válasza fel van dolgozva, egy kibővített keresőmotorként működik, példa linkekkel, képekkel, találatokkal, vagy akár a témához tartozó aktuális hírekkel. Ez ki van egészítve szöveges magyarázattal, továbbfinomítási lehetőséggel. Nem igazán beszélgetésre való, vagy problémák megoldására, kódolására, hiába ugyanaz a modell dolgozik mögötte. Ez egy llm alapú webes keresőmotor, mint a Bing, csak szteroidokon. A képgenerálás ugyanez: a találatra (az aktuális context window tartalmára) generál egy képet, ennyit lehet tőle kérni. Finomítani, paraméterezni nem lehet.
Nem bántani akarom, tényleg jó cucc, ingyen meg pláne, de nem egy frontier llm modell szolgáltatásait adja, hanem egy arra ráhúzott célfeladatot teljesít, és azt elég jól.
[ Szerkesztve ]
-
Mp3Pintyo
aktív tag
válasz
Pitti11 #1550 üzenetére
Az olyan oldalakon ahol sokféle modellt érsze el API-n keresztül használod ezeket a modelleket.
1. Nem feltétlenül fogod megkapni azonnal az új modelleket amik mondjuk a ChatGPT felületén megjelennek.
2. de a legfájóbb, hogy azokat a szolgáltatásokat amiket ezeken a felületeken elérhetsz nem tudod kihasználni.
ChatGPt esetén: task, canvas, custom gpt, projektek, stb...https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
-
Pitti11
tag
chatgpt.com-on sajnos elértem a free limitet most már csak a 4o minivel tudok diskurálni
Gondoltam előfizetek a plus csomagra ami $20/hó. Viszont chatbotapp.ai felületen $40/3hó vagy $60/év valamint több AI között választhatok gpt 4o, deepseek, stb...
Hol van a buktató? Mit javasoltok?
-
Mp3Pintyo
aktív tag
válasz
d.janos #1548 üzenetére
igen, van.
Jelenleg ez az egyik legjobb:
Automata feliratkészítés minden eddiginél gyorsabban a saját számítógépünkön teljesen ingyenesenhttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
d.janos
csendes tag
Van olyan program, a legjobb ha offline, ami MP3 vagy wav fájlokat szöveggé alakít de mindezt korlátlanul, hosszban és mennyiségben? Vagy ezek csak fizetősek?
-
WiZARD
addikt
vicces gyerek ez a deepseek
Soha ne vitatkozz idiótákkal! Lesüllyedsz az ő szintjükre és legyőznek a rutinjukkal. * phenomestraps.com *
-
Dyingsoul
veterán
Sziasztok!
Tudnátok ajánlani valami olcsóbb alternatívát, mint a pika, runwayml, képből mozgókép készítésére? (Igen, konkrétan videó.
)
Kísérletezgettem még az immersity Ai-al, de az nem az igazi... Cliptalk egész jó, de az is drága. Én valahogy azt látom, hogy kb az összes AI azonos vagy nagyon hasonló árban van, gondolom amiatt, hogy kb ugyanazokat a fizetős API-kat kötik be maguk mögé...
Premiere Pro-val nem lehet valahogy animálni a képeket? Ezt is kutatom most...Egyébként Suno-val készítek számokat és azokhoz szeretnék visual-t készíteni, ezért kérdezem. Midjourney-vel meg képeket, de a kép uncsi a számhoz visual-nka.
[ Szerkesztve ]
- Szakmai kérdésekre privátban nem válaszolok, mivel másoknak is hasznos lehet. Erre való a szakmai fórum! -- YT: youtube.com/dyingsoulgaming -- FB: facebook.com/DyingsoulGaming/ Stream: http://twitch.tv/dyingsoul
-
Winner_hun
félisten
A geminit van aki magyar nyelvű androidos készüléken "Ok google" vagy "Hey google" paranccsal indítja el? Ha elindítom a geminit akkor lehet vele társalogni, de a parancsszavakra nem indul el, pontosabban nem nyílik meg és nem reagál, de valami történik, mert a fenti állapotsoron pár mp-re megjelenik egy mikrofon ikon. Android 15, OnePlus 11, nem rootolt. Droid 14-gyel se ment rendesen. Minden be van állítva és engedélyezve van elvileg.
► "Kicsit olyan webcaritas" ◄ ヅ
-
Zizi123
senior tag
Hamár ennyire belemerültetek a fordítás / beszéd felismerés témakörbe, akkor volna olyan kérdésem, hogy van-e már olyan szoftver amivel pl Discordon amikor játék közben random játékosokkal játszok, akkor tudjak velük "bármilyen" nyelven "beszélgetni".
Bármilyen nyelv: jellemzően angol, orosz, német
Beszélgetni: FPS játékok, tehát szerintem kb 20 szóban kimerül egyébként a beszélgetésTehát én magyarul mondom ők adott nyelven hallják kvázi tolmács progi.
[ Szerkesztve ]
-
válasz
Komplikato #1541 üzenetére
A Piper csak text2speech, igen. Ehhez kell egy speech2text komponens (ami valamelyik Whisper modellt futtatja), és valamilyen llm a kettő közé, így tudna felépülni egy localban futtatott hangasszisztens. Nagyon leegyszerűsítve: mikrofon -> whisper -> llm -> piper -> hangszóró.
Ezer+1 project épül a téma köré. Pl. nyilván érdemes valamilyen "wake wordot" használni, mert senki nem szeretné, hogy folyamatosan maxon pörögjenek a vasak + válaszolgasson a kimeneten a modell. Aztán az sem rossz, ha nem a man cave sarkában levő all-in-one teszt hw-be dugott mikrofon/hangfal az egyetlen input/output, hanem van valamiféle multiroom megoldás, "áramvonalas", de megfelelően erős hardverekkel. Ebben és egyéb másban is segít pl. a Wyoming Protocol. és az egyéb Wyoming toolok (ugyanaz a fejlesztője mint a Pipernek).
Én néhány éve összekalapáltam egy ilyet, de nagyon kezdetlegesnek, esetlegesnek éreztem, pláne magyar nyelven. Most egy kicsit jobban körbejárva, és a fent is említett újabb modelleket használva teszek vele egy újabb próbát.
Amúgy az ember azt gondolná, hogy néhány doksival és yt tutoriállal megtámogatva ez egy viszonylag egyszerű dolog, de marhára nem az. A hw nagyon fontos, legyen kicsi (sőt, kicsik, mert itt adott esetben több eszközről beszélünk), fogyasszon keveset, de közben azért fusson rajtuk egy jó minőségű modell mindegyik kategóriából (tts, stt, llm). Az se lenne baj, ha a wake wordot már eszköz szinten tudnák kezelni a satellite komponensek (pl. Respeaker, Atom Echo jó cuccok ebből a szempontból, az előbbiből rendelek majd be párat).
[ Szerkesztve ]
-
Komplikato
veterán
Van egy ilyen szoftver, hogy Piper. Majdnem egy éve töltöttem le, hogy kipróbáljam, csak hát nem jött még össze. Eredetileg ezt Raspberry Pi3-hoz fejlesztették anno, olyanoknak akik csinálni akartak olyan kütyüt amin megy az összes hang asszisztens program, amik akkoriban menőnek számítottak és/vagy olyan embereknek, akik sajátot szerettek volna készíteni. Tehát kicsi a CPU terhelése.
Na persze én valamilyen AI videókban láttam ezt már használni, de mai napig nem világos, hogy ez most rendesen kétirányú vagy csak text-to-speech? Van hozzá három magyar TTS is, Anna, Berta és Imre megnevezéssel, amit nyilván magyar jó munkás ember készített.
(Az mondjuk nekem nem tiszta, hogy ezekből van japán és angol képes verzió is, de azokhoz van high minőség, a magyarhoz meg csak Low és Mid.
Ezt, már ha megy Speech-to-Text módban is, próbálta valaki offline, azaz lokál AI-val? Gondolom csak magyarul tudó AI lenne jó hozzá, mint az a bizonyos buherált Lama 2.1-es?"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
Mp3Pintyo
aktív tag
válasz
consono #1536 üzenetére
Az F5-TTS-t próbáld ki.
Készítettem hozzá magyar modellt de Árpi szakavatottabb ismerője ezeknek és jóval nagyobb adathalmazon finomhangolt egy még sokkal jobb magyar modellt.
https://youtu.be/qzIJsh7hHOshttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Mp3Pintyo
aktív tag
Árpi munkásságát mindenféleképpen érdemes követni!
Az F5-TTS-hez is készített modellt.
Ha szeretnél vele beszélgetni ilyenekről akkor gyere fel az mp3pintyo Discord szerverre. Ott megtalálod a tts részbenhttps://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
Tegnap még sokat keresgéltem, teszteltem. Ha valaki hasonlót keres (kisebb beágyazott rendszerekhez, hangutasításokhoz), akkor érdemes ránézni erre: https://huggingface.co/sarpba/whisper-hu-tiny-finetuned-V2
Hosszabb szöveggel sok hibát vét, arra egyáltalán nem tudom ajánlani, de fél, vagy egy mondatos rövid utasításokra nekem eddig semmi nem adott ilyen eredményt, pláne nem ebben a méretben (a kis python tesztkódommal 700Mbyte vmem-et használt kb.). Komolyabb benchmarknak nem vetettem alá, de az input beküldése után kb. 1-2 sec-es válaszidőket hozott az Orin Nanon (512 core, 16 tensor core, 20TOPS, 5-10W fogyasztás). Ha hibázik is, akkor azt úgy teszi, hogy az llm modell - amit majd etetni fogok ezzel az output-al - simán meg fog tudni érteni (hiányzik egy betű, szavak összecsúsznak, stb..).
Ha esetleg jelen van a készítő, innét is gratulálok neki, szép munka. Van egyébként több magyarra fine tune-olt whisper modellje is, nagyobbak is, de nekem a kívánt feladatra ezen a mini vason ez tűnik perpill a legjobbnak.
[ Szerkesztve ]
-
@Mp3Pintyo, 5letesen: köszönöm! Egy NV Jetson Orin Nano-n (4GB unified memory) szeretnék futtatni magyar->magyar speech2text-et. Sajnos már a Whisper medium modell sem fér el, a small meg elég sokat hibázik. Még próbálom optimalizálni a ram használatot, nem sok híja van, de szerintem nem fog elférni, kellene a 8GB-s Orin Nano. Home Assistant-hoz lenne stt service egyébként. Faster_whisper-re ránézek.
[ Szerkesztve ]
-
5leteseN
senior tag
A Megszólított által készített vió alapján telepítettem a Faster-Whisper-t, ami bő egy éve is egész jól végezte a dolgát angolról(szinte bármiről) magyarra. Azóta az újabb verzoókat is gyűrőm, mikor szükség van rá, jobbak lettek.
Saját tapasztalat alapján javaslom a Faster-Whisper-t
Gyorsan egyszerűen telepíthető(volt, amikor kb fél éve felraktam az aktuális verziót, nem hiszem, hogy rosszabb lenne, +remélem).
[ Szerkesztve ]
-
Mp3Pintyo
aktív tag
Automata feliratkészítés minden eddiginél gyorsabban a saját számítógépünkön teljesen ingyenesen
https://youtu.be/fG56FlIz85sV3 turbo nagyon gyors de 1-2% pluszban a rontások aránya a v2-höz képest
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
hiperFizikus
senior tag
#14
Paradigma váltásom a mesterséges intelligenciában !
Ettől mindenki köhögni és prüszkölni fog egy ideig?
A gázt is és a féket is egyszerre nyomni nem menő dolog !
-
User_2
tag
válasz
Mp3Pintyo #1526 üzenetére
mert akkor ingyen átadnák a hang + szöveg adatbázisukat az AI versenytársaknak, mint egy rosetta követ.
ezért gagyi az automatikus feliratozás is, nyilván lehetne jobb is, de inkább valószínű, hogy szándékkal hagyják meg még humán szemlélő számára érthetőnek, de gépek számára már kihívást jelentőnek. -
Mp3Pintyo
aktív tag
Borzasztó a magyar hangsáv
Szeretem hallgatni a koreai nyelvet (sorozatok stb eredeti nyelven) úgyhogy biztosan nem fogom ezt átváltani még jó ideig.
A Google meg menjen a jó..... Mi a fenéért nem engedélyezi a saját hangsáv feltöltését? Mindenféle szart bejelent minden héten a csatornát üzemeltetőknek de a tényleg hasznos eszközök elmaradnak.
1. thumbnail adott nyelvekhez
2. saját hangsáv adott nyelvekhez (nem kell, hogy ők generálják. majd megcsinálom én és feltöltöm.) Most ami van az kizárólag a nagyoknak van és korlátozott nyelvekhez.[ Szerkesztve ]
https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
totron
addikt
[link] Saját hangból szintetizált AI-narrálás.
-
S_x96x_S
addikt
> egy témában kérdezek a ChatGPT-től,
Több különböző modell van - és a minőség nagyon eltérő.
Pontosan melyikkel próbálkoztál ?
[ "gpt-4o" , "o1" "o1-mini" , "GPT-4o mini", "GPT-4" ]
Az "o1 Pro"-talán csak a 200USD -s előfizetésben érhető el.> Szóval, nekem eddig a ChatGPT jött be leginkább, mint MI segítség.
Én az esetek
~60% -ban Claude Sonett 3.5 -at használok ;
a maradék ~ 40%-ban OpenAI-s "gpt-4o" , "o1" -t[ Szerkesztve ]
Mottó: "A verseny jó!"
-
5leteseN
senior tag
Nálam is a telefonon a ChatGPT a nyerő. A többi az elsö válasz után elveszi a kedvem a folytatástól. Már csak kéthetente nézek rájuk, hónapok óta sokkal bénábbak, mint a ChatGPT.
Nagyon spec témákat nem kérdezek, de általában jól nyomja. összefüggő szövegeket is jól fogalmaz, angolul is magyarul is. A fordításokban sokkal jobb mint a többi fordító program.
...nálam-nekem. -
niof
veterán
Sziasztok!
Én egyelőre csak 3 "beszélgetős" MI-t próbáltam, Copilot-ot böngészőben, Gemini-t és ChatGPT-t főleg telón, de utóbbit böngészőben is. A Gemini eddig óriási csalódás. Sokszor teljesen hibásan fogalmaz, idegen kifejezések maradnak a szövegben, rosszul ragoz, rosszul fordít. A ChatGPT bár néha nem érti, hogy pontosan mit szeretnék, de ha pontosítom a kérdést, tökéletes nyelvhelyességgel válaszol. A Copilot meg mintha a kettő keveréke lenne. Bár általában jól fogalmaz, azért néha be-becsúszik egy rosszul fordított kifejezés.
Azt vettem észre, ha egy témában kérdezek a ChatGPT-től, akkor a válaszoknak utánajárva, meglepően kevés a "hallucináció", vagy a nem pontos információ. Illetve felhívja a figyelmet, hogy bár nem pont az van a válaszban, amit konkrétan keresek, de nagyon hasonló, érdemes utánanézni.
Na ilyet a Copilot nem csinál. Simán azt mondja, hogy a Softube Tape az egy PWM kompresszor... Nem az, de még csak nem is helyezi kontextusba, hogy bár nem az, de a glueing hatás miatt szeretik használni.
Szóval, nekem eddig a ChatGPT jött be leginkább, mint MI segítség.
Ki mire esküszik?Egyelőre nem szelem fel az almát egyenlőre.
-
-
bb0t
senior tag
Sziasztok!
Megjelent chatgpt-ben a task funkció, ezt össze lehet kötni külső rendszerekkel? pl. Clickup, google naptarTalán azoknak való leginkább a hatalom, akik nem vágynak rá. Azoknak, akiket (...) a sors állít az élre, akik szükségből öltik fel a palástot, s aztán maguk is meglepődnek rajta, mennyire jól illik a vállukra.
-
S_x96x_S
addikt
Alex Cheema ( Exolabs ) elmélkedése
( Project Digits vs. M4 vs. RTX 5070 )
https://x.com/alexocheema/status/1876676954549620961""""
While Apple has been positioning M4 chips for local AI inference with their unified memory architecture, NVIDIA just undercut them massively.
Stacking Project Digits personal computers is now the most affordable way to run frontier LLMs locally.
The 1 petaflop headline feels like marketing hyperbole, but otherwise this is a huge deal:
Project Digits: 128GB @ 512GB/s, 250 TFLOPS (fp16), $3,000
M4 Pro Mac Mini: 64GB @ 273GB/s, 17 TFLOPS (fp16), $2,200
M4 Max MacBook Pro: 128GB @ 546GB/s, 34 TFLOPS (fp16), $4,700Project Digits has 2x the memory bandwidth of the M4 Pro with 14x the compute!
Project Digits can run Llama 3.3 70B (fp8) at 8 tok/sec (reading speed).Single request (batch_size=1) inference is bottlenecked by memory and memory bandwidth. This was always the constraint with the RTX 4090 and why a gaming PC can't compete on tokens per second at batch_size=1. The whole model can't fit into an RTX 4090 (24GB) so needs be loaded into the GPU from system RAM, bottlenecked by the GPU's PCIe 4.0 link of 64GB/s.
You will also start to see builds with multiple 5070 GPUs. The upgrade to PCIe 5.0 means a 2 x 5070 machine could support 256GB/s bandwidth from system RAM to GPU. I estimate this build to be ~$6,000 (supporting full x16/x16 PCIe 5.0 is expensive) in total, then cost of two Project Digits PC's.
Congrats NVIDIA, you just found yourself a new market.
""""Mottó: "A verseny jó!"
-
S_x96x_S
addikt
válasz
Komplikato #1511 üzenetére
> DIGITS ; hanem egy kis fogyasztású Petaflops teljesítményű AI szerver.
1.) Local - LLM -re a memória sebesség lesz döntő
és a DIGITS -re én 256 GB/s körüli mem sebességet feltételezek.
( Elméletileg a "The wide memory subsystem in Grace delivers up to 500GB/s of bandwidth" ) - persze ez a CPU -s rész.2.) A marketinges "Petaflops" -ot pedig vissza kell konvertálni
https://www.reddit.com/r/LocalLLaMA/comments/1hvjjri/comment/m5uuvdx/NVIDIA GB10 DIGITS : ~ 250 INT8 TOPS ÉS (?? 256GB/s or 512GB/s)
AMD AI Max Plus 395: ~ 60 INT8 TOPS(GPU) ÉS 256 GB/s
Apple M4 Max : ~ 34 INT8 TOPS(GPU) ÉS 546 GB/sAz új M4 Ultra ( Mac Studio?) is a DIGITS megjelenése körül jelenik meg;
és ott már 820 - 1092 GB/s várható.
https://github.com/ggerganov/llama.cpp/discussions/4167Lehet, hogy érdemes lesz megvárni a nyarat a beruházással - mert lesz pár alternativa.
Mottó: "A verseny jó!"
-
Komplikato
veterán
válasz
S_x96x_S #1510 üzenetére
És egymásra pakolva ezeket összeadódik a teljesítmény, így pl. 2db már elbír egy 405B LLM-el is. A bemutatóban nem igazán hangzott el, hogy hányat lehet így összekapcsolni. Mondjuk engem megleptek, hogy a Mediatek/NVidia kooperációs chip nem a lepkefing Snapdragon X konkurenciája lett, hanem egy kis fogyasztású Petaflops teljesítményű AI szerver.
[ Szerkesztve ]
"Figyelj arra, aki keresi az igazságot és őrizkedj attól, aki hirdeti: megtalálta." - (André Gide)
-
S_x96x_S
addikt
(friss CES infó)
Az nVidiának lesz 128GB VRAM -os ARM-es kütyüje
~ május körül
és az árak >$3000 -nél kezdődnek. ( ~1.5x az RTX 5090 ára )
komoly StrixHalo; M2/M4 Ultra ; ... - alternativa lehet.NVIDIA Puts Grace Blackwell on Every Desk and at Every AI Developer’s Fingertips
NVIDIA Project DIGITS With New GB10 Superchip Debuts as World’s Smallest AI Supercomputer Capable of Running 200B-Parameter Models
https://nvidianews.nvidia.com/news/nvidia-puts-grace-blackwell-on-every-desk-and-at-every-ai-developers-fingertips“AI will be mainstream in every application for every industry. With Project DIGITS, the Grace Blackwell Superchip comes to millions of developers,” said Jensen Huang, founder and CEO of NVIDIA. “Placing an AI supercomputer on the desks of every data scientist, AI researcher and student empowers them to engage and shape the age of AI.”
GB10 Superchip Provides a Petaflop of Power-Efficient AI Performance
The GB10 Superchip is a system-on-a-chip (SoC) based on the NVIDIA Grace Blackwell architecture and delivers up to 1 petaflop of AI performance at FP4 precision.
GB10 features an NVIDIA Blackwell GPU with latest-generation CUDA® cores and fifth-generation Tensor Cores, connected via NVLink®-C2C chip-to-chip interconnect to a high-performance NVIDIA Grace™ CPU, which includes 20 power-efficient cores built with the Arm architecture. MediaTek, a market leader in Arm-based SoC designs, collaborated on the design of GB10, contributing to its best-in-class power efficiency, performance and connectivity.
The GB10 Superchip enables Project DIGITS to deliver powerful performance using only a standard electrical outlet. Each Project DIGITS features 128GB of unified, coherent memory and up to 4TB of NVMe storage. With the supercomputer, developers can run up to 200-billion-parameter large language models to supercharge AI innovation. In addition, using NVIDIA ConnectX® networking, two Project DIGITS AI supercomputers can be linked to run up to 405-billion-parameter models.
"[ Szerkesztve ]
Mottó: "A verseny jó!"
-
S_x96x_S
addikt
válasz
moseras #1508 üzenetére
> Szerintetek ez jó lehetne Mac Mini helyett ?
Igen.
Az MLX kivétel ( ami Apple Silicon ) jó lehet;A Mac Mini M4 PRO - maximum 64 GB egyesített memória -t tud;
és e körül már egy sokkal gyorsabb Mac Studio ( M2 Max; 400Gb/s ) sokkal ideálisabb.Ha meg az új DeepSeekV3 -t akarod futtatni, akkor több M2 Ultra ( 192 GB ) kell. Minimum kettő .. de ha még több. az még jobb.
"DeepSeek v3 in 3-bit runs pretty fast (~17 toks/sec) on 2 M2 Ultras with mlx-lm and mlx.core.distributed. Model is 671B params (!) with 37B active:"
https://x.com/awnihannun/status/1875976286474289345Mottó: "A verseny jó!"
-
moseras
tag
-
ajaxon
csendes tag
válasz
phrenetiX #1505 üzenetére
A Fooocust egyszer próbáltam, de aztán offline képgeneráláshoz a Forge maradt.
Abban van lehetőség animációk készítésére, de a fentebb említett új modellekhez hasonlítani olyan mint az ökrös szekeret egy forma1-hez.
Szerintem ilyen minőségi videokat offline még egy darabig nem lehet csinálni.
Tévedés jogát fenttartom. -
válasz
Mp3Pintyo #1503 üzenetére
cursorban is szoktam ott is hasonlo a szituácio egy idő után .
ott kijelzi , hogy mi a változtatás és , hogy akarom e lecserélni .
DE néha van hogy az IDE miatt is bonyolodik a helyzet. Ezért szoktam a cGPT ben van egy phyton addon ami csak programozásra tanitottak és a sima pyton IDE-be bemásolni , eddig ez a kombo jobban bejött. Csak mig a cursorba korlátlan lenne a használat, addig a CGPT egy idő után nem enged irni.
DE lényegében mindegy is melyiket használom, mert a cursornál is egy idő után csak megy a mokuskerék a hiba kijavitására tett kisérletekkel amivel nem haladok elöre.
Pedig azt gondolná az ember, hogy ha elsore megir egy akár több 100 soros kodot ami le is fordul hiba nélkül és azt csinálja amit kérek ,akkro utána csak egy kis részére kéne koncentrálnia a többiet meg változatlanul hagyni ami mukodik.
Főleg mert megirom neki, hogy class-okban OOP alapn irja a kodot, igy valamenynire átláthatóbb és elkülönitett kodot kapok ahol csak egy egy funkciot egy classba kell csinálni , de még igy se jo. -
Mp3Pintyo
aktív tag
Ha programozáshoz akarod használni akkor mindenféleképpen használj hozzá egy fejlesztő környezetet amiben sokkal jobban dolgozik.
1.
A Visual Studio Code a legjobb erre.
Ehhez rengeteg plugint találsz ami segíti a kódolást a nyelvi modellek segítségével.
2.
De akár kipróbálhatod a Windsurf, Cursor IDE-k bármelyikét is.
3.
A másik lehetőség, hogy készíts egy chatgpt projektet Ezen belül pedig kérd meg hogy canvasban dolgozzon. Sokkal jobban átlátható lesz neked és az AI-nak is. Itt pl könnyedén vissza tudsz lépkedni az előző verziókhoz ha valami rosszul sikerült és folytathatod onnan a munkát.https://www.youtube.com/mp3pintyo AI, Mesterséges Intelligencia, Képkészítés tutorialok, bemutatók
-
válasz
Mp3Pintyo #1500 üzenetére
Még mindig programozás phyton,
Amugy köszi a weblapos leirást igen pont ilyesmi a helyzet mint ez a hálál völgy. Csak ugye aki ért a dolgokhoz annak könynebb mert kijavitja a hibát és továblép az AI val egy másik szintre és amig nem jön egy másik megoldhato feladat.
DE nekem aki nem ért a programozhoz, olykor azt is nehéz kitalálnom, hogy amikor csak egy részkodot ir az AI akkor azt hova is kéne másolnom, vagy felul kell e iratni a régit vagy csak mellé tenni.
Van, hogy csak az nem tetszik neki, hogy nem jo helyen van a bekezdés.DE ahért lassacskán haladok, már egy programot nagy nehezen megcsináltattam vele, még mindig vannak amiket finomitanék rajta meg böviteném, de legalább hiba nélkül megy és müködik minden ahogy kell.
DE még van pár amivel szenvedek.
DE legalább már arra rájöttem, hogy oda irom , hogy ne változtasson a meglévő kodon , hogy minden funkcio maradjon meg csak a hibát javitsa ki, igy egy kicsit jobban mukodik. -
ajaxon
csendes tag
válasz
phrenetiX #1495 üzenetére
Szia!
Van több oldal is, de én ezt próbáltam:
[link]
Sima regisztráció kell, amiért kapsz 380 tokent (vagy valamannyit, nem emléxem),
kép generálás 1-5 token, 5mp video 20token.
Azt azért tudni kell hogy free módban kb. 3 óra egy 5mp video legenerálása, valamint pár funkció nem elérhetó.
Nyilván mivel online számol, nem kell az oldalon maradni amig végez.
Van txt-video és img-video lehetőség is.[ Szerkesztve ]
Új hozzászólás Aktív témák
- Külpolitika
- One otthoni szolgáltatások (TV, internet, telefon)
- PROHARDVER! feedback: bugok, problémák, ötletek
- Digitális Állampolgárság Program DÁP
- SD memóriakártyák (SD, SDHC, SDXC, micro SD)
- Szólánc.
- Mibe tegyem a megtakarításaimat?
- NVIDIA GeForce RTX 5080 / 5090 (GB203 / 202)
- Fűzzük össze a szavakat :)
- Asszociációs játék. :)
- További aktív témák...
- GIGABYTE GeForce RTX 5080 AERO OC SFF 16G bontatlan, garanciális
- Új Lenovo Legion Slim 5 l RTX4070 140w l AMD Ryzen 7 7435HS l 16GB l 16inch 2560x1600 165Hz
- Playstation - Xbox - Nintendo !! Moddolás // Okosítás // Karbantartás - ZACKONZOL
- DELL LATITUDE 5530 ( Még 8 hónap gyári gari) i5-1245U (12. GEN) 16GB RAM 500GB SSD 15.6 FULL HD
- Eladó Flipper Zero és Hack RF one Portapack H2
Állásajánlatok
Cég: Marketing Budget
Város: Budapest