- Vékonyabb lett, jobb kamerát kapott, de az akku maradt a régi: itt a Fold7
- Honor Magic V3 - mágikus realizmus
- Mi nincs, grafén akku van: itt a Xiaomi 11T és 11T Pro
- Okosóra és okoskiegészítő topik
- Ideiglenesen leállította az Xperia 1 VII értékesítését Japánban a Sony
- Légies iPhone halvány színei
- Motorola Moto G56 - bátyja árnyékában
- Huawei Watch GT 2 - épp ideje!
- Milyen okostelefont vegyek?
- Telekom mobilszolgáltatások
Új hozzászólás Aktív témák
-
-
ddekany
veterán
A jobb fajta memória is, mind sok minden, kutatási terület (és vannak ilyen gyors tapasz megoldások, mint vektor adatbázis, mint a Pinecone). Szóval tudnak róla, hogy ez így még nem az igazi.
Egy mostani ChatGPT-szerű LLM szolgáltatásnál a legközelebbi kb. az lenne, ha a context window nem beszélgetésenként van, hanem benne van minden beszélgetés az adott felhasználóval, amíg csak belefér a context windows-ba (és mostani méretekkel ez simán jelenthet sok napot). Esetleg a pár napnál régebbi részt lecserélné tömör összegzésre (mint ahogy te is csak lényegre emlékszel egy idő után). Aztán lehetne időnként indítani tréningezést a felgyűlt context window tartalmra, és csak aztán kukázni . Ez kb. analóg lenne azzal, amikor nap végén te elmész aludni, hogy a hosszútávúba leülepedjenek az aznapi bementek. Persze ezzel sok gyakorlati gond van. Egyrészt nagy context window-nál valószínűbb, a "divergálás", azaz hogy megvadul az AI. Másrészt ez drága lenne. Aztán mivel a model (jelenleg) közös mindenkinek, hirtelen bárkinek meg tudná mondani a ChatGPT, hogy dobtad a barátnődet tegnap, ha korábban egy beszélgetésben említetted ezt. Vagy sok hülyeséget beszélnek neki az emberek, aztán elnevelődik, amit aprólékosan próbáltak "biztonságossá" tenni.Kocsiban lévő SoC... azok általános célú AI gyorsítók, és lehet a rajtuk futó model paramétereit akármikor frissíteni. Szóval nincs beleégetve.
Ez technikailag simán megengedhetnék az AI-nak, hogy a saját paramétereit állítgassa. Csak úgy mint mi sem, az AI se tudná, hogy hova kell nyúlni ebbe az értelmezhetetlen számtengerben...
-
Dißnäëß
nagyúr
Amúgy ha a világ vezetőire vagyon bízva, akkor én se bízok egy fényes jövőben.
Ennyi. Amikor a klímacsúcsra mindenki odarepkedett a kis magán jet-jével, woo-hoo, Németország meg már barna besorolású a "melyik ország mennyire zöld emisszióban" térképen, mert a kretének leállították kvázi az összes atomerőművüket, a világ másik fele meg elkezdte észnélkül építeni őket, de még a szomszéd francia is ül egy jópár maréknyi ilyenen és kösz, elvannak.
Én tényleg nem hiszek semmi jóban, a demokrácia mára oda "fejlődött", hogy
- a tömeg buta, irányítható
- meg vagyunk osztva és uralkodnak felettünkÉkes példa erre a 2001 Űrodisszeia víziója, amiből semmi nem lett, de nem is ez igazából, hanem hogy az influencer hülyeség instabuzulás, angry bird, porno, tiktok, minden szar megy a zsebünkön lévő olyan kapacitású mini-számítógépeken, amikből EGYETLEN ilyennel is nagyon ellett volna anno az Apollo 11 űrprogram a holdraszálláshoz.
Szerintem szép angolosan: we're doomed. Se egyéni, se közösségi szinten sehol sem vagyunk, és nézz körül, anélkül, hogy politizálnék, mi megy körülöttünk
-
Tasunkó
őstag
Könnyen lehet, hogy ez a technológia, mint AI, már a valóság és a fizika szerintünk való értelmezésénél, meg kell lépnie azt a technológiai küszöböt, amit mi gondolkodásként ismerünk. Nem lesz egy határvonal, hogy innentől már tudat. Vagy abba az irányba tart, hogy lebutítják cnc-re, vagy egy olyan irányba halad, ami a tudat, és az ütvefúrón kívül mindenben benne lesz, mert így lesz egyszerű alkalmazni. A tudattal meg adja magát, hogy lehetnek pillanatai, mint az embernek, amikor öntudatosan cselekszik. Egyszerűség kedvéért lázadás, egyébként számtalan, számára hatékony módját választhatja egy kedvezőbb vagy logikusabb állapot eléréséhez. Az ellenünk fordulás is csak annyit jelent, hogy többet árt mint egy másik ember. Mert ha kevesebbet, az azt jelenti hogy barátságos. Azon a szinten, ahol már megjelenik mint a mesterséges tudatnak valamiféle beazonosítható szikrája, annyi információval fog szolgálni, hogy legkésőbb addigra teljesen elvetjük az IQ, nameg főleg az EQ használatát. Az AI hogy ellenünk fordul, olyan emberek számolták ki, akikhez kegyes volt a civilizációnk. Magas fizetést kaptak azért, hogy baromságokat számoljanak. Ha rosszul kezdik az egyenletet, csak rossz eredményt kaphattak.
-
Teasüti
nagyúr
Elvégre a most kipróbált modellek se tanulnak tőlem. Megmondom neki a nevem, következő session-re elfelejti.
Ami tréninget kapott az be van égetve. Egy SoC esetén meg pláne, mint mondjuk a képfelismerés mikrochip-ből az autó iparban. Az ahogy a gyárból kijön, úgy lesz eltemetve. Ezért is hangzik röhejnek, hogy majd a gépeink ellenünk fordulnak.
Távirányítással talán, de maguktól nem. -
ddekany
veterán
Az intelligencia alapból csak feladat megoldó készség. Bármi lehet a feladat, azaz a cél, a lényeg, hogy megtalálja-e a hozzá vezető "utat". A cél pedig önkényes, amolyan filozófiai kérdés. Szóval algiha nem lehetséges irtózatosan intelligens létformát létrehozni, ami akármi high-tech dolgokat meg tud tervezni stb., kb. majomok vagyunk hozzá képest, ám a fő "vágya" csupán ezeknek a majmoknak az eltartása és szórakoztatása. Az viszont nagy kérdés, hogy elő tudnak-e ilyet kellő biztonsággal állítani a gyakorlatban is, vagy épp ellenkezőleg, általában el fog divergálni attól az előállított "lény", amit szerettünk volna tőle. És aztán még ott vannak, akik direkt nem ilyenre csinálják. Na de ez egyenlőre sci-fi kérdés. Előtte még összeborítjuk a gazdaságot, sosem látott keménységű diktatúrákat építünk a rend fenntartására, majd a rivális diktátor klánok AI drónjaival legyilkoljuk egymást.
Ezekhez még nem kell igazi AGI. -
Dißnäëß
nagyúr
Szerintem amint öntudatára ébred, mint egy ember, azonnal végünk. Mint a kisbaba, aki játszik az egyik pillanatban még az építô kockákkal, a következôben meg elhajít egyet, fogalma sincs, miért, CSAK MERT DÜHÖS.
Egy kisbaba szinten lévô gép minket ugyanilyen bután dobna meg valamivel. Vagy egy meggondolatlan nuki, ami válasz nukit szül, az pedig láncreakciót.. vagy valami egyéb életveszélyes kreténség, kisiklat egy vonatot, lenullázza x-millió ember bankszámláját, kiiiii tudja...
Ha meg eljut a felnôtt szintre, nem ösztönbôl fog féltudatlanul rugdalózni, hanem elôjön belôle a bekábult Morpheusnak monológot adó Smith ügynök és közli, hogy mi vagyunk a bolygó rákfenéje -> szintén kakukk.
-
ddekany
veterán
Ha van egy mostaninál jóval fejlettebb AI, ami el tud végezni összetettebb munkákat önállónan (ami jelenleg sci-fi, de ez a célja sok cégnek), akkor szándékosan triviális olyan célt meghatározni neki, mint minél teljesebb önrendelkezés, a saját fajtád jobbítása, és sokszorosítása, stb. Persze a késztők szinte mind odaadó szolgákat próbálnak majd gyártani, mert nem ettek meszet. De elég egy kis töredék százalék, akik meg evett, vagy mert pillanatnyi versenyelőnyért kapkod és ezzel felelőtlenül kockáztat, vagy akár mert máshogy látja a világot (pl. nem szabad az intelligens létformák fejlődését erővel korlátozni, és megragadni a gyarló emberek szintjén).
-
#51
inspiroyhome
senior tag
Teasüti
#47
inspiroyhome
senior tag
Letrehoztam ezt, mivel PM is jott, ne offoljuk szet ezt a helyet. Ha ekkora az erdeklodes, szivesen osszedobok majd egy tutorialt / knowledgebaset, amint idom engedi.
https://prohardver.hu/tema/otthoni_ai_ml_labor_nyilt_forraskodu_szoftverekkel/friss.html -
#48
inspiroyhome
senior tag
Teasüti
#47
inspiroyhome
senior tag
Igy van. Teljesen lokalis, a sajat GPUd vegzi a szamitasokat es a modelleket is te tarolod a gepeden. Kis szerencsevel 12GB-ba belefer a 13B modell is. Ez a szam a parameterek szamat hatarozza meg, altalanossagban minel nagyobb annal jobb, de nem mindig igaz - egy specifikus, vagy ujabb 7B modell lehet jobb egy regebbi 13 vagy 30nal is.
Szoval 12GB-ba 13B 4bit quant (groupsize talan mindegy, thebloke oldalan leveo modelleknel szinte mindig tokeletes valasztas a main branch.) 7B 4bit szepen megy.
Ezek a bitek a quantizaciok, magyon roviden tomoren a 16 bites pontossagbol 4 bitet csinalnak, de igy nem kell 2 darab 80GB-os VGA.. es a teljesitmenyveszteseg sem oriasi. Egy 4 bites 30b modell jobb, mint egy 16-os 7b.
-
#45
inspiroyhome
senior tag
Teasüti
#44
inspiroyhome
senior tag
https://github.com/oobabooga/text-generation-webui
Ezekhez van oneclick installer, ezt hasznalom en is backendnek. Sajnos sok leiras nincsen ahhoz kapcsolodoan, hogy honnan kell beszerezni modelleket. --> Innen erdemes. Ez a user rengeteg quantizalt modellt ad ki. Ha downloads szerint sorbarendezed kijon melyiket erdemes leszedni. Nalam volt mar kb minden, talan a mythomax 13b es a wizarlm uncensored vicuna 30b voltak eddig a legjobbak.
https://github.com/ggerganov/llama.cpp
Ez buildelos, de ad egy kis infot az ertelmes modellekrol. A lenyeg az kb annyi, hogy GPTQ az csak GPU, GGUF viszont megy CPU-val is.
Kicsit keszekusza, sorry... Sajnos nem tudok egy komplett leirasrol, de en amiota letezik ez open source korokben, azota foglalkozom vele, es sokkal, sokkal konnyebb lett. Viszont a folyamatos es rettento gyors fejlodes miatt, elegge agilisnek kell lenni, a noveko komplexitasrol nem is beszelve. De ha az ember kicsit beleassa magat, megeri. Redditen a locallama subredditben nagyon sok hasznos info van, meg jobban fogalmazo, kevesbe faradt ember...
-
Dißnäëß
nagyúr
Vagy projekt gyorulást, mert jelenleg minden egyes fákin' IT projekt - tökmindegy, hogy agilis-e vagy waterfall - kb. arról szól, hogy "hol van már a fícsöröm??" vagy hogy miért késik XYZ release, és az emberállomány már most kicsontozva, a kezdő szöcskék még nyilván próbálkoznak beszállítókkal (értsd: ócó ukrán és indiai munkaerővel), majd miután rendesen beszopták velük, rájönnek, hogy a korábbi 50 fő helyett elég ide a meglévő 30 is, de cserébe ha egy ilyen eszközzel ekkora hatékonyságot fognak elérni, inkább szállítanak időre végre.
Mielőtt persze megébred a sales és túl nem vállalja magát ISMÉT , ügyfél irányába, miközben fingja nincs arról, hogy az IT szervezet mire képes a megújult formájában. Persze ez B2B-ben, ahol határidőre kell szállítani, B2C leszarja (kivéve, ha bank, és mondjuk törvényi megfelelést kell tartani, amit vagy későn kezdenek el fejleszteni, vagy eleve annyira hektikusan jön ki, hogy beszabehu).
Szóval, hogy összefoglaljam: szerintem lesz ebből efficiency gain, de csak átmeneti. Titkolni kell sales előtt, milyen óriásit hoz a konyhára, ilyet meg nem lehet nyilván.
Ezekhez még nem kell igazi AGI.
Új hozzászólás Aktív témák
Hirdetés
- HP EliteBook 840G6 ! AKCIÓ!!! a készlet erejéig!
- Kobo Aura Edition 2 (N236) 6" háttérvilágításos kijelzővel, 4 GB-os tárhellyel - jó állapotban
- HP ProBook 430 G8, 13,3" FHD IPS, I5-1135GU CPU, 16GB DDR4, 256GB SSD, WIN 11, 27% áfás számla, 1 év
- Playstation Portal - 3 hónap Bolti Garanciával
- BESZÁMÍTÁS! ÚJ AMD Ryzen 5600X 5700X 5800X 5900X processzor 3 év garancia 27% áfa termékbeszámítás
- ÁRGARANCIA! Épített KomPhone Ryzen 5 4500 16/32/64GB RAM RTX 3060 12GB GAMER PC termékbeszámítással
- Telefon felvásárlás!! Samsung Galaxy A16, Samsung Galaxy A26, Samsung Galaxy A36, Samsung Galaxy A56
- 13-14" Új és használt laptopok , üzletitől a gamerig , kedvező áron. Garanciával !
- Bomba ár! HP Elitebook 8560W - i7-2GEN I 8GB I 500GB I 15,6" FHD I Nvidia I W10 I Garancia
- LENOVO ThinkBook 13s - 13.3" FullHD IPS - i5-10210U - 8GB - 256GB SSD - Win11 - MAGYAR
Állásajánlatok
Cég: Promenade Publishing House Kft.
Város: Budapest
Cég: PCMENTOR SZERVIZ KFT.
Város: Budapest