Hirdetés

Új hozzászólás Aktív témák

  • ddekany

    veterán

    válasz UnknownNoob #49 üzenetére

    "Tehát mégiscsak vannak gondolkodási stratégiák és ezek explicit benne vannak az AI-ban is"

    A GPT architektúrában, ha megnézed (linkeltem imént), nincsenek benne. Nincs benne, amit tud, a gondolkodási stratégiák sem, semmi. Valahogy a súlyokban képződik le (nem tudjuk pontosan hogyan), a súlyokat pedig gradient descent-el állítják be, ami egy totál alacsony szintű algoritmus.

    Mellékesen, "laborban" minden cég dolgozik olyanin, hgy a GPT(-szerűség) főlé építenek egy magasabb szintű réteget, ami pl. valamiféle tree of thought startégiát vezényel le. (Egy ilyen felsőbb réteg nyilvánvalóan szükséges, mert a jelenlegi architektúra nem tud több számítást végezni önszántából, ha nehezebb egy kérdés.) Ez egy olyan koncepció, amit egy ember simán megért, viszont az alkalmazásával ki tud találni olyan megoldásokat az AI, aminek a megértéséhez már okosabbnak kéne lenned, mint a tree of though algoritmus megértéséhez. Ismét egy példa arra, hogy egyszerű dolgok, amiket meg tudsz érteni és csinálni, elvégezhetnek olyan feladatokat, amik már mélyebb megértést igényelnek.

    "Amiben jobb tud lenni a gép az a sebesség és problématér mérete."

    És könnyen meglehet, hogy ennyi a különbség egy nagyon buta és egy nagyon okos ember közt is. Mindegyik ismeri ugyan azokat a gondolkodási stratégiákat, csak hát egyik állandóan belezavarodik, meg bajosan találja a memóriájában a régen megszerzett ismereteket, vagy simán nem érzett soha motivációt, hogy fáradságosan megoldásokat keressen (utóbbi attitűd gond már inkább LLM prompting mágia kategóriába esik).

    "Miért lenne egy gép attól veszélyes, hogy egy emberi koncepciót tud és abban nagyobb feladatokat is megold az embernél gyorsabban? Ez csak egy eszköz."

    De ezt azzal feltételezéssel élve kérdezed, hogy nem lehet embernél minden lényegesben jobb, hogy nem lehetséges valódi AGI. Én meg nem feltételezem ezt, így én többféle lehetséges jövőben forgatókönyvet is el tudok képzelni.

    "reguláris kifejezések is fekete mágiának tűnnek elsőre"

    Mondhatjuk, hogy néha meglepő, hogy miket meg lehet vele oldani. A neurális háló is okozhat még meglepetést... Ettől még nem fekete mágia, csak korlátos emberi agyunkkal nem számítottunk rá. (Aztán persze a mágia definíciója lehet az, hogy valami, amit nagyon nem értesz hogyan lehetséges, és még is létezik.)

    "Ahhoz hogy koncepcionálisan magasabb szinten legyen az AI, mint az ember olyan absztrakt feladatot kéne nekünk embereknek definiálni és az általános megoldással előrukkolni, amit nem értünk."

    De nem kell olyan betanító anyag, ami egy adott konkért dologra explicit meg akar tanítani. Mert egy tény kupacban találhatsz összefüggéseket önállóan. Mint ahogy az ember is jobban megértette a fizikát idővel. Vagy akár matematikát, ami sokkal tisztábban emberi találmány. Ott volt egy rakás "tény", bementi adat, és elkezdtél összefüggéseket találni benne. És mikor az megvolt, akkor már találtál még újabbakat, még mélyebbeket. De hát miről is beszélünk, hiszen ez egy alapvetés a neurális hálóknál, hogy megtalál összefüggéseket egy kupac adatban, amiről te talán nem is tudsz.

    Azt gondolom körbe-körbe megyünk már csak...

  • ddekany

    veterán

    válasz mepet #50 üzenetére

    Amúgy a sakkozást (meg kb. mindent) valójában részben másoktól, részben önmagunktól tanuljuk. Mert elgondolkodsz azon, amit kívülről tanultál, és ezzel akár új taktikákat tudsz kitalálni, amit senki nem mondott neked (mert talán ők nem is ismerik). Pl. ha a sakknak csak a szabályait mondja el neked valaki, és bezárnak egy szobába egy sakktáblával, valószínűleg nagyon hamar "feltalálod" az olyan alap trükköket, mint pl. a villa.

  • UnknownNoob

    tag

    válasz ddekany #51 üzenetére

    Tehát van valamilyen súlyozható, parametrikus rendszerünk amiben numerikus optimalizációt végzünk. Maga a rendszer tekinthető az általános feladatnak, az optimalizációs algoritmus pedig nem más, mint ami alapján konkrét esetre betanulja hogyan kell azt megoldani. Tehát mégis van általános gondolkodási séma, csak azt konkrét felhasználásra be kell gyakorolni használat előtt. Ha tényleg semmi beégetett algoritmus nem lenne az AI-ban mint ahogy mondod, akkor 0 sor kódot tartalmazna és kódolás helyett inkább kecskét áldoznának a létrehozásához.

    "Ettől még nem fekete mágia, csak korlátos emberi agyunkkal nem számítottunk rá."

    Te beszéltél már olyan emberrel, aki azt mondta volna hogy nem érti az AI-t, túl korlátolt agyilag hozzá, mégis létre tudta hozni? És nem, most nem arról beszélek hogy "import AI" majd "AI.train(something)" majd verem a mellem hogy én AI kutató vagyok. A mögöttes matematikát nagyon nehéz fejleszteni. Sajnos már most is, így hogy még csak gyerekcipőben jár az AI kutatás, nagy probléma, hogy egyre kevesebben értik olyan magas szinten a matekot, hogy bármi érdemlegeset hozzá tudnának tenni a fejlesztéshez. Pedig magától nem lesz ez okosabb. Pont erről beszélek. Akkor lesz egyre okosabb, ha mi emberek egyre okosabb modelleket találunk ki. Ahogy véget ér az emberi intelligencia, ott véget ér az AI fejlődése is.

    Mivel hirtelen menő lett a mesterséges intelligencia, ezért sok idióta szórakozik próbálgatásos alapon különböző modellekkel. Arra esetleg jó ez, hogy néha véletlen valami érdekeset produkál, írnak valami fostalicska Q3 cikket, aztán megveregetik a vállukat, hogy ügyes vagy fiam, tessék itt a doktori. Ebből viszont nem lesz Skynet.

    Előrelépés akkor és csak akkor lesz, ha egy matek zseni leül az asztal elé, végignézi az eddig használt tenzor háló modelleket amin az egész alapszik, majd azt mondja hogy ez így egy rakás szar és ajánl egy javított modellt. Ekkor viszont szó sincs arról, hogy az ember ne értené mit csinál. Sajnos / szerencsére nagyon naiv elképzelés az, hogy az ember véletlenül, esetleg részleges hozzáértéssel is képes nagy dolgokat véghezvinni.

    [ Szerkesztve ]

  • ddekany

    veterán

    válasz UnknownNoob #53 üzenetére

    Mondom, én befejeztem, mert sokadszorra annak ellenére foglalsz elég határorozott álláspontot, hogy amolyan hétvégi érdeklődés szintjén sem követed a témát (szakmaibb forrásokból, nem nagyközönséget célzó beszélgetős fogalmatlan okoskodás). Mert ha követnéd, akkor ezeket nem mondanád. Pl. ha első kézből hiszel csak el dolgokat, van a neten dögivel. Javaslom pl. Andrej Karpathy-t (OpenAI-nál van most, és jól magyaráz). "AI Explained" YouTube csatorna is jó forrás, mert megtalálja a szakmailag valóban jelentős fejleményeket, a neten lévő click bait hülyeség áradatban.

  • UnknownNoob

    tag

    válasz ddekany #54 üzenetére

    Jól látod, nem követem az AI hisztit. Ha küldesz rendes peer-reviewed cikket azt elolvasom, de ez kb blikk színvonal. Neked is szép estét! :R

Új hozzászólás Aktív témák