Hirdetés

Új hozzászólás Aktív témák

  • ddekany

    veterán

    válasz vicze #150 üzenetére

    "Te felül tudod írni a szabályokat tudsz új megoldásokat alkotni, ezt a gép nem tudja, csak meglevőt hasznosít újra."

    Az igaz, hogy olyan AI-knál mint a ChatGPT, meg talán az összesnél jelenleg, a betanítás és következtetési szakasz éles elszeparált. Még! De én nem tudok semmiféle fundamentális okról, ami miatt ez így kell maradjon örökre. A jelenleg használt hardver pl. lehetővé teszi a fokozatos módostást. Amúgy addig az is egy köztes lehetőség, hogy saját magának állít össze betanító anyagot az AI (a 4-es, úgy néz ki, valamennyire kezd képes lehet erre, mert megtalálja a hibákat a saját válaszában), aztán másnap az alapján kap egy NN update-et.

    Az meg, hogy mi csak meglévő újrahasznosítása, meg mi az amit már saját ötlet, az szürkezóna. A mostani rendszerek is kidobnak megoldásokat, amiket még soha sem láttak, mint ahogy mi emberek is. Persze azok a korábban látott dolgokra építenek, de ez ránk emberekre is igaz. Amit nem tudunk, hogy milyen szintre tud ez felskálázódni. Nyilván egy ChatGPT ilyen téren nagyon hülye egy emberhez képest, de azt egyáltalán nem lehet kijelenteni, hogy nem csinál ilyet.

    "A gép kit fog védeni az utasát vagy a szembejövőt?"

    Azt fogja preferálni, amire betanítod. Ez nem egy technikai gond, hanem jogi, stb.

    "A világ nem 100%-osan logikus és nem mindig logika vezérli."

    A hibás (logikátlan) eredményt is valamilyen logika dobja ki. Nem jól összerakott logika. Ez megint filozófiai téma, semmiféle technikai gondra nem világít rá...

  • Tasunkó

    aktív tag

    Az is lehet hogy tudják, csak nem mondják el neki. Most 1 zseni chatgpt programozó, minek mondja el Elonnak hogy mire jött rá, meg aztán úgysem fogná fel. Megfizetve megvan, ha kidobja megy máshová, de amúgy is ha kicsit feszülne a helyzet, csöpögtetne némi infót, és akkor megint nyugi. Biztos állás. Nem mindenki akar a kapitalizmus drogbárója lenni, van aki megelégszik egy kisebb hasziendával.

    Kérek egy számot a jútútú

  • vicze

    félisten

    válasz ddekany #151 üzenetére

    "Azt fogja preferálni, amire betanítod"
    Tehát konkrétan leírtad, hogy képtelen önálló döntést hozni. :U

  • ddekany

    veterán

    válasz vicze #153 üzenetére

    Mit akar ez jelenteni egyáltalán? Mi számít önállónak? Minden döntésnek megvannak az előzményei. Ennél, ha szeretnéd ha ebben a konkrét dilemmában a te preferenciád szerint döntsön, akkor erre külön betanítod. Ha nem teszed, akkor is majd dönt valahogy, hiszen kénytelen.

  • Reggie0

    félisten

    válasz vicze #153 üzenetére

    Hat ez jo kerdes, odavezet, hogy van-e szabad akarat es valos veletlen. Az agy is csak egy rakat kemiai/fizikai rekaciot futtat igazabol. Az, hogy honnantol tekintjuk a dontest dontesnek elegge onkenyes. Mondjuk a DB kozelebb van a mosogep programhoz, mint az AI-hoz.

    [ Szerkesztve ]

  • vicze

    félisten

    válasz ddekany #154 üzenetére

    Az AI problematikája lassan 100éves és elég sokan elég sokat gondolkodtak ezen.

    "Minden döntésnek megvannak az előzményei."
    Elég nagy különbség, hogy én a döntést meg tudom hozni korábbi teljesen irreleváns tapasztaltaim alapján, a gép millió mintával kell ugyanazt megtanulja hetek hónapok alatt.
    Nem ez nem intelligencia, csak egy program.

    Ha biológiai robotok lennénk, nem lenne probléma másolni az agyat. Az agyadban ~100 milliárd neuron van. GPT4 175 milliárd neuron node felett jár, és arra jó, hogy megspóroljon egy csomó Google keresést...

    #155 Reggie0: "Az agy is csak egy rakat kemiai/fizikai rekaciot futtat igazabol."
    Igazából halvány lila fingunk nincs, hogy hogyan csinája az agy és hogyan mitől lesz tudatod. Még egész konkrétan azt se tudjuk, hogy a fenében lett élettelen szerves anyagból élőlény. Eléméletek vannak, amiket nem tudott még senki igazolni.

    Pont ezért ugyanígy fingunk sincs mikortól nevethető valami inteligensnek és tudattal rendelkezőnek. Sci í-fi rók által kitalált elméletek vannak.

    Az egyetlen dolog, ami van az a nagyon sok mident vezérlő általános félelem az ismeretlentől és attól, hogy valami olyan jön létre ami elpusztít minket. Mivel semmilyen bizonyíték nincs arra hogy ez megalapozott, ahogy arra se hogy nem, de a saját kiírtásunktúl való félelem mindent felülír (logika -> ablak), így marad a félelem.

    Még egyszer közel 100éve foglalkozik az irodalom a lehetőségekkel és semmilyen választ nem tud adni, valószínűleg azért mert nem fogjuk tudni, amíg meg nem csináljuk.

  • ddekany

    veterán

    válasz Reggie0 #155 üzenetére

    Véletlen az lehet (ChatGPT-ben pl. van is), de az megint előállítható mesterségesen. Gyakorlatban egy sima pseudo random is bizonyosan jó, azaz nem fogod érzéjkelni a rendszer viselkedésén, hogy ez nem valódi véletlen, de ha mégis, ott vannak a kriptográfiában használt véletlen források is.

    A szabad akarat meg... Mi az a dolog, amitől szabad az az akart?

  • ddekany

    veterán

    válasz vicze #156 üzenetére

    Nem arról van szó, hogy nincs 100 éve erre válasz, hanem hogy mindig van aki az A, és van aki a B válaszhoz ragaszkodik. Amíg nem érünk el technikailag oda, hogy lesz "rendes" AGI, ez az állapot fent is marad, mert sokan érzelmi alapon ragaszkodnak ahhoz, hogy ez márpedig lehetetlen. Azért mondom, hogy érzelmi alapon, mert érvet (ami nem nonszensz) még nem halottam rá.

    Azt hogy úgy sem tudjuk, milyen lesz, ha lesz... Igen, erről szólna ez, hogy ha "majd meglátjuk milyen lesz" alapon létrehozol egy nagyon erős AI-t, akkor nem sok esélye van, hogy pont olyan lesz, ami jó neked. Annak már inkább, hogy komoly gondot okoz. De meg lehet "ugyan már" alapon csinálni, csak nekem nem tűnik bölcs ötletnek...

    Persze megette a fene az egészet, mert bármi szabályozás alól van aki kibújik, hogy előnyt szerezzen, és az pont az a szereplő lesz, akiben a legkevésbé bíznál meg ilyen téren.

  • vicze

    félisten

    válasz ddekany #158 üzenetére

    Nekem csak annyi kell, hogy valós döntést hozzon és ne determisztikusat, amit előre megtanult, hanem tanuljon újat, alkosson valósan újat, ennyi. Szerintem ez nem érzelmi alap, de nem tudom.
    Az hogy generál neked egy receptet ami ehetetlen, az nem lesz új hanem csak olyasmi, ami nem működik és nagyon sok ehhez hasonló dolog csinál, pontosan azért mert jelenleg több millió emberen tanítják, és hát sokan hülyeségekre. Itt jön képbe, hogy a "Strong AI" csak annyira lesz jó mint a bemeneti halmaz. Itt kéne eljutni arra a pontra, hogy meg tudja határozni, hogy az az adat jó-e vagy sem. Mindezt magától és nem azért mert leprogramozták neki, és akkor eljutottunk valahova.

    És nem hiszem, hogy ez szabályozás kérdése, hisz minding van az a pénz...

  • ddekany

    veterán

    válasz vicze #159 üzenetére

    "hogy valós döntést hozzon és ne determisztikusat"

    Lehet bele randomot tenni (ChatGPT esetén tesznek is), ha determinisztikusság kizáró ok valamiért. Általában amúgy az információ hiány miatt (azaz hogy csak egy véletlenszerű minta áll csak rendelkezésre, amit bemenetnek használsz) nem determinisztikusak a valós világban rendszerek beléjük éptett véletlen nélkül is.

    "Az hogy generál neked egy receptet ami ehetetlen, az nem lesz új hanem csak olyasmi, ami nem működik és nagyon sok ehhez hasonló dolog csinál, pontosan azért mert jelenleg több millió emberen tanítják"

    Te is másoktól tanulsz, csak neked már jobban "összeérnek" a fejedben a dolgok, így jobban ki tudod zárni a téves véleményeket. Ez még egy kezdetleges rendszer, amivel játszadoztál, és ennek ez kevésbé megy még. Meglátjuk, hova tud ez fejlődni. De nem látom ez elvi akadályát. Az, hogy nem fogadod el kritika nélkül mások véleményt, és sajátot formálsz, nem valami mágia, az csak rideg logika.

    "És nem hiszem, hogy ez szabályozás kérdése, hisz minding van az a pénz..."

    Igen, félő, hogy nem reális szabályozással kordában taratani ezt. De nem kéne feladni se rögtön, hogy akkor vagy nem tudjuk megcsinálni az "erős" AGI-t (mostanában!), és megúsztuk, vagy mindmeghalunk. Azért ennél tán többet megérne ez...

  • vicze

    félisten

    válasz ddekany #160 üzenetére

    "sajátot formálsz, nem valami mágia, az csak rideg logika."
    A saját véleménynek legtöbbször nem sok köze van a logikához. Vannak laposföld hívők...

    Nem tudom hogy mennyire értesz félre, én nem azt mondom, hogy nem lehet AI, csak azt hogy még inkább messze vagyunk tőle, mint közelebb. Valószínűleg saját magunkkal biológia oldalról is meg kell értenünk még dolgokat amiket eddig nem sikerült.
    Puszta matematikából és statisztikából nem lesz tudat, és a legtöbben a tudat létét mondanák valós intelligenciának.
    A többi nem más csak szofisztikált automatizálás.

    Nyilván lehet filozófiai oldal felé is vinni a kérdést, hogy valóban biológiai robotok vagyunk-e vagy többek. Csak azért képzeljük, hogy többek vagyunk, hogy magunkat kiemeljük vagy tényleg valami különleges és egyedi dolog az emberi tudat.
    Persze ehhez első körben nem ártana tudni, hogy mi az a tudat, de még ez is problémát okoz...

  • ddekany

    veterán

    válasz vicze #161 üzenetére

    "A saját véleménynek legtöbbször nem sok köze van a logikához. Vannak laposföld hívők..."

    Technikailag (megvalósításában) az is logika, csak nem a fizikai valóság leképzése a cél. A következtetési lánc valóságra alapozó részét egy ponton terminálod egy axiómával, egy pszichés cél elérésére (mint egy csoporthoz tartozás).

    Hogy milyen messze meg közel vagyunk, azt nem tudom. Remélhetően nagyon messze, és van még idő felzárkózni legalább morálisan az embereknek, valami csoda folytán. De amekkora bullshit generátor a ChatGPT 3.5, legalább annyira döbbenetes is ijesztő volt számomra, hogy eléggé brute force tanítással ilyenre képes legyen egy NN. Azaz hogy egyáltalán voltak dolgok, amiket elég találóan lemodellezett magában. És ez egy korai próbálkozás, hiába is régi a terület, mert nem régóta van erre hardver.

    "Puszta matematikából és statisztikából nem lesz tudat"

    Ezeket nem értem. A megfogalmazásodban itt mi számít matematikának, és mi számít tudatnak? (Mert hogy azt mondod, csak azzal nem lehet, azt.)

  • vicze

    félisten

    válasz ddekany #162 üzenetére

    "mi számít matematikának"
    ANN csak egy statisztikai gráf. Súlyozás alapján (aka tanulás) ad olyan eredményt, amit szeretnél.

    "Mi számít tudatnak?"
    Igen. :DDD

  • ddekany

    veterán

    válasz vicze #163 üzenetére

    Mondjuk úgy, hogy ráközelítve primitív a cucc, anélkül hogy elvesznénk részletekben a konkrét topológiáról, egyéb archiekturális részletekről, amiket persze nem is ismerünk. Primitív részekből épülnek a komplex viselkedésű rendszerek. A ChatGPT pl. meglepően jól leköveti, hogy ha kiadok tucat bash parancsot, amiket pont ebben a formában sosem látott, akkor mi lesz a képzeletbeli fájlrendszeremen. Úgy, hogy korábban csak rázúdult egy rakás dokumentáció meg beszélgetés a témáról, és senki nem programozta be emberi értelemmel erre a logikát. (Persze, hacsak nem csaltak Open AI-nél...) És még is kialakult a logika benne... Nem hibátlanul, de látszik, hogy az alapötlet működik.

  • Tasunkó

    aktív tag

    Annyira bonyolult lehet lekövetni, hogy jutott bizonyos következtetésekre, hogy valami szintetizáló AI-re lesz szükség, hogy visszafejthető legyen ha valami eddig nem próbált kombinációval jut eredményre. A koncepciónak egy ember fejében kéne összeállni, valószínűleg ez lesz a nagy feladat, hogy ki tudja-e termelni a kapitalizmus azt az embert, aki képes átlátni a kezdetleges AI működését. Illetve kizárólag bizonyos körök dolgozhatnának AI-vel akiket nem tud becsapni, esetleg egyenruhával kéne megkülönböztetni, patrícius , plebejus és slave, az utóbbi dolgozhatna AI-vel de nem kérdezhetne vissza.

    Kérek egy számot a jútútú

  • ddekany

    veterán

    válasz Tasunkó #165 üzenetére

    Erre jelenleg az a válasz, hogy ugyan dolgoznak emberek a betanított NN-ek belső működésének megértésén, ez jóval lassabban halad, mint az új és komplexebb NN-ek fejlesztése, amiknek a megfejtése meg jóval kilátástalanabb feladat eleve. Szóval az olló csak nyílik.

    Persze van az az ötlet is, hogy csinálunk egy másik AI-t, és majd az kitalálja, hogy az ellenőrzött AI rejt-e magában nem kívánatos dolgokat. Csak mi van, ha az fundamentálisan nehezebb feladat, mint amit az ellenőrzendő AI megoldana... Akkor megint nyílik az olló, hacsak nem gyakorlunk önmérsékletet a haladás ütemében (ami ugye nem jellemző, a gyilkos verseny miatt).

    Meg aztán, ez olyan, hogy lehet, hogy ha van rá sok évtizedünk, miután lettek erősebb AGI-ok, akkor sok kudarc után rájövünk hogyan kell ezt jól csinálni. Ez általában így van minden területen. Csak van az apró bökkenő, hogy túl sok próbálkozási lehetőséged itt nincs, ha a kudarc fatális lehet.

    Továbbra is nszvsz a fő remény az, hogy rohadtúl nem tudunk még ilyen AGI-okat csinálni nagyon sokáig. És mire igen, addigra megváltozik a lelkületünk, vagy akármi más miatt ez kontrollálhatóbb lesz. (Vagy előbb kihalunk más miatt, és akkor tárgytalan, de ez nem egy pozitív jövőkép...)

    [ Szerkesztve ]

  • totron

    őstag

    Sajnos az egész téma mehet a kukába, mivel most érkezett szerkesztőségünkbe a hír, miszerint a emberiség veszélyes a emberiségre! Damn it. Na most akkor így most már aztán mi legyen? Na mi.

    (#156) vicze1, Még egész konkrétan azt se tudjuk, hogy a fenében lett élettelen szerves anyagból élőlény. Eléméletek vannak, amiket nem tudott még senki igazolni.
    fatpingving tudja, csak nem mondja meg, nem tartja rá méltónak a fórumot.

    (#117) blackrulz, váratlanul és minden átmenet nélkül agresszív lesz, etc.
    A megfigyelő szemszögéből váratlanul lehet, átmenet-nélküliség, mint olyan viszont nem létezik és igazából ha ezt belátja a megfigyelő, akkor meglepetést is csak addig élhet át amíg a mögötteseket át nem látja. Na persze ezt a levezetést ritkán mellékelik a tapasztalások mellé.

    [ Szerkesztve ]

  • vicze

    félisten

    válasz totron #167 üzenetére

    Állítsuk le az emneriséget úgy 10évre, hogy felállítsunk egy megfelelő tanácsot, ami felügyeli! - Alá is írom a nyílt levelet.

    [ Szerkesztve ]

  • mzso

    veterán

    " ellepje az életünket a propaganda, a tévinformációk és az álhírek"

    Már réges rég megtörtént, AI nélkül is...

Új hozzászólás Aktív témák