Új hozzászólás Aktív témák

• #6 cami][us senior tag moleculez #2

  Új Válasz 2023-03-24 16:23:14 #6

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  cami][us

  senior tag

  válasz moleculez #2 üzenetére

  [link]

• #31 jonnyjoker01 veterán moleculez #30

  Új Válasz 2023-03-27 13:11:33 #31

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  jonnyjoker01

  veterán

  válasz moleculez #30 üzenetére

  Annak nem látom lehetőségét hogy atombombákat bármikor is rábízzanak AI-ra, de annak igen, hogy ahogy egyre javul ez a technológia, nagyobb cégek, kormányok elkezdjék beintegrálni a rendszereik működésébe. Ennek addig nem kéne bekövetkeznie amíg csak egy blackboxként ismerjük a technológiát (lehet nem is fog, lehet megfelelően fogjuk kezelni).

  Az hogy ez mind matematika, nem nagyon nyugtat meg, mert csak annyi kell a rossz recepthez, hogy kritikus rendszerek működését rábízzuk egy jövőbeli fejlettebb iterációjára. Nem kell hogy "öntudatra ébredjen", elég ha csak nem működik tökéletesen ami utólag derül ki, esetleg simán hibázik vagy az extra emberileg hozzáadott dolgok miatt (pl "agency and inherent motivation" ) furcsa döntéseket hoz.

  De amúgy igazad van, az esti AI rabbithole agymenésemből lenyugodtam. Nem hiszem, hogy emberek engednék a kritikus rendszerekben partnerként kezelni, hogyha nincs 100%-ig bizonyítva, biztosítva hogy tökéletesen működik, vagy minimum jobban, mint a most emberek által kezelt és készített rendszerek. Meg egyébként is, valószínűleg egyenlőre megállunk annál, hogy external toolként használjuk, úgyhogy ez a jövő zenéje.

  Üdv. Johnny

• #33 ddekany veterán moleculez #30

  Új Válasz 2023-03-28 01:18:05 #33

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #30 üzenetére

  "a Skynet nem jön mostanában: a motorháztető alatt ez mind matematika"

  Fenti részt nem értem. A mondat két fele hogyan függ össze? Mint írod is, nem tudjuk lekövetni érdemben, túl komplex. (De amúgy a tárgyalt rendszereknél direkt van benne random is.) Amúgy nem gondolom, hogy jön a Skynet. Valami társadalmi/gazdasági világégés a túl gyors változás, és tömeges feleslegessé válás miatt akkor már reálisabb.

  Amúgy, az egy dolog, hogy van arra komoly törekvés, hogy megértsük jobban a belső működést. De aztán ott a másik tényező, hogy tipikus szemlélet, hogy aki gyorsabb, az nyer, és valaki olyan lesz a nyertes, aki mert nagyot kockáztatni. Az utóbbit valló vezetők nem nagyon fognak arra várni, hogy az előbbi tudós/mérnök társaság lépést tartson az AI képességeivel. Szóval ha tartják még jó pár évig a mostani fejlődési üzemet, lehet itt még nemulass rendesen...

  Meg aztán, az egész NN-es dolog egy lényeges erénye, hogy nem kell megérteni, hogyan csinálja. Ezért lehet megvalósítani olyan dolgokat vele, amiket hagyományosan leprogramozni, az ember értelmi képességei miatt, nem reális. Azért én arra számítanék, hogy max. nagyon nagy vonalakban fogunk érteni egy sokmilliárd vagy akár billió paraméteres AI-t, és sosem lehetsz benne biztos, hogy néha nem produkál-e valami meglepőt.

  [ Szerkesztve ]

• #35 ddekany veterán moleculez #34

  Új Válasz 2023-03-28 08:21:54 #35

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #34 üzenetére

  Ja, hogy te azt az elvet vallod, egy rendszer ami "mind csak matek", nem rendelkezhet öntudattal? Azt nem akarom kinyitni, hogy mi számít valódi öntudatnak, mert az flame topic. Szóval úgy mondom, hogy veszélyesség szempontjából elég, ha valami tud utánozni egy öntudattal rendelkező lény, azaz ugyan úgy fog cselekedni. Egy ChatGPT persze nem tud ilyet. Eleve kezdetleges még, nagyon korlátos a memóriája (pár ezer szó... bár egyre több), és főleg, a tréning és a következtés(?) szakasz technikailag erősen elválik. Mondjuk ha ezt a kettőt nem tudjuk egyesíteni, akkor is lehet annyit, hogy az AI vezérelheti saját maga következő verziójának tréningezését. Persze most még túl hülye hozzá, meg még van a tréningben emberi visszajelzés is (RLHF). De hát jövőt latolgatjuk. Kombinálva a gátlástalan versennyel: ha te betartod a szabályokat, majd valaki más megszegi, és legyőz, tehát...

  [ Szerkesztve ]

• #37 ddekany veterán moleculez #36

  Új Válasz 2023-03-28 09:54:10 #37

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz moleculez #36 üzenetére

  Lebegőpontra butítod amúgy. Tehát hamarabb kezd "kvantálni" mint egy fizikailag mérhető akármi, de gondolom nem ezt látod a lényegi akadálynak. Szokták még mondani a kvantum véletlent, de használnak véletlent pl. CharGPT-ben is. Bár nem "igazi" véletlen, hanem pszeudo véletlen (feltételezem), de ez megint aligha lesz akadály.

  [ Szerkesztve ]

Új hozzászólás Aktív témák