Új hozzászólás Aktív témák

• #166 ddekany veterán Tasunkó #165

  Új Válasz 2023-04-05 16:52:09 #166

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz Tasunkó #165 üzenetére

  Erre jelenleg az a válasz, hogy ugyan dolgoznak emberek a betanított NN-ek belső működésének megértésén, ez jóval lassabban halad, mint az új és komplexebb NN-ek fejlesztése, amiknek a megfejtése meg jóval kilátástalanabb feladat eleve. Szóval az olló csak nyílik.

  Persze van az az ötlet is, hogy csinálunk egy másik AI-t, és majd az kitalálja, hogy az ellenőrzött AI rejt-e magában nem kívánatos dolgokat. Csak mi van, ha az fundamentálisan nehezebb feladat, mint amit az ellenőrzendő AI megoldana... Akkor megint nyílik az olló, hacsak nem gyakorlunk önmérsékletet a haladás ütemében (ami ugye nem jellemző, a gyilkos verseny miatt).

  Meg aztán, ez olyan, hogy lehet, hogy ha van rá sok évtizedünk, miután lettek erősebb AGI-ok, akkor sok kudarc után rájövünk hogyan kell ezt jól csinálni. Ez általában így van minden területen. Csak van az apró bökkenő, hogy túl sok próbálkozási lehetőséged itt nincs, ha a kudarc fatális lehet.

  Továbbra is nszvsz a fő remény az, hogy rohadtúl nem tudunk még ilyen AGI-okat csinálni nagyon sokáig. És mire igen, addigra megváltozik a lelkületünk, vagy akármi más miatt ez kontrollálhatóbb lesz. (Vagy előbb kihalunk más miatt, és akkor tárgytalan, de ez nem egy pozitív jövőkép...)

  [ Szerkesztve ]

Új hozzászólás Aktív témák