2. Fórumok
  3. Infotech
  4. Musk és a ChatGPT-vezér megmondták, kik segíthetnek kordában tartani az AI-t
Keresés

Új hozzászólás Aktív témák

  • #26 ddekany veterán Medocsabi #25
    Új Válasz #26
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    ddekany

    veterán

    válasz Medocsabi #25 üzenetére

    Hát igen. Lásd fentebb. Azaz, ezek alapján lehet arra következtetésre jutni, hogy az egyetlen esélyed ha te csinálod meg először a super-AI-t, és direkt olyanra csinálod, hogy az kontrollra törekedjen, és autonóm legyen, ne hallgasson a gyarló emberekre (persze eljátssza ha együttműködő ártatlan boci, amíg nem navigálta magát megfelelő pozícióban, mert nem hülye). Mert az emberek első körben gazdagságot/hatalmat akarnak, aztán bizalmatlansából esélyes, hogy jól összeháborúznak. Sőt, esetleg az AI is odavész az infrastruktúrával együtt.

    Ki tudja, talán valójában erről álmodnak Sam-ék (vagy valamelyik másikak). A nagy kockázat, hogy (valószínűleg) nem tudod, mit építettél. Főleg ha elsőnek kellett lenni, sokat nem lehetet kutatni, meg óvatoskodni. Csinálsz valamit, ami lever STEM-ben, meg szociáliás manipulációban, és csak reméled, hogy nem bukik ki belőle valami olyan szándék, amit nagyon nem preferálsz, amikor épp nem állsz a kábelnél a csípőfogóval.

  • #15 XMI csendes tag Medocsabi #11
    Új Válasz #15
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra
    Privát üzenet küldése

    XMI

    csendes tag

    válasz Medocsabi #11 üzenetére

    Ennél megintcsak árnyaltabb a szituáció.
    Abban az AI safety szakértők (nem Musk, hanem kutatók akik ténylegesen publikálnak ilyen témákban) is egyetértenek, hogy a GPT-3 és a GPT-4 még nem AGI.

    Viszont, ha megnézed, hogy a fejlődés üteme milyen... A GPT-2 még ott tartott, hogy az egyes mondatai nyelvileg rendben voltak, de alig kapcsolódtak egymáshoz. 2-3 mondaton belül teljesen elvesztette a témát. Ehhez képest a GPT-3 már hosszasan tud értekezni mindenféle témákról. A GPT-3 amerikai egyetemi felvételiken 10% körüli pontszámokat tudott elérni, a legtöbb kérdést "nem értette meg", totálisan mellébeszélt. A GPT-4 már van ahol 90%-os eredményt ér el. Nemrég jelent meg cikk arról, hogy a GPT-4-et bekötötték minecraft-ba: mindig megkapta promptként, hogy milyen kockák vannak éppen a játékos körül, válaszként javascript API-ra kellett függvényhívásokat írnia, hogy a játékos karakternek mi legyen a következő művelete. Teljesen önállóan döbbenetesen sokáig eljutott a karakterfejlesztésben.

    Ha fél-egyévente kijön ebből egy újabb, ami ugyanilyen ütemben fejlődik (jelenleg semmi ok nincs kételkedni benne), akkor elég gyorsan nyakunkon lesz az AGI. Lehet, hogy 5 éven belül. Ha addig nem oldjuk meg az AI safety problémákat, akkor _nagyon_ nagy bajban leszünk. Érdemes Rob Miles videóit nézegetni youtube-on, elég világosan elmagyarázza, hogy mik ezek a konkrét problémák és hogy az intuitív megoldási ötleteink miért nem jók.

  • #12 #85578752 törölt tag Medocsabi #11
    Új Válasz #12
    Új hozzászólás
    Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

    #85578752

    törölt tag

    válasz Medocsabi #11 üzenetére

    Régen attól rettegtettek, hogy nem fog már kelleni grafikus, merthogy van clipart, meg már mindent meg lehet csinálni Wordben. Sajnos a "hajrá!" reakció akkor még nem volt feltalálva.

Új hozzászólás Aktív témák