Új hozzászólás Aktív témák

• #33 XMI csendes tag Dißnäëß #22

  Új Válasz 2023-06-10 20:19:05 #33

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  XMI

  csendes tag

  válasz Dißnäëß #22 üzenetére

  Nem hiszem én, hogy itt valami összeesküvés lenne. Ez a szellem ki van eresztve a palackból, nem tudják effektíven betiltani. Már vannak kinn "opensource" modellek, amik a GPT3.5 szintjét egész jól megközelítik. Alig több, mint fél év telt el, hogy kijött, már sikerült az OpenAI után csinálni. Ezek un. "cenzúra nélküli" modellek. Nyilván ezen örvendezik mindenki, hogy nem polkorrekt válaszokat is ad, de valójában a gond az, hogy ez "unaligned" modell. Semmiféle etikai és/vagy safety finomhangolás nincs rajta.
  A cégekből kikényszerítheted, hogy "megfelelő" (már ha tudnánk mi a megfelelő) safety intézkedéseket építsenek be, de ezek a szabadon elérhető modellek közkézen terjednek. Letöltheted, bérelhetsz valami monstre GPU-s cloud instance-ot, futtathatod magadnak.

  Ha betiltják, darkneten fognak terjedni. Bűnözői csoportok össze fogják barkácsolni emberek tömeges átverésére, malware készítésre és terjesztésre, és később robotoknak cselekvési terv generálásra is. (robot ugye nem hagy DNS mintát... ha kellően ügyes valaki, akkor úgy végeztetheti el a piszkos munkát, hogy nem lesz hozzá visszavezethető).
  Az igazi baj az lesz, hogy az ilyen hozzá nem értő barkácsolók és kifejezetten rosszakarók fognak elszabadítani valamit, amit saját magát képes továbbfejleszteni.
  Ekkor fognak rádöbbenni a politikusok, hogy a jog és az állami szervezetek mennyire tehetetlenek ezzel szemben.

• #27 #85578752 törölt tag Dißnäëß #22

  Új Válasz 2023-06-08 19:13:48 #27

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  #85578752

  törölt tag

  válasz Dißnäëß #22 üzenetére

  BTW ha all-in, akkor nem lehet Kordában tartani.

• #24 ddekany veterán Dißnäëß #22

  Új Válasz 2023-06-08 11:14:42 #24

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  ddekany

  veterán

  válasz Dißnäëß #22 üzenetére

  Azt tán nem is tagadja senki, hogy most az a prioritás, hogy másiknál gyorsabb legyen. Hogy az mennyire folyik a civil szektorban (OpenAI/MS, Google, Meta, stb.), és mennyire a katonai/állami szervek rejtekében, persze nem tudjuk. De én nem csodálkoznék, ha az "államiak" (akármilyen szervei) most itt lépéshátrányba kerültek. Gyorsabbak/életrevalóbbak a nem-állami szervezetek, és a pénz is ömlik most rájuk.

  Ha meg elérik az megálmodott szuper-AI-t (bár eléggé nyitott, hogy azon pontosan milyen is), akkor ha az emberi kontroll alatt marad, eléggé valószínű, hogy széttépjük egymást. És ha az AI cégeknél is így gondolják a fejesek, akkor... Ugye, az jön ki, hogy nem szabad, hogy kontrolláljuk. Másfelől pont ez a vááá #mindmeghalunk skynet, hogy nem kontrolláljuk, és autonóm. Na most akkor mi lesz?

  Szerintem inkább ne sikerüljön ezt túl okosra csinálni mérnöki nehézségek miatt...
  Jelenleg itt is tartunk, hogy a ChatGPT hülye, tehát az egész egy hype, az átlag ember szerint. Nyilván ez a kényelmes lelki állapot. Főleg mert ha valójában pár év is itt a szuper-AI, úgy is igencsak tehetetlen vagy. Szóval a tagadás kellemesebb állapot.

• #23 #85578752 törölt tag Dißnäëß #22

  Új Válasz 2023-06-08 11:07:57 #23

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  #85578752

  törölt tag

  válasz Dißnäëß #22 üzenetére

  All-In.

  Ha logikus az amit leírtál, akkor alighanem mindez már a múlt, amit pedig mi látunk, az már a szingularitás utáni porhintés, hogy az itt maradó makik elhiggyék hogy nem történt semmi.

Új hozzászólás Aktív témák