- Fotók, videók mobillal
- Milyen GPS-t vegyek?
- Poco X3 Pro - hardverfrissítés
- Honor 400 - és mégis mozog a kép
- Redmi Note 12 Pro - nem tolták túl
- Milyen okostelefont vegyek?
- Friss koncepciót hoz a Nothing Phone (3)
- A lapkakészlet és az akku különbözteti meg a Motorola Edge 60 és Edge 60 Pro-t
- A Nothing Headphone (1) is a dizájnról szól
- iPhone topik
Új hozzászólás Aktív témák
-
ddekany
veterán
Van ez, hogy mikor kiválasztod a következő tokent, akkor ott több lehetőség közül választasz, és mindegyiknek van egy %-os esélye, hogy az a következő. (0 hőmérséklet beállításnál mindig a legvalószínűbbet választod.) Ha nincs egy erősen kiemelkedő első helyezet, akkor bizonytalan a model, és ígí gyanús, hogy nem megalapozottan választ. Ez alapján szoktak számolni u.n. perplexity-t. De ez nem bizonyult hallucinációk kiszűrésére hatékony mutatónak. Eleve mikor egy model téved, ott sokszor magabiztosan teszi. Aztán az előzmények is bekavarnak, mint egy korábbi kis tévedés miatt érez biztosnak egy későbbi nagy tévedést.
De hát ez az egyik nagy kérdés, hogy mi miért érezzük (általában), amikor valamit nem tudunk, vagy ha magabiztosak vagyunk benne. Lehet hogy ez megint egy magasabb rétegben iteratívan megoldandó önellenőrzés, és a betépett meggondolatlan megérző gép komponens maga jó, úgy ahogy van. Persze, minél jobban tippel, annál jobb, és egyelőre csak ennek az eredményét látjuk.
-
azbest
félisten
"mintha neked is elrendelhetné valami hatóság, hogy ettől a pillanattól ne emlékezz valamire"
hát, nem csak adatvédelem, de copyright kapcsán is ez van. Ezért is necces bármi ai eredményt használni, ha betanításkor kalózkodtak.
A pontatlanság "felismerése" nem biztos, hogy lehetetlen. Talán vannak rá mutatók, amiből detektálhatja, ha nagyon mellélőtt. Valahol a rendszer mélyén gondolom százalékok vannak arról, hogy adott gráfon milyen jól egyezik a mintákkal.
-
ddekany
veterán
"Azt a részt tényleg nem értem, hogy miért az a default, hogy mindenképp adjon választ (és az is válasz lenne, hogy "ehhez nem rendelkezem elég információval")."
Természetesen mert nem tudják jelenleg megoldani, pedig nagyon szeretnék. Ez kb. egy első "megérzésre" tippelő automata jelenleg, ami egy fontos építőelem, de önmagában kevés.
Valójában tudják jelentősen megbízhatóbbra csinálni (iteratív, önmagával beszélgetős megoldások), csak nagyon drága/lassú lenne, miközben továbbra is relatív megbízhatatlan.
Az EU-s elvek betartása meg kb. képtelenség: "data accuracy: meaning that personal data should be accurate and up-to-date". És akkor még ehhez jönne, hogy hogy kérheted, hogy pontosítsák vagy töröljék bizonyos adataidat. Ezeket a elveket szokványos gépekre találták ki, az LLM-ek meg nem úgy viselkednek. Kicsit mintha neked is elrendelhetné valami hatóság, hogy ettől a pillanattól ne emlékezz valamire. Persze LLM-nél esélyesebb, hogy egy napon majd megtudják oldani, mind embernél, de jelenleg nem tudják.
-
kilua
senior tag
Hát én nem is tudom, de amikor egy ismerősöm is a Facebookon véresen komolyan írta hogy "mérgeznek minket a levegőből" vagy amikor 5G telefon tornyokat tettek tönkre mert azt hiszik hogy nem ionizáló sugárzás bármilyen formában rákot okoz, vagy ott vannak a lapos földesek stb
Akkor szerintem az, hogy az MI néha butaságot ír, még nem jelenti azt hogy butább lenne mint egy átlag ember.
Megjegyzem a GPT 4o, már nem haluzik annyit mint a gpt 3.5, vagy a Claude3 ingyenes része.
-
dabadab
titán
Azért nem mondja, hogy nem tudja a választ, mert nem tudja, hogy mit tud.
This.
Egy csomó ember elhiszi, hogy az LLM-ek "mesterséges intelligenciák". Nem azok. Ennek megfelelően teljes elmebaj azt várni tőlük, hogy úgy működjenek, mint ha azok lennének, pl. "tudjon" dolgokat, vagy megvádolni azzal, hogy "hazudik". Ezek nem tudnak semmit, nincs öntudatuk, nem értik azt a szöveget, amit kiköpnek, fogalmilag képtelenek hazudni. -
-
BE4GLE
aktív tag
Azért nem mondja, hogy nem tudja a választ, mert nem tudja, hogy mit tud. Ha valamire mégis olyan választ ad, hogy "nem tudja", vagy "nem válaszolhat rá", az azért van, mert már megtanították rá, hogy ne adjon választ. De ezeket a nem kívánatos válaszokat az üzemeltetők nem láthatják előre. Csak utólag tudják orvosolni, ha már van róluk feedback.
Ezek a language modellek nem egy tudástárból próbálnak információt felkutatni. Azt próbáják megjósolni, hogy mi a beszélgetésben a következő szó. Ezzel szimulálva az emberi párbeszédet. Olyasmi mint a telefonod billentyűzetének szó javaslatai. Megfejelve némi véletlenszerűséggel, hogy elkerüljék az ismétlődést.
-
bteebi
veterán
"Mondjuk ennek semmi köze a ChatGPT-hez, az emberek mindig lusták lesznek validálni 1-1 információ valódiságát"
Erről van szó. Inkább ezen kellene változtatni, nem a tanulási folyamaton.
"Azt a részt tényleg nem értem, hogy miért az a default, hogy mindenképp adjon választ"
Azt én se, habár már volt olyan, nem is egyszer - GPT 3.5-tel és 4o-val is -, hogy rákérdeztem valamire, és csodák csodájára pont azt mondta, hogy arról nincs infója. Az egyik esetben ez mondjuk meglepő volt, mert a 4o akár ki is kereshette volna.
-
updog
őstag
"További problémának látják, hogy a ChatGPT eredményeit tényszerűen pontosnak tartják általában a végfelhasználók, függetlenül a valódi pontosságtól."
Mondjuk ennek semmi köze a ChatGPT-hez, az emberek mindig lusták lesznek validálni 1-1 információ valódiságát, megbízhatóságát
"Ezt dobta a google elsőnek, biztos igaz", "Láttam facebookon, hát csak úgy van, a Pista tette ki", "Mindenki ezt mondja a faluban, hát én már 30 éve ismerem a Jolit, ő biztos tudja".Egyébként mindegyik általam próbált szöveggenerátor, fizetős, legújabb, netre kötött verziók is haluznak még mindig összevissza (főleg user error esetén, de több mint egy éve promptolok és még mindig van hogy képtelen vagyok tök nyilvánvaló dolgokat kinyerni).
Azt a részt tényleg nem értem, hogy miért az a default, hogy mindenképp adjon választ (és az is válasz lenne, hogy "ehhez nem rendelkezem elég információval").
-
Tigerclaw
nagyúr
Azzal pedig még nem is foglalkozik senki, hogy a “result” mennyire vegyes minőségű, gyakran ijesztő butaság. Aki erre akar bízni fontos taskokat az jobban teszi, hogy előfizet 4-5 -re is, majd a válaszokat kiértékelteti saját human erőforrással is. Mi lesz ha valaki elkezd belsős infókat, ipari titkokat átadni ezeknek a kérdéseken keresztűl, mert ne legyen illúziónk, hogy a kérések, kérdések és a kérdező személye, cége ugyanúgy big dataként végzi, beépítve nem csak az adatkereskedelembe, de a tanulási fázisba.
![;]](http://cdn.rios.hu/dl/s/v1.gif)
Új hozzászólás Aktív témák
Hirdetés
- GIGABYTE Z490M Alaplap
- Playstation 4 500GB Destiny The Taken King Limited Edition
- P16 Gen1 16" FHD+ IPS i7-12850HX RTX A3000 32GB 1TB NVMe ujjlolv gar
- Bomba ár! Dell Latitude 5490 - i5-8GEN I 8GB I 256GB SSD I 14" FHD Touch I HDMI I Cam I W10 I Gari!
- Bomba ár! Dell Latitude 7280 - i7-7GEN I 16GB I 256SSD I 12,5" FHD Touch I Cam I W11 I Garancia!
- Az ASUS TUF Gaming B550-Plus csak rád vár! Kamatmentes rèszletre is!!
- A Panasonic Toughbook CF-54 i5-5300u i5-6300u TN, IPS touch Budapest, MPL Foxpost
- ÁRGARANCIA! Épített KomPhone Ryzen 7 9800X3D 32/64GB RAM RTX 5070 12GB GAMER PC termékbeszámítással
- 3DKRAFT.HU - 3D NYOMTATÁS - AZONNALI ÁRAJÁNLAT - GYORS KIVITELEZÉS - 480+ POZITÍV ÉRTÉKELÉS
- Samsung Galaxy S22 Ultra 128GB, Kártyafüggetlen, 1 Év Garanciával
Állásajánlatok
Cég: CAMERA-PRO Hungary Kft
Város: Budapest
Cég: Promenade Publishing House Kft.
Város: Budapest