Új hozzászólás Aktív témák

• #5286 dabadab titán #36268800 #5285

  Új Válasz 2015-03-03 19:37:08 #5286

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  dabadab

  titán

  válasz #36268800 #5285 üzenetére

  Isten hozott a lebegőpontos számok világában!
  Alapvetően két csúnya dolog van velük:
  1. a pontosságuk korlátozott, vagyis előbb-utóbb lesznek kerekítési hibák
  2. nem tizes, hanem kettes számrendszert használnak, így a tizes számrendszerben kevés tizedesjegyből álló számok simán lehetnek végtelen tizedestörtek

  Ha kiíratnád a MAXP*0.57 értékét, akkor valószínűleg valami olyasmit látnál, hogy 0,57000001. Emiatt lebegőpontos számoknál számolni kell azzal, hogy az egyenlőség nem fog működni és nem egzakt egyenlőséget vizsgálni, hanem azt, hogy az adott szám benne van-e valamilyen tartományban.

Új hozzászólás Aktív témák