Új hozzászólás Aktív témák

• EQMontoya veterán

  #5287

  #5286 dabadab

  2015-03-04 00:30:13

  Új Válasz

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  

  EQMontoya

  veterán

  #5286 dabadab

  #5286 dabadab

  Isten hozott a lebegőpontos számok világában!
  Alapvetően két csúnya dolog van velük:
  1. a pontosságuk korlátozott, vagyis előbb-utóbb lesznek kerekítési hibák
  2. nem tizes, hanem kettes számrendszert használnak, így a tizes számrendszerben kevés tizedesjegyből álló számok simán lehetnek végtelen tizedestörtek

  Ha kiíratnád a MAXP*0.57 értékét, akkor valószínűleg valami olyasmit látnál, hogy 0,57000001. Emiatt lebegőpontos számoknál számolni kell azzal, hogy az egyenlőség nem fog működni és nem egzakt egyenlőséget vizsgálni, hanem azt, hogy az adott szám benne van-e valamilyen tartományban.

  ...amely tartomány méretét érdemes igazítani a számábrázolás pontosságához és az összehasonlított számok nagyságrendjéhez, de kis számoknál sem túl alacsonyra menni.

Új hozzászólás Aktív témák