Cygwin なんでも掲示板

一覧最新記事過去一覧 | 検索FAQアンテナHOME
(新規投稿・発言はできません)

No.539  Re[2]:計算したときの丸目について
発言者: 水口
発言日: 2002 08/14 22:37
 
> 水口さんがおっしゃっていた方法は、試してみましたが、入力データに異常は無く、

あれ、そうですか? 0.005を代入したはずのfloat変数を %.10f で表示させると、0.004999999888 とかになりませんか?
これをもとに小数第3位を四捨五入してゼロになるのは正しい処理です。問題は、float変数が0.005を誤差含みでしか表現できないところにあります。

このあたりのことも、きっと[な]さんの紹介された書籍には書かれているんだと思います。

しかし、表現誤差・計算誤差の問題は、入門用のテーマにはちょっと重いので、先送りにするのも一考かと。
#境界値以外(0.0051とか)では正常なんですよね?

> また、us-asciiってのがわからないので調べてから実行してみます。

あらら。517のスレッドも ponさんでしたか、失礼しました。「\を含む漢字」のことをを言ったんですよ。


▼関連発言

527:計算したときの丸目について [pon] 08/10
 ├528:Re:計算したときの丸目について [pon] 08/10
 ├531:Re:計算したときの丸目について [水口] 08/12
 ├533:Re:計算したときの丸目について [MSだす] 08/13
 ├537:Re:計算したときの丸目について [な] 08/13
 └538:Re:計算したときの丸目について [pon] 08/14
  └539:Re[2]:計算したときの丸目について [水口] 08/14
   └540:Re[3]:計算したときの丸目について [pon] 08/15
    └542:Re[4]:計算したときの丸目について [MSだす。] 08/15
     └545:Re[5]:計算したときの丸目について [pon] 08/16 <

Pass 保存

早田のホームページへ
CGIROOM