みんなの「教えて(疑問・質問)」にみんなで「答える」Q&Aコミュニティ

こんにちはゲストさん。会員登録(無料)して質問・回答してみよう!

解決済みの質問

計算に使うエクセルの数値の表し方について

初歩的な質問かもしれませんが…
エクセルのセル間で、計算式や関数を使って計算を行うと、答えが6.10479547238…などと割り切れない小数になることが多いです。
これを、例えば小数点以下3桁で表示させるには、書式の表示形式を数値にして桁数を3で指定する方法と、ROUND関数を用いて引数を3にするやり方が考えられます。
この計算結果の数値を用いて、さらに別の計算を行う場合(例えば各計算結果の平均値を出すなど)、どちらのやり方で丸めたものを用いた方が正確でしょうか?

投稿日時 - 2009-05-08 22:15:27

QNo.4942606

困ってます

質問者が選んだベストアンサー

0.12345と入力して、
(1)表示形式   0.123 → その値に1000を掛けると123.45
(2)round  0.123 → その値に1000を掛けると123

(1)は見かけだけが下3桁 (2)は実体も下3桁です。

正確性が最優先なら(1)ではないですか?

投稿日時 - 2009-05-08 22:33:23

お礼

アドバイス、ありがとうございます。
丁寧な説明で、よくわかりました。
やはり(2)だと計算を繰り返すうちに誤差が大きくなりそうですね。

投稿日時 - 2009-05-08 22:36:16

このQ&Aは役に立ちましたか?

0人が「このQ&Aが役に立った」と投票しています

回答(3)

ANo.2

 
表示形式は見え方の工夫だから6.104と見えても実際の数値は6.10479547238です
一方、ROUND関数は切り捨てますから6.104は表示桁数をどんなに長くしても6.104です。

 

投稿日時 - 2009-05-08 22:22:38

お礼

早々のお答えありがとうございました。
やはり表示形式で表した方が、真の値に近くなるのですね。

投稿日時 - 2009-05-08 22:34:31

ANo.1

 正確性を求めるならば前者ですが、あとから手計算でチェックするのであれば後者の方が適切です。

投稿日時 - 2009-05-08 22:20:29

お礼

さっそくのお答え、ありがとうございます。
やはり前者の方が正確ですか。
本当に丸めてしまうと誤差が入ってしまい、計算を繰り返すうちにその誤差が大きくなるようで気になったのです。
手計算のチェックと言っても、真の値でなければ意味がなくはないですか?

投稿日時 - 2009-05-08 22:33:03

あなたにオススメの質問