未分類

エクセルの計算誤差

投稿日:

エクセルの計算は完璧!
そう思いがちだが、計算を間違えることがあります。

間違えるというよりは誤差が生じる。

セルに A1=1 。セル A2=A1-0.1
セルA2をA11 までオートフィルすると 0 にならない

10÷3は

3.333333333333330000

になる。
2進数だからしょうがないが
小数点には注意が必要です

-未分類

執筆者:


comment

メールアドレスが公開されることはありません。

関連記事

no image

Gmailのマニュアル

このコンテンツを閲覧するにはログインが必要です。お願い ログイン. あなたは会員ですか ? 会員について

no image

春のバスツアー

このコンテンツを閲覧するにはログインが必要です。お願い ログイン. あなたは会員ですか ? 会員について

no image

フォントによって行間が違う

このコンテンツを閲覧するにはログインが必要です。お願い ログイン. あなたは会員ですか ? 会員について

no image

RAS暗号の仕組み

チョー簡単に説明すると ある数字をべき乗して特定の数字でわると余りがある数字と同じになる時があります。 例えば、計算がしやすいように簡単な数字にするとべき乗が22 特定の数字が55だと成り立ちます。M …

no image

Hello world!

WordPress へようこそ。これは最初の投稿です。編集もしくは削除してブログを始めてください !