« 内覧会と再内覧会の間 | トップページ | 引越し直後 »

2007年3月11日 (日)

電卓でできない計算?

バトラー先生の片手でいくつまで数えられますかというエントリーと山たっくん
さんの片手じゃ負けるけど両手では、なんと!というエントリーが上がってるの
で、ちょっとコンピュータで扱える整数の話でもしてみましょうかhappy01

皆さんの中で、電卓で(((2**2)**2)**2)....)**2なんて計算をしたことある人
居ませんか?(**2は二乗するってことです) こういう計算をしていくと、電卓
は最初のうちは正しい計算をしてますが、あるところからxxxxxEとかいう表示
になることがあります。これは一体何が起こってるのでしょうか。

これを説明するには、コンピュータの中で数字に扱いに2種類あることをまず理
解する必要があります。一つは整数で、もう一つは実数です。実数のほうは、
ちょっと難しいので整数のほうだけ説明しましょう。

コンピュータの中では、二進数という1と0だけの組合せで整数を表現していま
す。でも、一度に扱える整数には限度があります。例えば、コンピュータで、
16bitのCPUなら 2**16(2の16乗)通りの整数を、32bitのCPUなら2**32通りの
整数を扱えます。だからって、1-2**16=65536までの整数を扱えるわけじゃあ
ありません。0も負の数も扱いたいので、通常はほぼ半分に分け、
  -32768=2**15〜32767=2**15-1
の整数を扱うことが出来ます。32bitだと、
  -2147483648〜2147483647
の整数が扱えます。

で、電卓とかコンピュータというのは、この整数の間はちゃんと計算をしてく
れるのですが、この範囲外の整数はちゃんと計算してくれません。そこで、変
な表示をして計算が止まるか、実数の計算に移るのです。ところが実数の計算
というのも実は誤差を含んでいます。例えば、とても大きな実数に小さな実数
を足すと、値が変わらないことがあります。

まあ、コンピュータといえども万能じゃあないってことですね。ですから、構
造計算をコンピュータで完璧にやっても間違いはあるやもしれません。人の目
や色々な方法でチェックする必要はありますよね。
# と強引に家の話にこじつけちゃいましたwink

ちょっとバトラー先生のコメントに書いたことの補足をしておきます。片手で
数えられるのは、0-31=2**5-1です。両手だと、0-1023=2**10-1です。また、
調べてみると、二進数の話は、高校の指導要領の情報Cの中に含まれるようで
す。でも、情報Cというのは必修ではないので、高校を卒業しても、二進数の話
を知らない人も多そうです。とすると、残念ながら、二進数なんて知らないっ
て人が沢山世の中に居てるということですdespair

« 内覧会と再内覧会の間 | トップページ | 引越し直後 »

気になる話題」カテゴリの記事

コメント

謎院さん、ありがとうございます。言われたことは、よくわかりました。で、2進法の基本概念というか、そういう考えがあるよということは、中学では教えないのでしょうか。ワタクシ、中学1年のはじめのころに、学校で習って、それから数学に興味を持った記憶があるのです。謎院さんのお話しでは、高校で必修ではないとすると、今頃の世の中で・・・まさか・・・と杞憂するのですが・・。

こんにちは、バトラー先生2進数の話は、平成14年までは中2で教えていたようですが、現在の指導要領では高校の情報Cにしかないようです。今の大学生は知っているけど、高校生は知らないということですかね。多分情報Cは取らないでしょうから。。。大学でも情報系の学科なら授業はあるとは思いますが。。。

わ〜〜〜円周率もでしょう。世界史も・・って指折り数えています。

バトラー先生:円周率に関しては誤解している人が多いので書いておきます。 円周率としては3.14を用いるが,目的に応じて3を用いて処理できるよう配慮 するものとする。と指導要領とあります。つまり、基本は3.14で、3を使ってもいいとですよってことです。高校での情報も情報A, B, Cの中から1つ選択ということなので、学校によってはやってたり、やってなかったりということになると思います。

コメントを書く

コメントは記事投稿者が公開するまで表示されません。

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/1489792/39467012

この記事へのトラックバック一覧です: 電卓でできない計算?:

« 内覧会と再内覧会の間 | トップページ | 引越し直後 »

ツイッター

  • Twitter
2013年12月
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30 31        
無料ブログはココログ