演算の実行(基本情報技術者試験の出題範囲から)

カテゴリー │情報処理技術者試験

金曜日「情報処理シリーズ」の9回目です。

前回 は「基本情報技術者試験の出題範囲」から

「入出力装置」についてご紹介しました。

引き続き「基本情報技術者試験の出題範囲」のご紹介を続けます。




今日は「演算の実行」について少しお話しします。



1.演算とは?

 コンピュータのCPUがする仕事はある意味全て「演算」です。
 
 といってしまうとあまりにも広くなってしまうので
 
 基本情報技術者試験に出てくるトピックとして何があるかと言うと
 
 真っ先に挙がるのは「数値演算」・・・要するに「数の計算」です。
 


2.コンピュータならではの数値演算

 今日は数値演算に関して出題されるキーワードの1つ
 
 「桁あふれ(オーバーフロー)」をご紹介したいと思います。
 
 話を単純にするため、8ビットのコンピュータで見てみます。
 
 数値1桁を8ビットで表現して、0から+1を続けてみると
 
 [0][0][0][0][0][0][0][0]=(10進数の)0
 [0][0][0][0][0][0][0][1]=(10進数の)1
 [0][0][0][0][0][0][1][0]=(10進数の)2
 [0][0][0][0][0][0][1][1]=(10進数の)3
 [0][0][0][0][0][1][0][0]=(10進数の)4
 ・・・
 ・・・
 ・・・
 [1][1][1][1][1][1][1][1]=(10進数の)255
 
 となります。
 
 さて困りました。
 
 もし数値1桁を記憶するのに8ビットしか領域がなかったら
 
 さらに+1すると、本当は
 
[1][0][0][0][0][0][0][0][0]=(10進数の)256
 
 なのですが、一番左の[1]を記憶する所がないので
 
[1][0][0][0][0][0][0][0][0]=(10進数の)0
 
 となってしまいます。
 
 このように、使用できるケタを超えてしまって
 
 計算がおかしくなることを「桁あふれ(オーバーフロー)」と言います。
  
(上の例は正確には「符号なし」という形式での例です)
 
 
 
 じゃあどうすればいいのか?という話を続けると長くなるので
 
 今日はここまでにしたいと思いますが、少しでもイメージが
 
 伝われば嬉しいです。



基本情報技術者試験は試験範囲がとても広いので、

お一人で勉強されていてお困りの方は、良かったら

きくちはじめ工房の試験対策レッスンをご利用ください。



それではまた来週をお楽しみに~。♪赤



▼情報処理技術者試験の参考書/問題集はアイテックがオススメです






きくちはじめ工房では、情報処理技術者試験の受験対策(学習支援)

も行っております。個別指導、グループ指導、ご相談に応じます。

お見積は無料です。お問い合わせ、お待ちしております。

【お問い合わせ・ご依頼はこちらへ】





同じカテゴリー(情報処理技術者試験)の記事