Discommunication

日記帳

基本情報1

10/3受験。まあだいたい大学でやった内容だけど復習がてら参考書も買ったし勉強し直す。

UEC卒なら受かって当然よ

 

★数値表現

 ・論理シフト 符号を考慮しない純粋なシフト

 ・算術シフト 符号を考慮する 左シフトは0で埋めるが、右シフトは1で埋める。

 

 ・固定小数点 整数部と小数部で分ける

 ・浮動小数点 符号+指数部+仮数部で分ける。

 ・正規化 0.012->0.12*2^-1とする 小数点の位置を調整

 ・IEEE754 正規化を0ではなく1にする。指数部を+127する。

  ex)0.375(10)->0.011(2) 1.1x2^10-2なので指数部は125=01111101

    よって0|01111101|100....0|

 

★誤差

 ・桁溢れ誤差(オーバーフロー/アンダーフロー) 扱える範囲を超える

 ・情報落ち 桁数が異なる減算をした際に小さい値が抜け落ちる事。

 ・打ち切り誤差 無限小数などを打ち切る時

 ・桁落ち 絶対値が近い計算をした時に有効数字が減る(数値の精度が保証されなくなる)事。 

 ・丸め誤差 四捨五入や切り捨て/上げ。