誤差の種類

桁落ち誤差

値がほぼ等しい二つの数値の差を求めた時、有効桁数が減ることによって発生する誤差

丸め誤差

指定された有効桁数で演算結果を表すために、切り捨て、切り上げ、四捨五入などで下位の桁を削除することによって発生する誤差

情報落ち

絶対値が非常に大きな数値と小さな数値の加算や減算を行った時、小さい数値が計算結果に反映されないことによって発生する誤差

打ち切り誤差

無限級数で表される数値の計算処理を有限項で打ち切ったことによって発生する誤差

CPU性能

クロック

コンピュータの各装置がタイミングを合わせるための周期的な信号

クロック周波数

クロックが1秒間に繰り返される回数。単位はHz。

ex)1Ghz=1秒間に10億回信号を出しているということ。

CPI(Clock cycles Instruction)

1命令あたり何クロックサイクル必要かを表すもの。

MIPS(Million Instructions Per Second)

1秒間に実行できる命令の数。
1MIPSとは、「1秒間に100万命令実行できますよ」ということ。

CPUの高速化技術

パイプライン処理

複数の命令を並行して実行していく処理

スーパーパイプライン

パイプライン処理の各ステージの中身をさらに細かいステージに分割することで、効率アップをはかるもの。

スーパースカラ

パイプライン処理を行う回路を複数持たせることで、同時に複数の命令を実行できるようにしたもの。