はじめに

以前「Rustのsoftfloatライブラリ比較」という記事でRustにおけるソフトウエア実装の浮動小数点数演算ライブラリを紹介しました。このときに気づかなかったのですが、実はもう一つ有力なライブラリがあったのを最近発...

これは何？

ruby の数値の等値 という記事の冒頭に軽い気持ちで書いた C 言語の話が面白かったのでここに記す。


基礎知識


Usual arithmetic conversions

C89 だか C99 以降、四則や...

これは何？



で素朴に総和をとっていて。

そういえば部分和を積み重ねることで誤差を減らせるよという話を最近 Qiita で見たな



と思い。

足し方でどう誤差が変わるのか調べてみた。


調べたこと

$$
\frac...

これは何？

こんな記事



を書くに当たり。

Kahan のアルゴリズムを Wikipedia をもとに実装してみたけど、 ruby の Enumerable#sum の結果と合わなかった。

何が違うのか調べてみた。


...

はじめに

先日、端数の処理方法について考える機会がありまして、割と調べたのでまとめてみようかなと思います。


端数処理（丸め）の規則

よく知られている端数処理は

・切り上げ
・切り下げ
・四捨五入

ですが、これ以外にも
...