マイペースなプログラミング日記

x86エミュレータやFPGA、WebGLにお熱なd-kamiがマイペースに書くブログ

結局残ったのは固定小数点数の誤差だった

しばらくの間、自作GPUの中で使っているベクトルの正規化がうまく機能しておらず、どうしたものかと悩んでいたら、結局は固定小数点数の誤差だった。今まで気を使っていた部分ではあるが、何度も苦しめられている。だが、今回も無事に乗り切り、正規化に成功したようだ。まぁ、近似ですけどね!