マイペースなプログラミング日記

DTMやプログラミングにお熱なd-kamiがマイペースに書くブログ

2014-05-21から1日間の記事一覧

結局残ったのは固定小数点数の誤差だった

しばらくの間、自作GPUの中で使っているベクトルの正規化がうまく機能しておらず、どうしたものかと悩んでいたら、結局は固定小数点数の誤差だった。今まで気を使っていた部分ではあるが、何度も苦しめられている。だが、今回も無事に乗り切り、正規化に成功…