ホーム » メモ » Matrix クラスバグ

2015年8月
 1
2345678
9101112131415
16171819202122
23242526272829
3031  

カテゴリー

アーカイブ

ブログ統計情報

  • 83,166 アクセス


Matrix クラスバグ

20 年位前に作成したコードのため,こんなガードが,…


行列の領域を作成する時に
   if ((long)r*(long)c*sizeof(double) > 1000000L) {
     return ;
     }
16 ビットの場合は 64000L .


ここのバナナのデータを開いた時,法線が正しく生成されず真っ黒になってしまった.

法線ベクトルのデータ数が 32068 で,1 MB を超えていた.
ガードを100 MB に変更.

Is this 投稿 useful? Useful Useless 0 of 0 people say this 投稿 is useful.

コメントする

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

%d人のブロガーが「いいね」をつけました。