14年11个月前IP:未同步
366639
5楼
回 4楼(novakon) 的帖子
引用第4楼novakon于2012-02-11 17:16发表的 回 3楼(phpskycn) 的帖子 :
溢出问题:矩阵运算时结果可能小于零,可能会返回8000H...8001H...之类的值
byte/int8:运算、赋值的时候如果大于0x00FF不会自动变成00FF,而且会改变前后的byte(莫非是我SB了?
mul和add的问题:这是一个演示程序,实际使用时可能会是 r = r*37801>>16这样的形式(实际运算时数字会比较大所以不用byte)。而且即使写r*2,编译器也会把*2变成add或者左移运算。

OnOverflow:事实上使用跳转会减慢程序计算速度,我会再改一个没有IF语句的版本出来。

应该不会改变前后字节吧,IA32有一套专门操作字节的指令。
我的意思是……一切都按无符号数考虑。。。这个时候FFH=255D而不是-01D
评论
文号 / 366639

万流景仰
名片发私信
学术分 8
总主题 412 帖总回复 4593 楼拥有证书:专家 老干部 学者 机友 笔友
注册于 2009/03/15 21:53:00最后登录 2026/01/31 04:21:35
主体类型:个人
所属领域:无
认证方式:手机号
IP归属地:0

个人简介

CV

笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的