引用引用第2樓不小心遇見(jiàn)你于2025-08-10 09:32發(fā)表的 :浮點(diǎn)數存儲本來(lái)就是超出位忽略存儲,加上R系列是新的硬件架構,存儲精度是存在差異。特別是尾數23位,新的架構考慮了第24位是0還是1
引用引用第4樓zmrs163于2025-08-12 08:58發(fā)表的 :硬件架構不一樣導致浮點(diǎn)數計算存在細微差別,雖然沒(méi)研究三菱的CPU,但是打個(gè)比方有的CPU浮點(diǎn)數中間計算精度不止float,結果只是截斷成float,處理方法就是盡量避免這種大范圍數值相除。
主辦單位:上海明控機電科技有限公司
本站所有內容均為網(wǎng)友自行發(fā)布,不代表網(wǎng)站立場(chǎng),如有爭議請與管理員聯(lián)系
工控人家園是公益論壇,不銷(xiāo)售任何資料軟件,不銷(xiāo)售會(huì )員和積分
刪貼、投訴電話(huà):13816792706
遵守法律,文明發(fā)言 滬ICP備10210768號-2 滬公網(wǎng)安備31010802001143號