單片機浮點數的實用快速降法 作者: 時間:2012-03-08 來源:網絡 加入技術交流群 掃碼加入和技術大咖面對面交流海量資料庫查詢 收藏 可見只需要在X/YH的基礎上再乘以一個修正因子(YH-YL)/YH,就可以得到X/Y的一次校準值。不難證明這個值已經達到了24位的精度要求。事實上,相對誤差滿足: 上一頁 1 2 3 下一頁
評論