差分

このページの2つのバージョン間の差分を表示します。

この比較画面へのリンク

両方とも前のリビジョン前のリビジョン
次のリビジョン
前のリビジョン
次のリビジョン両方とも次のリビジョン
programming:python:packages:pandas:format_output [2019/11/19] – [カラム毎に小数点以下を揃える] ikatakosprogramming:python:packages:pandas:format_output [2019/11/19] – [カラム毎に小数点以下を揃える] ikatakos
行 131: 行 131:
 #  2   1.41   1.41 #  2   1.41   1.41
 </sxh> </sxh>
 +
 +===丸め方法についての注意===
  
 注意点として、NumPyのroundは偶数丸めであること。(参考: [[wpjp>端数処理]]) 注意点として、NumPyのroundは偶数丸めであること。(参考: [[wpjp>端数処理]])
行 146: 行 148:
  
   * (*) 検証方法   * (*) 検証方法
-  * $a=0.0~1.9,b=0.0~1.9$ の400通りにつき、小数点1桁目を丸めての $a'-b'$ と、元の $a-b$ との誤差は、+  * $a=0.0~1.9,b=0.0~1.9$ の $a,b$ の組400通りにつき、小数点1桁目を丸めての $a'-b'$ と、元の $a-b$ との誤差は、
     * 偶数丸めで処理した結果: MAE=0.335, RMSE=0.4123     * 偶数丸めで処理した結果: MAE=0.335, RMSE=0.4123
     * 四捨五入で処理した結果: MAE=0.33, RMSE=0.4062     * 四捨五入で処理した結果: MAE=0.33, RMSE=0.4062
programming/python/packages/pandas/format_output.txt · 最終更新: 2021/12/09 by ikatakos
CC Attribution 4.0 International
Driven by DokuWiki Recent changes RSS feed Valid CSS Valid XHTML 1.0