EタイプとDタイプは、いつから精度が逆転したのか? ― 2024年07月18日 03:40
ChatGPTによれば昔と今ではEタイプの数値(例えば1.23456E-3)のコンピュータ内での解釈がことなるらしい。
昔はこの数字のEは昔は単に10のx乗の意味であり、単精度浮動小数点数値と呼ばれていた。
コンピュータ内で数値の実質的な桁数を増やすには、Dタイプ(倍精度浮動小数点数値)を用いれば単精度浮動小数点の2倍のビット数64ビットを割り当てて、より内部表現精度が良くなっていた。
しかし、現代の一般的なコンピュータでは、1.23456E-3のEは拡張(Expandedの略だろう)精度浮動小数点数値と解釈され、80ビットを使うとのこと。これでは、DタイプよりもEタイプの方が精度が良いではないか。
早く言ってくれよ。(勉強不足でした。)
むかしはDタイプはEタイプの倍の精度だったのに、逆転しているとは
数値データに対する解釈が変わってしまったはいつからなのか?
古い人間とは誰かに言われなければ、実際とは逆のことを正しいと思い込むヒトである。(涙)←この記述自体が古そう。
昔はこの数字のEは昔は単に10のx乗の意味であり、単精度浮動小数点数値と呼ばれていた。
コンピュータ内で数値の実質的な桁数を増やすには、Dタイプ(倍精度浮動小数点数値)を用いれば単精度浮動小数点の2倍のビット数64ビットを割り当てて、より内部表現精度が良くなっていた。
しかし、現代の一般的なコンピュータでは、1.23456E-3のEは拡張(Expandedの略だろう)精度浮動小数点数値と解釈され、80ビットを使うとのこと。これでは、DタイプよりもEタイプの方が精度が良いではないか。
早く言ってくれよ。(勉強不足でした。)
むかしはDタイプはEタイプの倍の精度だったのに、逆転しているとは
数値データに対する解釈が変わってしまったはいつからなのか?
古い人間とは誰かに言われなければ、実際とは逆のことを正しいと思い込むヒトである。(涙)←この記述自体が古そう。
最近のコメント