EタイプとDタイプは、いつから精度が逆転したのか? ― 2024年07月18日 03:40
ChatGPTによれば昔と今ではEタイプの数値(例えば1.23456E-3)のコンピュータ内での解釈がことなるらしい。
昔はこの数字のEは昔は単に10のx乗の意味であり、単精度浮動小数点数値と呼ばれていた。
コンピュータ内で数値の実質的な桁数を増やすには、Dタイプ(倍精度浮動小数点数値)を用いれば単精度浮動小数点の2倍のビット数64ビットを割り当てて、より内部表現精度が良くなっていた。
しかし、現代の一般的なコンピュータでは、1.23456E-3のEは拡張(Expandedの略だろう)精度浮動小数点数値と解釈され、80ビットを使うとのこと。これでは、DタイプよりもEタイプの方が精度が良いではないか。
早く言ってくれよ。(勉強不足でした。)
むかしはDタイプはEタイプの倍の精度だったのに、逆転しているとは
数値データに対する解釈が変わってしまったはいつからなのか?
古い人間とは誰かに言われなければ、実際とは逆のことを正しいと思い込むヒトである。(涙)←この記述自体が古そう。
昔はこの数字のEは昔は単に10のx乗の意味であり、単精度浮動小数点数値と呼ばれていた。
コンピュータ内で数値の実質的な桁数を増やすには、Dタイプ(倍精度浮動小数点数値)を用いれば単精度浮動小数点の2倍のビット数64ビットを割り当てて、より内部表現精度が良くなっていた。
しかし、現代の一般的なコンピュータでは、1.23456E-3のEは拡張(Expandedの略だろう)精度浮動小数点数値と解釈され、80ビットを使うとのこと。これでは、DタイプよりもEタイプの方が精度が良いではないか。
早く言ってくれよ。(勉強不足でした。)
むかしはDタイプはEタイプの倍の精度だったのに、逆転しているとは
数値データに対する解釈が変わってしまったはいつからなのか?
古い人間とは誰かに言われなければ、実際とは逆のことを正しいと思い込むヒトである。(涙)←この記述自体が古そう。
コメント
トラックバック
このエントリのトラックバックURL: http://yokoyamashindo.asablo.jp/blog/2024/07/18/9702154/tb
※なお、送られたトラックバックはブログの管理者が確認するまで公開されません。
コメントをどうぞ
※メールアドレスとURLの入力は必須ではありません。 入力されたメールアドレスは記事に反映されず、ブログの管理者のみが参照できます。
※なお、送られたコメントはブログの管理者が確認するまで公開されません。