質問

AWKコードを実行すると、

The factorial of 200 is inf

これは、AWKがPythonと同じint IEEE標準モジュールを使用していないことを示唆しています。 AWKの制限は170のようです!

AWKにPythonのような大きな整数として理解させるにはどうすればよいですか

役に立ちましたか?

解決

こちらから:

  

整数を含むすべての数値の内部表現は、倍精度浮動小数点数を使用します。最近のほとんどのシステムでは、これらはIEEE 754標準形式です。

Pythonは任意の長さの整数を持つことができます、利用可能なメモリに依存します。これはIEEE 754とは無関係です。ところで、この標準では、倍精度浮動小数点数の制限が約10 ^(+/- 308)にあります。 log10(factorial(171))の値は>です。 309. Double Precision およびすべての科学者が浮動小数点演算について知っておくべきこと

ライセンス: CC-BY-SA帰属
所属していません StackOverflow
scroll top