質問

私は fraction を理解しています。0 ですが、さまざまなプログラミング言語(JavaScriptなど)の「float」という用語に戻った後、私はそれが必要な理由さえ誤解され、代わりにフラクションを言っていません。

画分とフロートの違いは何ですか?

役に立ちましたか?

解決

コンピュータは通常、フラクションではなく浮動小数点数を扱います。主な違いは、浮動小数点数が正確さが制限されているが、算術演算を実行するのははるかに速いことです(そして、ハードウェアではネイティブにサポートされている唯一の非整数)。

浮動小数点数は、固定された精度で「科学表記」に保存されています。これはデータ型によって異なります。大まかに言えば、それらは $ \ alpha \ cdot 2 ^ \ beta $ に格納されています。ここで、 $ 1 \ leq \ alpha <2 $ $ \ beta $ は整数で、両方が固定数のビットに格納されます。これにより、 $ \ alpha $ の精度、および $ \ beta $ の範囲が制限されます。="math-container"> $ \ alpha $ は、 $ a $ ビットを使用して保存されています( $ 1として。 X_1 \ LDOTS X_A $ )その後、それは常に分母が $ 2 ^ a a $ の場合、 $ b $ ビットを使用して保存されているため、常に $ - 2 ^ {b-1}、\ ldots、2 ^ {b-1} -1 $

浮動小数点数の精度が限られているため、これらの数値の算術はおおよそのみであり、数値不正確さにつながります。アルゴリズムを開発するときは、それを念頭に置いてください。コンピュータサイエンス、そのような問題に捧げられた数値解析のコンピュータサイエンスの全域があります。

ライセンス: CC-BY-SA帰属
所属していません cs.stackexchange
scroll top