JavaA2Z

KAB-studio > プログラミング > JavaA2Z > 精度とは

精度

日本語 精度
英語 precision
ふりがな せいど
フリガナ セイド

解説

実数における、値の正確さのこと。
実数は、「2.4239 x 10の-3乗」のように、「値」と「桁位置」を分けて考える。この「値」の桁数が「精度」である。桁数が多いほど、正しい値を保持していることになる。
 
浮動小数点ではのサイズが「精度」となる。サイズが大きければ、それだけ大きな桁数を格納できるからである。
doublefloatの倍のサイズのため、floatを「単精度浮動小数点型」、doubleを「倍精度浮動小数点型」と表現する。

参考サイト

  • (参考サイトはありません)

(KAB-studioからのおしらせです)

サンプルプログラム(とか)サンプルを別ウィンドウで表示サンプルをクリップボードへコピー(WindowsでIEの場合のみ)

// Sample.java
public class Sample
{
    public static void main( String[] args )
    {
        // float型の最大値。
        float f = Float.MAX_VALUE;
        System.out.println( f );
        // 3.4028235E38

        // double型の最大値。
        double d = Double.MAX_VALUE;
        System.out.println( d );
        // 1.7976931348623157E308

        // この、桁数の違いが単精度と倍精度の違いです。
    }
}
// Sample.java
public class Sample
{
    public static void main( String[] args )
    {
        // float型の最大値。
        float f = Float.MAX_VALUE;
        System.out.println( f );
        // 3.4028235E38

        // double型の最大値。
        double d = Double.MAX_VALUE;
        System.out.println( d );
        // 1.7976931348623157E308

        // この、桁数の違いが単精度と倍精度の違いです。
    }
}

この単語を含むページ

「サンプルプログラムとか」に含まれているページ

はてなブックマーク 詳細を表示 はてなブックマーク ブックマーク数
livedoorクリップ 詳細を表示 livedoorクリップ ブックマーク数
Yahoo!ブックマーク 詳細を表示 users
del.icio.us 登録する RSSに登録
サンプルを別ウィンドウで表示
サンプルをクリップボードへコピー(WindowsでIEの場合のみ)
update:2005/12/13
このページは、Javaプログラミング言語についての用語を網羅した辞書「JavaA2Z」の一ページです。
詳しくは「JavaA2Z」表紙の説明をご覧ください。