精度
| 日本語 | 精度 |
| 英語 | precision |
| ふりがな | せいど |
| フリガナ | セイド |
実数における、値の正確さのこと。
実数は、「2.4239 x 10の-3乗」のように、「値」と「桁位置」を分けて考える。この「値」の桁数が「精度」である。桁数が多いほど、正しい値を保持していることになる。
浮動小数点では型のサイズが「精度」となる。サイズが大きければ、それだけ大きな桁数を格納できるからである。
double型はfloat型の倍のサイズのため、float型を「単精度浮動小数点型」、double型を「倍精度浮動小数点型」と表現する。
実数は、「2.4239 x 10の-3乗」のように、「値」と「桁位置」を分けて考える。この「値」の桁数が「精度」である。桁数が多いほど、正しい値を保持していることになる。
浮動小数点では型のサイズが「精度」となる。サイズが大きければ、それだけ大きな桁数を格納できるからである。
double型はfloat型の倍のサイズのため、float型を「単精度浮動小数点型」、double型を「倍精度浮動小数点型」と表現する。
参考サイト
- （参考サイトはありません）
(KAB-studioからのおしらせです)
// Sample.java
public class Sample
{
public static void main( String[] args )
{
// float型の最大値。
float f = Float.MAX_VALUE;
System.out.println( f );
// 3.4028235E38
// double型の最大値。
double d = Double.MAX_VALUE;
System.out.println( d );
// 1.7976931348623157E308
// この、桁数の違いが単精度と倍精度の違いです。
}
}
public class Sample
{
public static void main( String[] args )
{
// float型の最大値。
float f = Float.MAX_VALUE;
System.out.println( f );
// 3.4028235E38
// double型の最大値。
double d = Double.MAX_VALUE;
System.out.println( d );
// 1.7976931348623157E308
// この、桁数の違いが単精度と倍精度の違いです。
}
}
// Sample.java
public class Sample
{
public static void main( String[] args )
{
// float型の最大値。
float f = Float.MAX_VALUE;
System.out.println( f );
// 3.4028235E38
// double型の最大値。
double d = Double.MAX_VALUE;
System.out.println( d );
// 1.7976931348623157E308
// この、桁数の違いが単精度と倍精度の違いです。
}
}
users
