Per i dati di processo , ogni funzione in un programma per computer deve essere detto in anticipo che tipo di dati da aspettarsi. Linguaggi di programmazione fanno distinzione che gli esseri umani potrebbero trovare insignificante. La maggior parte delle persone avrebbe trovato poca differenza tra i numeri 2147483647 e 2147483648 . Al linguaggio di programmazione FORTRAN tuttavia, questi due numeri sono completamente diversi tipi di dati . Analogamente , i numeri 34 e 34,001 non possono essere trattati come lo stesso tipo di informazioni . Arrotondamento automatico e operazioni di conversione sono disponibili per recuperare risposte approssimative alle operazioni matematiche . Quando precisione numerica è importante , un programmatore deve specificare il tipo di dati esatta per ogni variabile di input così come la precisione desiderata per la risposta. Istruzioni
1
Dichiarare una variabile di tipo INTEGER per le operazioni di accettazione e restituzione di valori di numeri interi compresi tra - 2,147,483,648 e 2147483647 . Il motivo della differenza di una sola cifra nei valori di ritorno è l'inserimento di 0 come numero positivo
2
Dichiarare un tipo di variabile di REAL per i numeri con un punto decimale , con valori compresi tra 10 ^ . - 38 e 10 ^ 38 ( 10 elevato alla potenza negativa o positiva 38 ° ) .
3
aumentare la precisione di un numero reale di raddoppiare la quantità di numeri dopo la virgola compresa nel calcoli per dichiarare le variabili e risposte come DOUBLE PRECISION . Questa dichiarazione comprende i numeri approssimativamente nel range di 10 ^ -76 a 10 ^ 76 .