在科学计算时经常会遇到溢出这是指数值超出了机器的位所表示的范围。科学计算是指利用计算机再现、预测和发现客观世界运动规律和演化特征的全过程。科学计算为解决科学和工程中的数学问题利用计算机进行的数值计算。

自然科学规律通常用各种类型的数学方程式表达，科学计算的目的就是寻找这些方程式的数值解。这种计算涉及庞大的运算量，简单的计算工具难以胜任。在计算机出现之前，科学研究和工程设计主要依靠实验或试验提供数据，计算仅处于辅助地位。计算机的迅速发展，使越来越多的复杂计算成为可能。利用计算机进行科学计算带来了巨大的经济效益，同时也使科学技术本身发生了根本变化：传统的科学技术只包括理论和试验两个组成部分，使用计算机后，计算已成为同等重要的第三个组成部分。