2. 专升本
  3. 在科学计算时，经常会遇到“溢出”，这是指 ( )

在科学计算时，经常会遇到“溢出”，这是指 ( )

admin2019-02-22  29
问题 在科学计算时，经常会遇到“溢出”，这是指    (     )
选项 A、计算机出故障了
B、数值超出了内存范围
C、数值超出了变量的表示范围
D、数值超出了机器所表示的范围
答案D
解析 在科学计算中，“溢出”通常是指数值太大，超过了机器所表示的范围，得出不正确的结果。
转载请注明原文地址:https://www.kaotiyun.com/show/VY6C777K
本试题收录于： 计算机题库普高专升本分类
0

计算机

普高专升本

相关试题推荐
随机试题
最新回复(0)