Crossin的编程教室

标题: Numpy arange加法计算结果错误 [打印本页]

作者: htbauto 时间: 2018-1-1 19:43
标题: Numpy arange加法计算结果错误

如下代码，输出结果都应该是正值才对呀，为什么结果里有负值？
期初我用32位python运行，出错，我怀疑数据超过了sys.maxsize的缘故，于是换了64位python运行，还是一样的错误结果。
求指点。

import numpy
import sys

a=numpy.arange(1289,1293)**2
b=numpy.arange(1289,1293)**3

c=a+b

print(c)
print(sys.maxsize)

----------------------------------------------------
[ 2143362090 -2146614196 -2141615444 -2136608944]
9223372036854775807

作者: braid 时间: 2018-1-2 11:45
数据溢出了

作者: 红薯 时间: 2018-1-17 13:20
默认应该是int32，在arange里加上dtype='int64'就行了

欢迎光临 Crossin的编程教室 (https://bbs.crossincode.com/)