设为首页收藏本站

Crossin的编程教室

 找回密码
 立即加入
查看: 3066|回复: 0
打印 上一主题 下一主题

Numpy arange加法计算结果错误

[复制链接]

1

主题

0

好友

5

积分

新手上路

Rank: 1

跳转到指定楼层
楼主
发表于 2018-1-1 19:43:09 |显示全部楼层 |倒序浏览

如下代码,输出结果都应该是正值才对呀,为什么结果里有负值?
期初我用32位python运行,出错,我怀疑数据超过了sys.maxsize的缘故,于是换了64位python运行,还是一样的错误结果。
求指点。

import numpy
import sys

a=numpy.arange(1289,1293)**2
b=numpy.arange(1289,1293)**3

c=a+b

print(c)
print(sys.maxsize)

----------------------------------------------------
[ 2143362090 -2146614196 -2141615444 -2136608944]
9223372036854775807


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即加入

QQ|手机版|Archiver|Crossin的编程教室 ( 苏ICP备15063769号  

GMT+8, 2024-5-3 01:08 , Processed in 0.025488 second(s), 22 queries .

Powered by Discuz! X2.5

© 2001-2012 Comsenz Inc.

回顶部