设为首页收藏本站

Crossin的编程教室

 找回密码
 立即加入
查看: 4283|回复: 2
打印 上一主题 下一主题

Numpy arange加法计算结果错误

[复制链接]

1

主题

0

好友

5

积分

新手上路

Rank: 1

跳转到指定楼层
楼主
发表于 2018-1-1 19:43:09 |只看该作者 |正序浏览

如下代码,输出结果都应该是正值才对呀,为什么结果里有负值?
期初我用32位python运行,出错,我怀疑数据超过了sys.maxsize的缘故,于是换了64位python运行,还是一样的错误结果。
求指点。

import numpy
import sys

a=numpy.arange(1289,1293)**2
b=numpy.arange(1289,1293)**3

c=a+b

print(c)
print(sys.maxsize)

----------------------------------------------------
[ 2143362090 -2146614196 -2141615444 -2136608944]
9223372036854775807


回复

使用道具 举报

0

主题

0

好友

8

积分

新手上路

Rank: 1

板凳
发表于 2018-1-17 13:20:02 |只看该作者
默认应该是int32,在arange里加上dtype='int64'就行了
回复

使用道具 举报

0

主题

0

好友

114

积分

注册会员

Rank: 2

沙发
发表于 2018-1-2 11:45:53 |只看该作者
数据溢出了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即加入

QQ|手机版|Archiver|Crossin的编程教室 ( 苏ICP备15063769号  

GMT+8, 2024-11-22 01:36 , Processed in 0.013922 second(s), 21 queries .

Powered by Discuz! X2.5

© 2001-2012 Comsenz Inc.

回顶部