请选择 进入手机版 | 继续访问电脑版
设为首页收藏本站

Crossin的编程教室

微信公众号:
crossincode
 找回密码
 立即加入
查看: 1478|回复: 3

求教一个爬虫过程中字符类型问题

[复制链接]

1

主题

0

好友

7

积分

新手上路

Rank: 1

发表于 2018-9-25 10:34:00 |显示全部楼层
import requests
import json, time, random
import pandas as pd
import threading
import numpy as np

#抓取Riview
class ReviewSpider:
    #页面初始化
    def __init__(self):
        self.USER_AGENTS = [
            "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; AcooBrowser; .NET CLR 1.1.4322; .NET CLR 2.0.50727)",
            "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; Acoo Browser; SLCC1; .NET CLR 2.0.50727; Media Center PC 5.0; .NET CLR 3.0.04506)",
            "Mozilla/4.0 (compatible; MSIE 7.0; AOL 9.5; AOLBuild 4337.35; Windows NT 5.1; .NET CLR 1.1.4322; .NET CLR 2.0.50727)",
            "Mozilla/5.0 (Windows; U; MSIE 9.0; Windows NT 9.0; en-US)",
            "Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Win64; x64; Trident/5.0; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET CLR 2.0.50727; Media Center PC 6.0)",
            "Mozilla/5.0 (compatible; MSIE 8.0; Windows NT 6.0; Trident/4.0; WOW64; Trident/4.0; SLCC2; .NET CLR 2.0.50727; .NET CLR 3.5.30729; .NET CLR 3.0.30729; .NET CLR 1.0.3705; .NET CLR 1.1.4322)",
            "Mozilla/4.0 (compatible; MSIE 7.0b; Windows NT 5.2; .NET CLR 1.1.4322; .NET CLR 2.0.50727; InfoPath.2; .NET CLR 3.0.04506.30)",
            "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN) AppleWebKit/523.15 (KHTML, like Gecko, Safari/419.3) Arora/0.3 (Change: 287 c9dfb30)",
            "Mozilla/5.0 (X11; U; Linux; en-US) AppleWebKit/527+ (KHTML, like Gecko, Safari/419.3) Arora/0.6",
            "Mozilla/5.0 (Windows; U; Windows NT 5.1; en-US; rv:1.8.1.2pre) Gecko/20070215 K-Ninja/2.1.1",
            "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9) Gecko/20080705 Firefox/3.0 Kapiko/3.0",
            "Mozilla/5.0 (X11; Linux i686; U;) Gecko/20070322 Kazehakase/0.4.5",
            "Mozilla/5.0 (X11; U; Linux i686; en-US; rv:1.9.0.8) Gecko Fedora/1.9.0.8-1.fc10 Kazehakase/0.5.6",
            "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11",
            "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_3) AppleWebKit/535.20 (KHTML, like Gecko) Chrome/19.0.1036.7 Safari/535.20",
            "Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; fr) Presto/2.9.168 Version/11.52",
        ]
        self.headers = {
            "Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8",
            "Accept-Encoding": "gzip, deflate, br",
            "Accept-Language": "zh-CN,zh;q=0.8",
            "Cache-Control": "max-age=0",
            "Connection": "keep-alive",
            "Upgrade-Insecure-Requests": "1",
            "Content-Type": "application/x-www-form-urlencoded; charset=UTF-8",
            "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/59.0.3071.86 Safari/537.36"
        }
        self.ws = Workbook(encoding='gbk')

        #self.itemids = ['521368598600', '557303326981', '521469462654', '539792690504', '539951717648', '539417881724',
        #           '521369336993', '521365549313', '547729978372', '561247653542']

        self.itemids = ['534216550526']

    def getAllReview(self):
        robj = ( 'id', 'auctionSku', 'sellerId', 'displayUserNick', 'goldUser', 'userVipLevel', 'position', 'rateContent',
            'useful', 'rateDate',
            'appendComment', 'appendCommentDate', 'appendCommentPics', 'appendCommentReply', 'reply', 'pics',
            'tradeEndTime', 'fromMall', 'cmsSource', 'gmtCreateTime')

        self.lock_fetch = threading.Lock()
        threads = []

        for itemid in self.itemids:
            w = self.ws.add_sheet(itemid + u"商品评价")
            pos = 0
            for key in robj:
                w.write(0, pos, robj[pos])
                pos = pos + 1
            t = threading.Thread(target=self.getReview, args=(w, itemid))
            t.start()
            threads.append(t)
        for thread in threads:
            thread.join()
        print("All jobs done!")

    def getReview(self, w, itemid):
        currentpage = 1
        totalpage = 99999
        excel_row = 1
        proxies = {}
        headers = self.headers
        while currentpage <= totalpage :
            # bosci 1990484446, dyson 2089100916
            url = "https://rate.tmall.com/list_detail_rate.htm?itemId=" + itemid + "&sellerId=397341302&order=3&callback=jsonp1193&currentPage=" + str(currentpage)
            r = requests.get(url, headers=headers, proxies=proxies)
            try:
                rtext = r.text
                rjson = json.loads(rtext[12:len(rtext)-1])
            except:
                print('item' + itemid + ', pause for reset crawler...')
                headers['Referer'] = "https://www.tmall.com/"
                headers['User-Agent'] = random.choice(self.USER_AGENTS)
                time.sleep(random.uniform(3, 7))
            else:
                totalpage = rjson['rateDetail']['paginator']['lastPage']
                ratelist = rjson['rateDetail']['rateList']
                # 写入EXCEL
                for obj in ratelist:
                    id = str(obj['id'])
                    auctionSku = obj['auctionSku']
                    sellerId = obj['sellerId']
                    displayUserNick = obj['displayUserNick']
                    goldUser = obj['goldUser']
                    userVipLevel = obj['userVipLevel']
                    position = obj['position']
                    rateContent = obj['rateContent']
                    useful = obj['useful']
                    rateDate = obj['rateDate']
                    appendComment = ''
                    appendCommentDate = ''
                    appendCommentPics = ''
                    appendCommentReply = ''
                    appendCommentObj = obj['appendComment']
                    if appendCommentObj:
                        appendComment = appendCommentObj['content']
                        appendCommentDate = appendCommentObj['commentTime']
                        appendCommentPics = ', '.join(appendCommentObj['pics'])
                        appendCommentReply = appendCommentObj['reply']
                    reply = obj['reply']
                    pics = ', '.join(obj['pics'])
                    tradeEndTime = obj['tradeEndTime']
                    fromMall = obj['fromMall']
                    cmsSource = obj['cmsSource']
                    gmtCreateTime = obj['gmtCreateTime']
                    robj = (id, auctionSku, sellerId, displayUserNick, goldUser, userVipLevel, position, rateContent, useful, rateDate,
                            appendComment, appendCommentDate, appendCommentPics, appendCommentReply, reply, pics, tradeEndTime, fromMall, cmsSource, gmtCreateTime)
                    pos = 0
                    self.lock_fetch.acquire()
                    #print(type(pos))
                    #pos = float(pos)
                    for key in robj:


                        w.write(excel_row, pos, robj[pos])
                        pos = pos + 1




                    self.lock_fetch.release()
                    excel_row = excel_row + 1
                print('done item ' + itemid +  ', page ' + str(currentpage))
                currentpage = currentpage + 1
            time.sleep(random.uniform(1, 3))
        self.lock_fetch.acquire()
        self.ws.save('reviews.xml')
        self.lock_fetch.release()
        print('done item ' + itemid + ', page all')

spider = ReviewSpider()
spider.getAllReview()


这是我的源代码。运行之后报错

Exception in thread Thread-23:Traceback (most recent call last):  File "C:\Users\alex\Anaconda3\lib\threading.py", line 916, in _bootstrap_inner    self.run()  File "C:\Users\alex\Anaconda3\lib\threading.py", line 864, in run    self._target(*self._args, **self._kwargs)  File "<ipython-input-21-b2b75b1a8d60>", line 126, in getReview    w.write(excel_row, pos, robj[pos])  File "C:\Users\alex\Anaconda3\lib\site-packages\xlwt\Worksheet.py", line 1088, in write    self.row(r).write(c, label, style)  File "C:\Users\alex\Anaconda3\lib\site-packages\xlwt\Row.py", line 254, in write    raise Exception("Unexpected data type %r" % type(label))Exception: Unexpected data type <class 'dict'>

请问是什么问题?



回复

使用道具 举报

1

主题

0

好友

7

积分

新手上路

Rank: 1

发表于 2018-9-25 10:37:16 |显示全部楼层
这是一个抓取天猫评论的代码。知乎链接    https://zhuanlan.zhihu.com/p/31868910
回复

使用道具 举报

155

主题

36

好友

8万

积分

管理员

Rank: 9Rank: 9Rank: 9

发表于 2018-9-25 23:04:29 |显示全部楼层
李鑫ltx 发表于 2018-9-25 10:37
这是一个抓取天猫评论的代码。知乎链接    https://zhuanlan.zhihu.com/p/31868910

看起来是 w.write(excel_row, pos, robj[pos])
这句里某个数据的类型不对。具体是什么,我没法一眼看出来。你加 print 和 type 看看类型是不是函数所要求的

另外这人文章最后给了源码吧,你拿源码跑下,然后再对照调试信息两边比较下
#==== Crossin的编程教室 ====#
微信ID:crossincode
网站:http://crossincode.com
回复

使用道具 举报

2

主题

0

好友

92

积分

注册会员

Rank: 2

发表于 2019-6-21 15:32:48 |显示全部楼层
看起来很厉害的样子
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即加入

QQ|Archiver|手机版|Crossin的编程教室 ( 苏ICP备15063769号  

GMT+8, 2020-2-24 03:53 , Processed in 0.052772 second(s), 24 queries .

Powered by Discuz! X2.5

© 2001-2012 Comsenz Inc.

回顶部