Scrapy用pipelines把字典保存为csv格式

2019-01-08 08:24:38来源:博客园 阅读 ()

新老客户大回馈,云服务器低至5折

import csv

class MyProjectPipeline(object):
# 保存为csv格式
def __init__(self):
    # 打开文件,指定方式为写,利用第3个参数把csv写数据时产生的空行消除
    self.f = open("myproject.csv","a",newline="")
    # 设置文件第一行的字段名,注意要跟spider传过来的字典key名称相同
    self.fieldnames = ["m_num","m_name","s_name","i_date","l_work","m_style","c_work"]
    # 指定文件的写入方式为csv字典写入,参数1为指定具体文件,参数2为指定字段名
    self.writer = csv.DictWriter(self.f, fieldnames=self.fieldnames)
    # 写入第一行字段名,因为只要写入一次,所以文件放在__init__里面
    self.writer.writeheader()

def process_item(self, item, spider):
    # 写入spider传过来的具体数值
    self.writer.writerow(item)
    # 写入完返回
    return item

def close(self,spider):
    self.f.close()

 

标签:

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点,本站所提供的摄影照片,插画,设计作品,如需使用,请与原作者联系,版权归原作者所有

上一篇:(新手)使用pandas操作EXCEL

下一篇:day 24-1 继承