其他分享
首页 > 其他分享> > scrapy框架的文件导出设置

scrapy框架的文件导出设置

作者:互联网

1、scrapy导出爬取数据到本地的命令

1) 以json格式进行导出
	`命令:scrapy crawl 爬虫名称 -o  file_name.json`
2) 以xml格式进行导出
	`命令:scrapy crawl 爬虫名称 -o  file_name.xml`
3) 以csv格式进行导出
	`命令:scrapy crawl 爬虫名称 -o  file_name.csv`
4) 以其他格式进行导出
	`其他文件格式: 'jsonlines',  'jl',   'pickle',  'marshal'`

2、scrapy指定编码格式导出爬取数据到本地

1) 设置方法一
	```scrapy crawl 爬虫名 -o file_name.json -s FEED_EXPORT_ENCODING=UTF-8
	
	   scrapy crawl 爬虫名 -o file_name.csv -s FEED_EXPORT_ENCODING=UTF-8
	   
	   scrapy crawl 爬虫名 -o file_name.xml -s FEED_EXPORT_ENCODING=UTF-8```
2) 设置方法二
  ```可以在爬虫项目的配置文件settings.py 中添加以下设置:    
        
         FEED_EXPORT_ENCODING = 'UTF8'```

标签:name,框架,导出,爬虫,scrapy,file,crawl
来源: https://blog.csdn.net/qq_41865652/article/details/90900884