大佬教程收集整理的这篇文章主要介绍了用于MSSQL的Scrapy管道,大佬教程大佬觉得挺不错的,现在分享给大家,也给大家做个参考。
代码没有正确缩进。process_item
与sqlStore
类定义处于同一级别,因此它不是类的方法,因此永远不会被调用。缩进:
import pymssql
from slybot.item import create_item_version
class sqlStore(object):
def __init__(self):
self.conn = pymssql.connect(host='XXXXXX', user='sa', password='1timep', database='DBSample')
self.cursor = self.conn.cursor()
def process_item(self, item, spIDer):
try:
self.cursor.execute("INSERT INTO MovIE(Description, LOCATIOn,titlE) VALUES (%s, %s, %s)",
(item['Description'], item['LOCATIOn'], item['title']))
self.conn.commit()
except pymssql.Error, e:
print ("error")
return item
我正在编写自己的Python scrapy管道:
from scrapy.exceptions import NotConfigured
from scrapy.exceptions import DropItem
import pymssql
from slybot.item import create_item_version
class SQLStore(object):
def __init__(self):
self.conn = pymssql.connect(host='XXXXXX',user='sa',password='1timep',database='DBSample')
self.cursor = self.conn.cursor()
#log data to json file
def process_item(self,item,spider):
try:
self.cursor.execute("INSERT INTO Movie(Description,LOCATIOn,titlE) VALUES (%s,%s,%s)",(item['Description'],item['LOCATIOn'],item['title']))
self.conn.commit()
except pymssql.Error,e:
print ("error")
return item
我正在尝试将值插入SQL Server。
以下是我的蜘蛛设置:
ITEM_PIPELInes = {'slybot.dupefilter.SQLStore' : 100}
一切正常。当我在Scrapyd中提交蜘蛛时,我看到以下日志文件
2015-01-19 16:07:57+0530 [scrapy] INFO: Enabled item pipelines: SQLStore
从日志文件中,我看到我的蜘蛛正在使用SQLStore
pipline。
但是这些 值不会加载到SQL Server中 。我能够以json格式查看日志文件中的内容。
什么地方出了错。那是什么问题呢?
谁能帮帮我吗?谢谢。
以上是大佬教程为你收集整理的用于MSSQL的Scrapy管道全部内容,希望文章能够帮你解决用于MSSQL的Scrapy管道所遇到的程序开发问题。
如果觉得大佬教程网站内容还不错,欢迎将大佬教程推荐给程序员好友。
本图文内容来源于网友网络收集整理提供,作为学习参考使用,版权属于原作者。
如您有任何意见或建议可联系处理。小编QQ:384754419,请注明来意。