明霞山资源网 Design By www.htccd.com
需求场景:
老大让我利用爬虫爬取的数据写到或更新到mysql数据库中,百度了两种方法
1 是使用pymysql连接mysql,通过操作原生的sql语句进行增删改查数据;
2 是使用sqlalchemy连接mysql,通过ORM模型建表并操作数据库,不需要写原生的sql语句,相对简单些;
以下就是本次使用sqlalchemy的经验之谈。
实现流程:连接数据库》通过模型类创建表》建立会话》执行创建表语句》通过会话进行增删改查
from sqlalchemy import exists, Column, Integer, String, ForeignKey, exists from sqlalchemy.ext.declarative import declarative_base from sqlalchemy import create_engine from sqlalchemy.orm import sessionmaker # 创建的数据库引擎 engine = create_engine("mysql+pymysql://user:pwd@ip/数据库名") #创建session类型 DBSession = sessionmaker(bind=engine) # 实例化官宣模型 - Base 就是 ORM 模型 Base = declarative_base() # 创建服务单表 class ServiceOrder(Base): __tablename__ = 'serviceOrderTable' id = Column(Integer, primary_key=True, autoincrement=True) serviceOrderId = Column(String(32), nullable=False, index=True, comment='服务单ID') serviceDesc = Column(String(268), comment='服务说明') oneLevelName = Column(String(32), comment='C类别') twoLevelName = Column(String(32), comment='T子类') threeLevelName = Column(String(32), comment='I项目') fourLevelName = Column(String(32), comment='S子项') transferTimes = Column(String(32), comment='转派次数') overDueStatus = Column(String(32), comment='过期状态') serviceTimeLimit = Column(String(32), comment='服务时限') serTimeLimitTypeName = Column(String(16), comment='时限类型') # 一对多: # serviceWorkOrder = relationship("ServiceWorkOrder", backref="serviceorder") # 多对一:多个服务工单可以属于服务单 class ServiceWorkOrder(Base): __tablename__ = 'serviceWorkOrderTable' id = Column(Integer, primary_key=True, autoincrement=True) serviceWorkOrderId = Column(String(32), nullable=False, index=True, comment='服务工单ID') workOrderName = Column(String(268), comment='工单名称') fromId = Column(String(32), comment='服务单ID') createUserSectionName = Column(String(32), comment='创建人室') createUserName = Column(String(32), comment='创建人') handlerName = Column(String(32), comment='处理人') statusName = Column(String(32), comment='工单状态') createTime = Column(String(32), comment='创建时间') # “多”的一方的book表是通过外键关联到user表的: # serviceOrder_id = Column(Integer, ForeignKey('serviceOrderTable.id')) # 创建数据库 如果数据库已存在 则不会创建 会根据库名直接连接已有的库 def init_db(): Base.metadata.create_all(engine) def drop_db(): Base.metadata.drop_all(engine) def insert_update(): # all_needed_data_lists 是需要插入数据库的数据 格式[{key: value, ... }, { }, { }...] for item in all_needed_data_lists: ServiceOrderRow = ServiceOrder(serviceOrderId=item['serviceOrderId'], serviceDesc=item['serviceDesc'], oneLevelName=item['oneLevelName'], twoLevelName=item['twoLevelName'], threeLevelName=item['threeLevelName'], fourLevelName=item['fourLevelName'], transferTimes=item['transferTimes'], overDueStatus=item['overDueStatus'], serviceTimeLimit=item['serviceTimeLimit'], serTimeLimitTypeName=item['serTimeLimitTypeName'], ) try: # 利用exists判断目标对象是否存在,返回True或Faults it_exists = session.query( exists().where(ServiceOrder.serviceOrderId == item['serviceOrderId'] ) ).scalar() except Exception as e: self.log.error(e) break try: # 如果不存在,进行新增;存在的话就更新现存的数据 if not it_exists: session.add(ServiceOrderRow) else: session.query(ServiceOrder).filter(ServiceOrder.serviceOrderId == item['serviceOrderId']) .update(item) except Exception as e: self.log.error(e) break try: session.commit() self.log.info('数据更新成功!') except: session.rollback() self.log.info('数据更新失败!') if __name__ == "__main__": # 创建数据库 如果数据库已存在 则不会创建 会根据库名直接连接已有的库 init_db() # 创建session对象,进行增删改查: session = DBSession() # 利用session 增 改数据 记得提交 insert_update()
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
明霞山资源网 Design By www.htccd.com
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件! 如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
明霞山资源网 Design By www.htccd.com
暂无评论...
P70系列延期,华为新旗舰将在下月发布
3月20日消息,近期博主@数码闲聊站 透露,原定三月份发布的华为新旗舰P70系列延期发布,预计4月份上市。
而博主@定焦数码 爆料,华为的P70系列在定位上已经超过了Mate60,成为了重要的旗舰系列之一。它肩负着重返影像领域顶尖的使命。那么这次P70会带来哪些令人惊艳的创新呢?
根据目前爆料的消息来看,华为P70系列将推出三个版本,其中P70和P70 Pro采用了三角形的摄像头模组设计,而P70 Art则采用了与上一代P60 Art相似的不规则形状设计。这样的外观是否好看见仁见智,但辨识度绝对拉满。