使用pyMysql驱动api,出现如下错误: DatabaseError: Execution failed on sql ‘SELECT name FROM sqlite_master WH
DatabaseError: Execution failed on sql ‘SELECT name FROM sqlite_master WHERE type=‘table’ AND name=?;’: not all arguments converted during string fORMatting
根据以往经验,mysql操作很简单,安装pymysql驱动即可。
pip install pymysql
编写了通过pandas的to_sql写入数据库的代码。
import pandas as pdimport datetimeimport uuid # 数据库主键唯一import pymysqldef mysql_db(): # 连接数据库肯定需要一些参数 conn = pymysql.connect( host="192.168.**.**", port=3306, database="M*****DB", charset="utf8", user="ty", passwd="****" ) return conn# df = 略去# 增加唯一主键uuidid = []for i in range(len(df)): id.append(uuid.uuid1()) # 增加记录写入时间df['CreateTime'] = datetime.datetime.now()df['id'] = id# 下面是出现问题的地方conn = mysql_db()tablename = '******'dd = df[colsname]# 浮点型截断数据处理for k,v in cols_len.items(): dd[k] = dd[k].round(v)# 下面是出现问题的地方dd.to_sql(tablename, conn,index=False, if_exists='append')
执行程序,报出如下问题:
DatabaseError: Execution failed on sql ‘SELECT name FROM sqlite_master WHERE type=‘table’ AND name=?;’: not all arguments converted during string formatting
尝试执行查询语句:
df0=pd.read_sql('select * from S*******y',conn)df0
一切很正常,结果如下:
主键一般使用uuid,python中的uuid模块基于信息如Mac地址、时间戳、命名空间、随机数、伪随机数来uuid。具体方法有如下几个:
uuid.uuid1():基于MAC地址,时间戳,随机数来生成唯一的uuid,可以保证全球范围内的唯一性。
uuid.uuid2():算法与uuid1相同,不同的是把时间戳的前4位置换为POSIX的UID。不过需要注意的是Python中没有基于DCE的算法,所以python的uuid模块中没有uuid2这个方法。
uuid.uuid3(namespace,name):通过计算一个命名空间和名字的md5散列值来给出一个uuid,所以可以保证命名空间中的不同名字具有不同的uuid,但是相同的名字就是相同的uuid了。其中,namespace并不是一个自己手动指定的字符串或其他量,而是在uuid模块中本身给出的一些值。比如uuid.NAMESPACE_DNS,uuid.NAMESPACE_OID,uuid.NAMESPACE_OID这些值。这些值本身也是UUID对象,根据一定的规则计算得出。
uuid.uuid4():通过伪随机数得到uuid,是有一定概率重复的
uuid.uuid5(namespace,name):和uuid3基本相同,只不过采用的散列算法是sha1。
使用时,按数据集中的记录数,一次性生成uuid列表,并入到表中。
解决办法:
查了pandas官网和其他不少有关to_sql的文章,都没有看到有提及数据库连接这个坑,不过在pandas官网的to_sql例子和其他文章的to_sql中都有一个共同点,就是引用sqlalchemy这个第三方ORM库来进行连接的,据此解决to_sql这个报错。
首先,安装 sqlalchemy。
pip install sqlalchemy
修改代码,增加函数:
def mysql_engine_db(): # 连接数据库肯定需要一些参数 engine = create_engine( 'mysql+pymysql://ty:***@192.168.**.**:3306/M*******DB' # mysql+pymysql://用户: 密码@url: 端口/数据库 ) return engine# 下面是出现问题的地方engine= mysql_engine_db()tablename = '******'dd = df[colsname]# 浮点型截断数据处理for k,v in cols_len.items(): dd[k] = dd[k].round(v)# 下面是出现问题的地方dd.to_sql(tablename, engine,index=False, if_exists='append')
如此简单的解决问题!
参考:
宠乖仪. DatabaseError: Execution failed on sql ‘SELECT name FROM sqlite_master WHERE type=‘table‘ AND name=?. CSDN博客. 2021.09
weixin_43425561. DatabaseError: Execution failed on sql ‘SELECT name FROM sqlite_master WHERE type=‘table‘ AND name=?. CSDN博客. 2020.11
祁小彬. python的uuid. 简书. 2022.01
--结束END--
本文标题: Pandas的to_sql()插入数据到mysql中所遇到的问题
本文链接: https://www.lsjlt.com/news/393197.html(转载时请注明来源链接)
有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
下载Word文档到电脑,方便收藏和打印~
2024-05-15
2024-05-15
2024-05-15
2024-05-15
2024-05-15
2024-05-15
2024-05-15
2024-05-15
2024-05-14
2024-05-14
回答
回答
回答
回答
回答
回答
回答
回答
回答
回答
0