lytcreate.
唯有热爱,可抵万难。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
sqlalchemy在pandas中常用连接数据库的方法
摘要:本文介绍了使用Python将数据批量导入MySQL数据库的方法。首先通过SQLAlchemy创建数据库连接引擎,处理不同驱动版本的兼容性问题。然后使用pandas读取CSV数据,通过分批处理策略(每批5000条记录)将数据高效入库,避免内存溢出。代码示例展示了完整的实现流程,包括数据库配置、连接建立和数据分批插入功能,适用于大规模数据迁移场景。原创 2025-06-09 09:32:17 · 60 阅读 · 0 评论 -
mysql数据库调优的若干方式及高频知识点
MySQL性能调优方法总结:核心关注响应时间、命中率和扫描行数。主要调优手段包括:1)通过慢查询日志和EXPLAIN分析问题SQL;2)SQL优化策略(精简查询字段、JOIN替代IN等);3)索引优化(遵循左前缀原则);4)参数配置(缓冲池大小、连接数等);5)架构层面优化(读写分离、分库分表)。同时需注意索引失效的常见原因(函数操作、类型转换、LIKE语句等)。BTree和Hash索引各有特点,BTree支持范围查询,Hash则适合等值查询。原创 2025-06-05 09:59:55 · 136 阅读 · 0 评论 -
PostgreSQL 14.17 安装 pgvector 扩展
下载完成后,双击安装即可。如果遇到安装路径选择,可以使用默认安装在C盘,或者自定义路径,这块会影响到后面的安装扩展,我这里安装的目录是 D:/Postgressql。这里面的路径需要修改为自己电脑的工具路径,如果不知道,建议使用 Everything搜索vcvars64.bat,选择这个 带build目录的路径即可。一般可以按一下win键,直接输入cmd,就会自动搜索出cmd,右键选择管理员打开即可。本次主要是在windows上安装,列出一些注意点。二、安装pgvector 向量扩展。原创 2025-03-19 14:14:15 · 909 阅读 · 0 评论 -
数据库优化
2.字段设计精细化,用枚举,时间等,不用字符串。1.库表设计,字段冗余,尽量不跨表join。原创 2025-03-12 14:48:33 · 44 阅读 · 0 评论 -
SQL或ORM获取随机一行数据
时,对于一些大型数据库可能会导致性能问题,因为它会在内存中对整个查询集进行随机排序。如果对性能有较高要求,建议使用原生 SQL 结合。或其他更高效的方法。原创 2024-12-19 14:58:43 · 536 阅读 · 0 评论 -
Mysql数据库忘记密码如何处理
首先,你需要停止MySQL服务。在Linux上,你可以使用systemctl(如果你的系统使用systemd),service命令,或者直接使用MySQL的命令(如果你是在没有systemd的较旧系统上)。对于使用service。原创 2024-08-21 10:52:04 · 894 阅读 · 0 评论 -
详解Mysql的replace into方法
是 MySQL 中的一个特殊的 SQL 语句,它结合了和DELETE的功能。当你使用语句时,如果表中已经存在具有相同唯一键或主键的记录,MySQL 会先删除该记录,然后插入新的记录。如果表中不存在具有相同唯一键或主键的记录,则直接插入新记录。原创 2024-06-07 17:49:28 · 789 阅读 · 0 评论 -
Linux新增磁盘挂载分区
3.挂在磁盘到 /ocean目录,挂在前先创建空目录 /ocean。4.持久化磁盘分区,修改 /etc/fstab 文件 新增内容。执行后,可用 df -h 查看分区是否成功。保存后,退出,磁盘分区完成!可见,新增的分区为 sdb。1. 查看磁盘分区名称。原创 2024-05-29 17:03:41 · 250 阅读 · 0 评论 -
Python实现mysql基于配置文件的全自动增量数据备份
Python实现mysql基于配置文件的全自动增量数据备份,只需要修改配置文件,实现自动建库,建表,重复数据删除,同步新数据,自动增加全库数据库分区的功能。原创 2024-05-29 15:37:50 · 840 阅读 · 0 评论 -
捕捉异常sqlalchemy.exc.OperationalError:(pymysql.err.OperationalError) (1049, “Unknown database ‘**‘“)失败
这部分代码进行异常捕捉时,发现打印的结果是异常sqlalchemy.exc.OperationalError:(pymysql.err.OperationalError) (1049, "Unknown database '**'") 和 2,这就说明第一次捕捉异常失败,所以走了通用异常捕捉。此时 用sqlalchemy.exc.OperationalError 来替代原来的pymysql的异常,即可正常捕捉该异常,完成数据库创建工作。原创 2024-05-29 11:48:26 · 955 阅读 · 0 评论 -
mysql使用distinct去重计数
方法2:distinct把a和b拼起来后的字段。方法1:直接使用distinct方法。原创 2024-05-28 16:08:39 · 225 阅读 · 0 评论 -
systemctl创建多个mysql启动命令
已知系统上已经安装了mysql,安装的basedir是/usr/local/mysql,配置文件为默认的/etc/my.cnf。原创 2024-05-21 14:53:41 · 363 阅读 · 0 评论 -
Mycat+Mysql搭建数据集群实现数据分片存储
Mycat+Mysql搭建数据集群实现数据分片存储原创 2024-05-20 17:33:15 · 967 阅读 · 0 评论 -
Mysql实现双机bin-log热备份
确认字段 Slave_IO_Running 和 Slave_SQL_Running 为Yes时则成功。2.获取MASTER_LOG_FILE、MASTER_LOG_POS信息。注意:需保证主备机的数据一致时,start slave才会成功生效。在执行前务必停止对主服务器的mysql数据写入!之后在主机或者从机执行操作时两边会自己同步。原创 2024-05-10 16:26:11 · 381 阅读 · 0 评论 -
mysql高可用集群MGR组复制的介绍、部署及配置说明
MGR组复制mysql高可用集群搭建部署及测试原创 2024-05-10 16:04:44 · 1221 阅读 · 0 评论 -
mysql NDBcluster数据库集群介绍、部署及配置
MySQL集群是一个无共享的、分布式节点架构的存储方案,旨在提供容错性和高性能。它由三个主要节点组成:管理节点(MGM)、数据节点和SQL节点。这三个节点之间通过网络进行通信和交互。管理节点负责监控整个集群的状态,并根据需要调整配置或执行恢复操作。数据节点存储实际的数据,并处理与数据相关的操作。SQL节点作为客户端与集群之间的接口,负责接收请求、转发请求和处理响应。当客户端向SQL节点发送请求时,SQL节点会根据请求的类型和内容将其转发给适当的数据节点。原创 2024-05-07 15:25:10 · 1551 阅读 · 0 评论 -
mysql集群NDBcluster引擎在写入数据时报错 (1114, “The table ‘ads‘ is full“)
问题原因:表数据已满,一般是在集群的管理节点设置里面datamemory的值太小,当数据量超过该值时就会出现该问题。问题描述:mysql集群在写入数据时,出现上述报错。修改后记得重启管理节点时加上参数 --reload。原创 2024-05-07 10:59:56 · 322 阅读 · 1 评论 -
Mysql查询每个用户最新一条记录的方法
现在有一张mysql表,有id,beginTime,userName几个字段,现在需要找出每个用户最新的beginTime那条数据。方法二:使用窗口函数row_number,需要mysql8。方法一:使用max函数方法。原创 2024-02-28 16:10:15 · 2456 阅读 · 0 评论 -
Mysql使用小技巧总结
Mysql使用小技巧总结原创 2024-01-26 15:25:50 · 390 阅读 · 0 评论 -
Mysql全命令行安装说明
Mysql安装说明原创 2024-01-26 15:20:42 · 354 阅读 · 0 评论 -
ValueError: unsupported format character ‘z‘ (0x7a) at index 65 mysql使用execute执行LIKE语句时%报错
原因:执行cursor.execute(query)时,如果有其他参数,那么sql语句和参数之间用 % 连接,但模糊查询中的 % 会被误认为是用来连接字符串的 % , 所以例子中 ‘%标’ 会出现不识别的情况,即unsupported format character。原创 2024-01-03 09:54:13 · 573 阅读 · 0 评论