查看原文
其他

第7期吐槽:今年才等来slot failover,附上海DBA招聘信息

digoal PostgreSQL码农集散地 2024-07-08

文中参考文档点击阅读原文打开, 同时推荐2个学习环境: 

1、懒人Docker镜像, 已打包200+插件:《最好的PostgreSQL学习镜像

2、有web浏览器就能用的云起实验室: 《免费体验PolarDB开源数据库

3、PolarDB开源数据库内核、最佳实践等学习图谱:  https://www.aliyun.com/database/openpolardb/activity 

关注公众号, 持续发布PostgreSQL、PolarDB、DuckDB等相关文章. 


第7期吐槽:再不吐就要放弃了,2024终于等来slot failover

1、产品的问题点

  • slot不支持failover

2、问题点背后涉及的技术原理

  • PG的逻辑日志解析功能需要slot来记录解析的WAL日志位点, 下次解析从位点继续. 除了记录位点, PG还需要依赖位点来保留未解析的WAL日志, 以及保留用于解析WAL日志的catalog版本(例如表结构信息). 但是SLOT不支持failover, 使用PG流复制构建的主从HA架构下一旦发生HA, 从库(切换成主库)是没有SLOT信息的.

  • 使用pg_upgrade进行大版本升级时,slot也会被清理.

3、这个问题将影响哪些行业以及业务场景

  • 使用PG流复制构建的主从HA架构, 并且有逻辑日志订阅需求的场景(例如跨实例共享某些表的数据、将数据库的增量日志同步到其他系统, 例如mq或者搜索引擎等. 使用了PG的pub,sub来进行实例之间的表级数据同步).

4、会导致什么问题?

  • 发生主从切换后, SLOT位点丢失, 需要重建SLOT, 存在丢失增量数据的风险. (例如老的主节点与切换到新的主库新建的slot位置之间存在WAL GAP.)

  • 大版本升级无法保留slot

5、业务上应该如何避免这个坑

  • 发生HA时, 立即在新的主库新建同名的slot, 但是wal gap导致的逻辑增量日志丢失无解.

  • 大版本升级属于计划内维护, 可以在升级前消费掉所有的wal日志, 并且在升级后立即创建slot. 保证没有wal gap导致的逻辑增量日志问题.

6、业务上避免这个坑牺牲了什么, 会引入什么新的问题

  • 增加了管理复杂度

7、数据库未来产品迭代如何修复这个坑

  • slot failover功能. (阿里云RDS PG 已修复, PolarDB PG已开源这个功能)

  • PG 16版本支持了standby创建slot, 同时standby支持logical replication to 下游.

  • PG 17支持了slot failover.

  • PG 11+ 可以使用edb的pg_failover_slot插件支持slot failover: https://github.com/EnterpriseDB/pg_failover_slots


帮朋友代发, 上海招聘资深PostgreSQL DBA, 公司简介:  
http://www.jiayintech.cn/aboutjiayin
嘉银科技是中国领先的科技服务集团,致力于以大数据、云计算、人工智能等技术在消费场景内连接消费者与金融机构,让每位用户都能享受到高效便捷的科技服务,同时助力金融机构业务高速增长。
嘉银科技由严定贵先生于2011年6月18日创立,总部在中国上海。嘉银科技于2019年5月10日在美国纳斯达克成功上市,股票代码:JFIN。
嘉银科技从创立之初就将科技创新刻入企业发展基因,坚持数字+科技双驱动,重点构建以大数据驱动为核心理念的云服务平台和智能风控体系。
放眼全球,嘉银科技业务已经覆盖东南亚、非洲、拉丁美洲等多个地区,未来将继续推广到更多国家和地区。
嘉银科技全面聚焦科技战略,在科技领域全面开花结果,“天引”智能资金管理平台高效匹配资金资产,“明鉴”智能风控引擎大幅优化风控水平,“大禹”数据资产管理平台系统提升数据治理能力,“嫦娥”智能语音呼叫平台提供合规贴心贷后服务。多项科技创新成果的集中落地,促进嘉银科技实现了流程数字化、监督自动化、决策科学化,数字经济基石不断夯实,数字技术能力飞速发展。
岗位描述:
1、负责管理和维护PostgreSQL、MySQL、Oracle、Mongo、图数据库;
2、负责数据库性能调优、监控、备份、异常处理、故障恢复;
3、负责数据库运维标准化,规范化,以及相关文档编写及管理;
4、负责数据库中监控工具软件的维护及管理工作;
5、负责数据库新技术的探索及落地,寻求数据库高可用解决方案;
6、负责公司核心业务数据库的安全、性能稳定运行;
岗位要求
1、全日制本科及以上学历,5年以上PostgreSQL、MySQL、Oracle数据库管理经验;
2、精通PostgreSQL、MySql数据的体系结构及运行机制,主从及高可用部署、性能优化和故障排查;
3、精通Oracle数据库的DG的安装部署、性能优化及备份恢复管理;
4、精通Oracle数据库的RAC的安装部署、节点扩充、磁盘、共享存储的扩充及优化;
5、熟悉MongoDB主从、分片集群搭建、日常维护及故障处理;
6、熟悉图数据库的部署、日常维护及故障处理
7、精通数据库的索引、执行计划,SQL运行的机制,并对SQL进行优化处理;
8、具有良好的沟通能力和团队协作精神及技术专研能力,工作认真负责、有责任心、吃苦耐劳,对技术有强烈的爱好;
感兴趣的小伙伴请联系蒋总 jianghui@jiayinfintech.cn 

文章中的参考文档请点击阅读原文获得. 


欢迎关注我的github (https://github.com/digoal/blog) , 学习数据库不迷路.  

近期正在写公开课材料, 未来将通过视频号推出, 欢迎关注视频号:


继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存