百度分布式数据库 刘斌 Sacc2010
Download as PPT, PDF11 likes1,577 views
该文档讨论了 MySQL 的使用、性能优化和数据管理，特别强调了使用 SSD 和其他存储技术对性能的显著提升。文档还涉及了分布式数据库的架构设计、负载均衡和数据一致性问题，以及与数据库相关的自动化和服务化目标。通过对比传统硬盘和 SSD 的性能，提出了多种优化手段和未来发展方向。
百度分布式数据库 刘斌 Sacc2010
- 2. 简介 谁使用 MySQL? 为什么使用 MySQL? 问题 性能 数据规模伸缩 功能特性 服务化 自动化
- 3. 目标： 功能 ： 响应时间 吞吐 解放大部分产品线 节约资源 分布式数据库需求 Fulltext Snapshot Optimized alter 其他 单节点
- 4. 单节点性能 性能 QPS ( 读 / 写 ) 响应时间 ( 平均 / 长耗时 ) 数据规模 问题 随机读 存储引擎 cache & 系统 cache 随机写 (LRU / checkpoint ...) buffered write ordered write 长耗时绝大部分的请求响应时间在 1ms 以内 IOPS 是读操作和写操作的瓶颈 !
- 5. Vs 硬盘 (sas 10k) QPS 提升 700% Vs SSD (FTL Optimized) QPS 提升 250% ，长耗时减少 95% 可用空间增多 & 使用寿命增加 通用型优化，读为主应用及写为主应用均适合 对应用完全透明，使用方式和以前一样 2007 年百度尝试 Flash ， 2008 年百度网页搜索全面使用 Flash 2008 年 MySQL 尝试使用 Flash, 2011 年百度 MySQL 全面使用 SSD 我们的优化结果
- 6. IO 设备特性 IO 设备 ( 硬盘 & SSD & 内存 ) 顺序写、顺序读、随机写、随机读 响应时间 带宽 访问密度 价格 Tape is dead, disk is tape, flash is disk, ram locality is king. —— Jim Gray
- 7. SSD Vs 硬盘 SSD 16K 随机读比硬盘提升 1860 ％ SSD 16K 随机写比硬盘提升 100 ％ SSD 16K 顺序写比硬盘提升 50 ％ SSD 16K 顺序写比其随机写提升 440 ％ SSD 1M 顺序写比 64 次 16K 随机写提升 800 ％ SSD 1M 顺序写比 64 次 16K 顺序写提升 68 ％ SSD 1M 顺序写比 1 次 16K 顺序写提升 3700 ％ 如何针对这些数据来设计系统 ？
- 8. 优化手段 FTL in-page logging 其他 文件系统 l2fs,btrfs, zfs ... BFTL Kernel flashcache 存储系统逻辑 append write random read merge
- 9. FTL IO 模型 随机写 随机读 In-page logging 20% log 空间 75% raid5 60% 使用率
- 10. 存储系统逻辑 SSD/ 硬盘作为 SSD/ 硬盘的写 cache SSD 作为硬盘的读 cache SSD 作为 innodb buffer pool 的二级读 cache 远程 memory 作为 innodb buffer pool 的二级读 cache 不同 IO 模型分离 文件 / 设备 / IO 模型转化 / 分离
- 11. 写 cache IO 模型 顺序写 ( 提升 800% ) 随机读 Merge Pages mapping mem: ssd = 1 : 350 Multi-Write 提升 68% 写瓶颈 iops -> 吞吐 读瓶颈 iops -> iops
- 12. 写 cache & 读 cache IOPS Vs 吞吐 读 Cache Vs 写 Cache 性价比 预热 可维护性 数据完整性 & 一致性 透明 & 通用 Nand flash Vs Nor flash 100ns 、写性能、价格、 容量、直接寻址 Snapshot (Redirect write) Btree (log-based 38x? ) / Btree patch compaction
- 13. 其他 故障 ECC SLC Raid / Rebuild 架构 继续优化该版本 read cache / btree patch compaction 单节点 500G ~ 1T 功能特性增强 snapshot online alter table
- 14. 分布式 产品定位 尽量保证数据库特性，提升数据规模 线上低延迟的访问 满足具有一定复杂关系的数据操作 设计原则 应用访问方式不变 应用知道数据逻辑分布 不同访问模式提供的功能不同 自动发现 / 人工决定 / 自动处理
- 15. 总体架构
- 16. 访问模式 Scan & Search 基于 Partition Key 单表单机 单表多机 多表单机 多表多机 不基于 Partition Key 单表 多表
- 17. 数据划分 范围划分 散列取模划分 枚举划分 时间划分 组合划分 Binding 继承
- 18. 负载均衡 & 数据迁移 负载均衡 目标 衡量标准 定期汇报 数据迁移 负载均衡 高可用
- 19. 数据一致性 dbproxy 与 zookeeper zookeeper 内部数据一致性 同一 tablet 不同副本之间的数据一致性 ( 异步 / 半同步 ) 最终一致性 会话一致性 不同 tablet 之间的数据一致性 分布式事务 单机事务 ＋ 最终一致性
- 20. 系统可用性 & 可靠性 多副本 部署 切换 dbproxy zookeeper ts slave ts down / master ts down / tablet down / all tablet down auto-exchanger / 盘柜 mq
- 21. 可扩展性 dbproxy zookeeper table 预防扩容 读性能引起 (QPS / Latency) 写性能引起 自动扩容 半自动扩容 合并、分裂
- 22. 其他 & 开源 其他 接口 / 权限 备份 监控 混合运维 计算 工具 开源 单机性能优化 dbproxy
- 23. Thanks! Q & A