OSS-DB Goldへの第一歩～実践！運用管理～
6 likes•8,523 views
2014/6/20のdb tech showcase 2014 大阪のB35枠の講演資料です。
OSS-DB Goldへの第一歩～実践！運用管理～
- 1. 1 © 2014 Metro Systems. OSS-DB Goldへの第一歩 〜実践！運用管理〜 株式会社メトロシステムズ 花田 茂 2014/6/20
- 2. 2 © 2014 Metro Systems. 自己紹介 氏名 花田 茂（はなだ しげる） 所属 株式会社メトロシステムズ（東京・池袋・サンシャイン６０） 略歴 １９９９年：株式会社メトロシステムズに入社 ２００３年：オープンソースデータベースのＲ＆Ｄを担当 ２０１０年：PostgreSQLの開発に参加（主に外部データ連携） ２０１３年：OSS-DB Gold取得 現在： OSS関連の構築やコンサルティング、トレーニング PostgreSQL開発 主に外部テーブル/FDWまわり
- 3. 3 © 2014 Metro Systems. 本セミナーの流れ 運用管理の基本 PostgreSQLのアーキテクチャ データ構造 性能監視 基本的な監視項目 便利な外部ツール パフォーマンスチューニング パラメータチューニング クエリチューニング 便利な外部ツール
- 4. 4 © 2014 Metro Systems. OSS-DB試験の紹介 試験の概要 PostgreSQLの特徴
- 5. 5 © 2014 Metro Systems. OSS-DB試験とは オープンソースデータベース（OSS-DB）に関する技術 と知識を認定するＩＴ技術者認定です データベースシステムの設計・導入・運用ができる技術者 大規模データベースシステムの 改善・運用管理・コンサルティングができる技術者 Linux技術者認定制度のLPICと同じく、 LPI-Japanが実施
- 6. 6 © 2014 Metro Systems. OSS-DB Gold試験の出題範囲 運用管理（３０％） データベースサーバ構築 運用管理コマンド全般 データベースの構造 ホットスタンバイ運用 性能監視（３０％） アクセス統計情報 テーブル/カラム統計情報 クエリ実行計画 スロークエリの検出 付属ツールによる解析 パフォーマンスチューニング（２０％） 性能に関係するパラメータ チューニングの実施 試験時間 ：９０分※ 問題数 ：３０問 合格点 ：７０点 ※アンケート時間等を含む 障害対応（２０％） 起こりうる障害のパターン 破損クラスタ復旧 ホットスタンバイ復旧
- 7. 7 © 2014 Metro Systems. OSS-DB試験の注意事項 最新の試験範囲はWebで確認！ http://www.oss-db.jp/outline/examarea.shtml 対象のPostgreSQLバージョンは「9.0」 ２０１４年６月時点の対応バージョンは「9.0.17」 ２０１４年６月時点の最新バージョンは「9.3.4」 OSに依存しない内容だが、表記はLinuxベース シェルのコマンドプロンプトは「$」 「フォルダ」でなく「ディレクトリ」 ディレクトリ区切り文字は「￥」や「」でなく「/」
- 8. 8 © 2014 Metro Systems. 運用管理の基本 PostgreSQLのアーキテクチャ PostgreSQLのデータ構造
- 9. 9 © 2014 Metro Systems. PostgreSQLのアーキテクチャ（１） アーキテクチャにおける特徴 多数のクライアントに高性能を提供 マルチプロセス構成（スレッド未使用） 共有メモリによるデータ共有とバッファリング 追記型によるMVCC 賢くクエリを実行 コストベースオプティマイザ 各種インデックス（B-TreeだけでなくGINやGiSTなど） 任意のタイミングまでのリカバリ WALによるリカバリ（クラッシュリカバリやPITR） 柔軟な構成が可能 同期・非同期を選べるレプリケーション スタンバイからのオンラインバックアップ取得
- 10. 10 © 2014 Metro Systems. PostgreSQLのアーキテクチャ（２） PostgreSQLを構成する要素 ファイル プロセス
- 11. 11 © 2014 Metro Systems. PostgreSQLのアーキテクチャ（２） PostgreSQLを構成する要素 ファイル プロセス ○設定ファイル ▲サーバ設定 ▲クライアント認証設定 ○データファイル ▲テーブル ◇実データ ◇空き領域マップ ◇可視性マップ ▲インデックス ○ログファイル ▲サーバログ ▲トランザクションログ ◇オンライン ◇アーカイブ ▲コミットログ
- 12. 12 © 2014 Metro Systems. PostgreSQLのアーキテクチャ（２） PostgreSQLを構成する要素 ファイル プロセス ○共有メモリ ▲セッション情報 ▲プロセス情報 ▲トランザクション情報 ▲共有バッファ ▲WALバッファ ○ヒープメモリ ▲プロセスコード ▲スタック ▲ソート領域 ▲一時バッファ
- 13. 13 © 2014 Metro Systems. PostgreSQLのアーキテクチャ（２） PostgreSQLを構成する要素 ファイル プロセス ○postmaster リスナ ○postgres クエリ実行等、クライアント対応 ○logger サーバログ記録 ○checkpointer チェックポイント実行（9.2〜） ○writer ダーティバッファのフラッシュ ○wal writer トランザクションログ書き込み ○autovacuum launcher 自動VACUUM（worker起動） ○autovacuum worker 自動VACUUM（実処理） ○archiver トランザクションログアーカイブ ○stats collector 統計情報収集 ○wal sender レプリケーション（マスタ側） ○wal receiver レプリケーション（スレーブ側）
- 14. 14 © 2014 Metro Systems. PostgreSQLのアーキテクチャ（３） PostgreSQLのクエリ処理 postmaster postgrespostgrespostgres WAL バッファ 設定 ファイル インデックス ファイル インデックス ファイル インデックス ファイル テーブル ファイル テーブル ファイル テーブル ファイル テーブル ファイル テーブル ファイル オンライン WAL postgrespostgres クライアント プログラム テーブル ファイル テーブル ファイル アーカイブ WAL archiver background writer WAL writer 共有 バッファ fork fork fork
- 15. 15 © 2014 Metro Systems. PostgreSQLのデータ構造（１） 階層構造 データベースクラスタ（$PGDATA） デフォルトテーブル空間（base） データベース テーブル インデックス グローバルテーブル空間（global） ユーザ定義テーブル空間（pg_tblspc） 設定ファイル（*.conf） トランザクションログ（pg_xlog） コミットログ（pg_clog） サーバログ（pg_log） Etc.
- 16. 16 © 2014 Metro Systems. PostgreSQLのデータ構造（２） データベースクラスタの内容 % ls -l -rw------- 1 postgres postgres 4 7 3 2013 PG_VERSION drwx------ 7 postgres postgres 238 4 1 13:57 base/ drwx------ 42 postgres postgres 1428 4 1 13:58 global/ drwx------ 3 postgres postgres 102 7 3 2013 pg_clog/ -rw------- 1 postgres postgres 4219 7 3 2013 pg_hba.conf -rw------- 1 postgres postgres 1636 7 3 2013 pg_ident.conf drwx------ 6 postgres postgres 204 4 1 13:40 pg_log/ drwx------ 4 postgres postgres 136 7 3 2013 pg_multixact/ drwx------ 3 postgres postgres 102 3 31 17:43 pg_notify/ drwx------ 3 postgres postgres 102 4 1 14:05 pg_stat_tmp/ drwx------ 3 postgres postgres 102 3 31 18:34 pg_subtrans/ drwx------ 3 postgres postgres 102 4 1 13:55 pg_tblspc/ drwx------ 2 postgres postgres 68 7 3 2013 pg_twophase/ drwx------ 11 postgres postgres 374 4 1 13:55 pg_xlog/ -rw------- 1 postgres postgres 20337 3 31 17:45 postgresql.conf -rw------- 1 postgres postgres 36 3 31 17:43 postmaster.opts -rw------- 1 postgres postgres 50 3 31 17:43 postmaster.pid
- 17. 17 © 2014 Metro Systems. PostgreSQLのデータ構造（３） テーブルファイルの構成 テーブルデータは以下の三種類の「フォーク」で管理 実データ FSM（Free Space Map:空き領域マップ） VM（Visibility Map:可視性マップ） ファイル名はpg_class.relflenode（OID）で管理 実データは<relfle_node>（例11716） FSMは<relflenode>_fsm（例:11716_fsm） VMは<relflenode>_vm（例:11716_vm） oid2nameコマンドで名称取得可能 ファイル・ブロックで分割して管理 8KB単位のブロックで管理 1GB単位でファイルを分割 ２つ目以降のファイルには11716.2, 11716.3のように枝番がふられる
- 18. 18 © 2014 Metro Systems. PostgreSQLのデータ構造（３） テーブルファイルの構成 postgres=# SELECT relname, oid, relfilenode postgres-# FROM pg_class postgres-# WHERE relkind = 'r' postgres-# AND relnamespace = (SELECT oid FROM pg_namespace WHERE nspname = 'public') postgres-# ORDER BY relname; relname | oid | relfilenode ------------------+-------+------------- pgbench_accounts | 16390 | 16438 pgbench_branches | 16393 | 16393 pgbench_history | 16384 | 16384 pgbench_tellers | 16387 | 16387 (4 rows) 通常テーブルのみ publicテーブルスペースにある （≒ユーザ定義の）もののみ oidと同じとは限らない →TRUNCATEやCLUSTERなどで変化 $ cd $PGDATA/base/12403 $ ls -l 16438* -rw------- 1 hanada staff 1073741824 6 12 16:25 16438 -rw------- 1 hanada staff 269213696 6 12 16:25 16438.1 -rw------- 1 hanada staff 352256 6 12 16:25 16438_fsm -rw------- 1 hanada staff 24576 6 12 16:25 16438_vm 通常テーブルのみ
- 19. 19 © 2014 Metro Systems. PostgreSQLのデータ構造（４） テーブルファイルのブロック構成 ページヘッダ アイテムポインタ 空き領域 レコードデータ
- 20. 20 © 2014 Metro Systems. PostgreSQLのデータ構造（４） テーブルファイルのブロック構成 ページヘッダ アイテムポインタ 空き領域 レコードデータ
- 21. 21 © 2014 Metro Systems. PostgreSQLのデータ構造（４） テーブルファイルのブロック構成 ページヘッダ アイテムポインタ 空き領域 レコードデータ
- 22. 22 © 2014 Metro Systems. PostgreSQLのデータ構造（４） テーブルファイルのブロック構成 ページヘッダ アイテムポインタ 空き領域 レコードデータ
- 23. 23 © 2014 Metro Systems. PostgreSQLのデータ構造（５） 実際にはもう少し複雑です FILLFACTORによる空き領域確保 INSERT時にFILLFACTOR%以上は埋めない 更新時に同一ページに新バージョンタプルを配置しやす →HOTになりやすい→インデックスが汚れにくい HOTによるページ内タプルチェイン HOTがきかないと… インデックスタプル→アイテムポインタ→タプル（更 新済）→次のインデックスタプル...を最新版タプルが 見つかるまで繰り返し HOTがきくと… インデックスタプル→アイテムポインタ→タプル（更 新済）→タプル（最新版）で到達
- 24. 24 © 2014 Metro Systems. PostgreSQLのデータ構造（６） B-Treeインデックスのブロック構造 テーブルと同様に8KBブロックで管理 ブロック末尾に管理情報（左右ページへのリンクなど） テーブルと異なりFSMやVMは存在しない メタページ、ルートページ、中間ページ、リーフページからなる メタページは、ルートページの位置等を保持 ルートページと中間ページは、下位のページの最小値・最大値を保持 リーフページでは、キー値とタプル（レコードデータ）へのポインタ（ブ ロック番号とオフセット）のペアを保持 ルート 0〜100 中間 0〜40 中間 41〜100 リーフ 0〜20 リーフ 21〜35 リーフ 36〜40 リーフ 41〜60 リーフ 61〜100 メタ
- 25. 25 © 2014 Metro Systems. 性能監視 クエリチューニング 基本的な監視項目 便利な外部ツール
- 26. 26 © 2014 Metro Systems. 基本的な監視項目（１） 障害やパフォーマンス劣化が起きてからでは遅い！ 運用開始前からどのような項目を監視するか決めておく サービスレベル（目標）を事前に定義 定常的な監視で許容範囲のうちに対策を！ 監視によるオーバーヘッドを見込んだサイジング データベース単体で性能が出ても、いざという時に対策が打てない のでは実用にはならない！ アプリケーションやネットワークも含めて監視しましょう 「監視するだけ」にならないように、フィードバックサイクルを作る 「いつの間にか遅くなっていた」とならないように
- 27. 27 © 2014 Metro Systems. 基本的な監視項目（２） OSレベルの監視 CPU SQLパース プラン作成 フィルタリング ソート VACUUM メモリ ソート ハッシュ結合 VACUUM プロセス 対象セッション 自動VACUUM ディスクI/O テーブルスキャン 一時ファイル WAL書き込み VACUUM ディスク使用量 データベースサイズ WALサイズ アーカイブWALサイズ 一時ファイルサイズ ネットワークI/O 結果データ転送 レプリケーション
- 28. 28 © 2014 Metro Systems. 基本的な監視項目（３） PostgreSQLレベルの監視 クエリのパフォーマンス pg_stat_activityビュー セッション数（接続/切断頻度なども） クエリ所要時間 pg_stat_all_(tables|indexes)ビュー テーブルやインデックスへのアクセス数や方式（全件/インデックス） VACUUM/ANALYZE状況 pg_statio_all_(tables|indexes)ビュー テーブルやインデックスのキャッシュヒット率 pg_xlog_location()/pg_xlog_insert_location()/pg_xlog_location_dif()関数 WAL書き込み量
- 29. 29 © 2014 Metro Systems. 基本的な監視項目（３） PostgreSQLレベルの監視（続き） その他の処理のパフォーマンス サーバログ チェックポイントや自動VACUUMの頻度・所要時間 WALアーカイブ pg_stat_replicationビュー レプリケーション遅延 ディスク領域 pg_(database|table|relation|indexes)_size()関数 データ領域（データベース/テーブル空間/テーブルやインデックス） duコマンド オンラインWAL領域・アーカイブWAL領域 サーバログ ログ監視（FATAL/PANIC/ERRORが出ていないか？）
- 30. 30 © 2014 Metro Systems. 便利な外部ツール pg_statsinfo/pg_stat_reporter 定期的に統計情報のスナプショットを取得しグラフィカルに表示 http://pgstatsinfo.projects.pgfoundry.org/index_ja.html Zabbix+pg_monz pg_monzはZabbixでPostgreSQLを監視するためのテンプレート http://pg-monz.github.io/pg_monz/ Hinemos 統合運用管理ソフト http://www.hinemos.info
- 31. 31 © 2014 Metro Systems. パフォーマンスチューニング クエリチューニング パラメータチューニング 便利な外部ツール
- 32. 32 © 2014 Metro Systems. パフォーマンスの基本（１） パフォーマンスとは？ 業務モデルによって詳細は異なるが「単位時間でさばける処理量」 パフォーマンスを決定する要因は様々 CPU処理 SQL解析、ソート処理、暗号化、Etc. ディスクI/O処理 データファイル読み書き、WAL記録、VACUUM、ログ記録、Etc. ロック競合 同時アクセス、デッドロック、Etc. ネットワーク転送 クエリ結果返却、レプリケーション、Etc. どこかの要因がボトルネックになり性能が決まる
- 33. 33 © 2014 Metro Systems. パフォーマンスの基本（２） パフォーマンスをあげるには？ クエリ所要時間（レスポンス）を短縮する I/O量を下げる CPU処理を減らす メモリを増やす 検索対象データ量を減らす 結果データ量を減らす 並列度を上げる ロックの強度を下げる ロックの期間を短くする CPUを増やす
- 34. 34 © 2014 Metro Systems. パラメータチューニング（１） 構築したら変えましょう！のパラメータ shared_bufers テーブルやインデックスの内容をPostgreSQLがキャッシュする量 実メモリの25%程度に設定 work_mem ソート処理やハッシュ結合を高速化するが、プロセス単位の設定なのであ まり大きくするとスワップする バッチセッションやバッチユーザのみ別に設定するのも一案 postgres=# ALTER USER batch SET work_mem = '100MB'; ALTER ROLE postgres=# c - batch You are now connected to database "postgres" as user "batch". postgres=> show work_mem; work_mem ---------- 100MB (1 row)
- 35. 35 © 2014 Metro Systems. パラメータチューニング（２） 構築したら変えましょう！のパラメータ（つづき） checkpoint_segments/checkpoint_timeout 更新量が多いシステムではデフォルトの3/5minは小さいので、クラッシュ リカバリの時間との兼ね合いで設定 大きくするとpg_xlogディレクトリが肥大化する 小さすぎると、このようなログが出ます LOG: checkpoints are occurring too frequently (2 seconds apart) HINT: Consider increasing the configuration parameter "checkpoint_segments".
- 36. 36 © 2014 Metro Systems. パラメータチューニング（３） 構築したら変えましょう！のパラメータ（つづき） wal_level 運用要件上許される最小のレベルに wal_bufers デフォルトの「-1」だとshared_bufersの1/32を使用 大きくしすぎるとコミット時の待ちが長くなる
- 37. 37 © 2014 Metro Systems. パラメータチューニング（４） 様子を見て変えましょう！のパラメータ random_page_cost 値を小さくするとインデックススキャンが選択されやすくなる SSDや高速なストレージを使用している場合は小さくしてみるとよいかも efective_cache_size OSのバッファキャッシュも含めたキャッシュサイズで、増やすとインデッ クススキャンになりやすい 実メモリの25%〜50%程度に設定 「速くする設定」も重要ですが、 「何が起きているか知るための設定」 の方が重要です！
- 38. 38 © 2014 Metro Systems. クエリチューニング 実際のチューニングは… 最近、画面の表示が遅くなってきた 調べたらデータベースアクセスが遅いようだ 一覧画面の表示に時間がかかっている どのSQLが遅いんだろう？ 分からない…
- 39. 39 © 2014 Metro Systems. EXPLAINの見方（１） EXPLAINとは PostgreSQLがクエリをどのように実行するか/したかを知るためのツール PostgreSQLは様々なクエリを以下のような「プランノード」をツリー上に 組み合わせて実現 スキャン Seq Scan/Index Scan/Index Only Scan/Bitmap Heap Scan/Etc. 結合 Nested Loop/Merge Join/Hash Join その他 Sort/Append/Aggregate/Limit/Etc. 各プランノード毎に以下の情報を出力 プラン種別・推定行数・推定コスト・推定レコード長 所要時間・ヒット行数・繰り返し回数（ANALYZE指定時のみ）
- 40. 40 © 2014 Metro Systems. EXPLAINの見方（２） 実行計画の例 小さいテーブル（１ブロック） 肥大化したテーブル（１６７ブロック） postgres=# explain select * from pgbench_branches where bid < 3; QUERY PLAN ------------------------------------------------------------------ Seq Scan on pgbench_branches (cost=0.00..1.06 rows=2 width=364) Filter: (bid < 3) (2 rows) postgres=# explain select * from pgbench_branches where bid < 3; QUERY PLAN ----------------------------------------------------------------------------------- - Bitmap Heap Scan on pgbench_branches (cost=4.27..11.67 rows=2 width=364) Recheck Cond: (bid < 3) -> Bitmap Index Scan on pgbench_branches_pkey (cost=0.00..4.27 rows=2 width=0) Index Cond: (bid < 3) (4 rows)
- 41. 41 © 2014 Metro Systems. EXPLAINの見方（３） 詳しくは 「生き残るデータベース管理者/アプリケーション開発者のための PostgreSQL SQLチューニング入門〜Explaining Explain〜」 OSC 2012 Tokyo/Springにて株式会社アシストの田中氏が講演 http://www.postgresql.jp/events/osc12tk_spring_folder
- 42. 42 © 2014 Metro Systems. 便利な外部ツール pg_dbms_stats PostgreSQLの持つ統計情報を管理 統計情報を固定して実行計画の変化を抑止 本番環境の統計情報を検証環境に移植してチューニング http://sourceforge.jp/projects/pgdbmsstats/ pg_hint_plan PostgreSQLでヒント句を利用可能にする http://sourceforge.jp/projects/pghintplan/ pgAdmin-Ⅲ 実行計画をグラフィカルに表示 クエリ書き換えのトライ＆エラーに http://www.pgadmin.org
- 43. 43 © 2014 Metro Systems. 参考資料 PostgreSQL文書 基本的には正しい情報はここから！ http://www.postgresql.jp/document/9.3/html/index.html PostgreSQL全機能バイブル 非常に細かく内部構造や詳細動作が記述されています 鈴木啓修・技術評論社 Let's Postgres 日本語のPostgreSQL技術情報ポータル http://lets.postgresql.jp PostgreSQL Internals 体系的にまとまっているのでアーキテクチャ概要などの理解に http://www.postgresqlinternals.org/
- 44. 44 © 2014 Metro Systems. 最近の開発動向（１） 次のバージョンの9.4は… 今秋リリースの見込み 現在、ベータテスト中→ガンガン試してください！ 個人的には、GINインデックス高速化やJSONB（バイ ナリJSON）が熱いかと 6/19に本イベントで講演された宗近さんの講演資料が 詳しいです http://www.slideshare.net/munetika/dbts- osaka2014-pg94
- 45. 45 © 2014 Metro Systems. 最近の開発動向（２） その次のバージョンの9.5は… 6/15に開発サイクルが始まりました 自律トランザクション B-Treeインデックス構築高速化 共有バッファのNUMA対応 共有バッファのHibernation 外部テーブルで継承や結合をサポート←宣伝
- 46. 46 © 2014 Metro Systems. ご清聴ありがとうございました。 ■お問い合わせ■ 株式会社メトロシステムズ 花田 茂 Mail: [email protected] Twitter: @s87