dbrestore-first-commit

ecs/restore-dbdump/.dockerignore

@@ -0,0 +1,13 @@
+tests/*
+.coverage
+.env
+.env.example
+.report/*
+.vscode/*
+.pytest_cache/*
+*/__pychache__/*
+Dockerfile
+pytest.ini
+README.md
+*.sql
+*.gz

ecs/restore-dbdump/.env.example

@@ -0,0 +1,6 @@
+DB_HOST=************
+DB_PORT=3306
+DB_USERNAME=************
+DB_PASSWORD=************
+DB_SCHEMA=src05
+DUMP_FILE_S3_PATH=*******************

ecs/restore-dbdump/.gitignore

@@ -0,0 +1,16 @@
+.vscode/settings.json
+.env
+
+# python
+__pycache__
+
+# python test
+.pytest_cache
+.coverage
+.report/
+
+# mysql config file
+my.cnf
+
+# compress file
+*.gz

ecs/restore-dbdump/.vscode/launch.json

@@ -0,0 +1,17 @@
+{
+    // IntelliSense を使用して利用可能な属性を学べます。
+    // 既存の属性の説明をホバーして表示します。
+    // 詳細情報は次を確認してください: https://go.microsoft.com/fwlink/?linkid=830387
+    "version": "0.2.0",
+    "configurations": [
+
+        {
+            "name": "(DEBUG)restore dbdump",
+            "type": "python",
+            "request": "launch",
+            "program": "entrypoint.py",
+            "console": "integratedTerminal",
+            "justMyCode": true
+        }
+    ]
+}

ecs/restore-dbdump/.vscode/recommended_settings.json

@@ -0,0 +1,31 @@
+{
+  "[python]": {
+    "editor.defaultFormatter": null,
+    "editor.formatOnSave": true,
+    "editor.codeActionsOnSave": {
+      "source.organizeImports": true
+    }
+  },
+  // 自身の環境に合わせて変えてください
+  "python.defaultInterpreterPath": "<pythonインタプリターのパス>",
+  "python.linting.lintOnSave": true,
+  "python.linting.enabled": true,
+  "python.linting.pylintEnabled": false,
+  "python.linting.flake8Enabled": true,
+  "python.linting.flake8Args": [
+    "--max-line-length=200",
+    "--ignore=F541"
+  ],
+  "python.formatting.provider": "autopep8",
+  "python.formatting.autopep8Path": "autopep8",
+  "python.formatting.autopep8Args": [
+    "--max-line-length", "200",
+    "--ignore=F541"
+  ],
+  "python.testing.pytestArgs": [
+    "tests/batch/ultmarc"
+  ],
+
+  "python.testing.unittestEnabled": false,
+  "python.testing.pytestEnabled": true
+}

ecs/restore-dbdump/Dockerfile

@@ -0,0 +1,40 @@
+FROM python:3.9-bullseye
+
+ENV TZ="Asia/Tokyo"
+
+WORKDIR /usr/src/app
+COPY Pipfile Pipfile.lock ./
+# mysql-apt-config をdpkgでインストールする際に標準出力に渡す文字列ファイルをコピー
+COPY mysql_dpkg_selection.txt ./
+# 必要なパッケージインストール
+RUN apt update && apt install -y less vim curl wget gzip unzip sudo lsb-release
+
+# mysqlをインストール
+RUN \
+    wget https://dev.mysql.com/get/mysql-apt-config_0.8.29-1_all.deb && \
+    dpkg -i mysql-apt-config_0.8.29-1_all.deb < mysql_dpkg_selection.txt && \
+    apt update && \
+    apt install -y mysql-client
+
+# aws cli v2 のインストール
+RUN \
+    curl "https://awscli.amazonaws.com/awscli-exe-linux-x86_64.zip" -o "awscliv2.zip" && \
+    unzip awscliv2.zip && \
+    sudo ./aws/install
+
+# python関連のライブラリインストール
+RUN \
+    pip install --upgrade pip wheel setuptools && \
+    pip install pipenv --no-cache-dir && \
+    pipenv install --system --deploy && \
+    pip uninstall -y pipenv virtualenv-clone virtualenv
+
+# パッケージのセキュリティアップデートのみを適用するコマンドを実行
+RUN \
+    apt install -y unattended-upgrades && \
+    unattended-upgrades
+
+COPY src ./src
+COPY entrypoint.py entrypoint.py
+
+CMD ["python", "entrypoint.py"]

ecs/restore-dbdump/Pipfile

@@ -0,0 +1,16 @@
+[[source]]
+url = "https://pypi.org/simple"
+verify_ssl = true
+name = "pypi"
+
+[packages]
+
+[dev-packages]
+autopep8 = "*"
+flake8 = "*"
+
+[requires]
+python_version = "3.9"
+
+[pipenv]
+allow_prereleases = true

ecs/restore-dbdump/Pipfile.lock

@@ -0,0 +1,71 @@
+{
+    "_meta": {
+        "hash": {
+            "sha256": "cc5f54bfb2073051a26f113ceac64e12fdd0bf8faa36f1a42210cc9c921c134b"
+        },
+        "pipfile-spec": 6,
+        "requires": {
+            "python_version": "3.9"
+        },
+        "sources": [
+            {
+                "name": "pypi",
+                "url": "https://pypi.org/simple",
+                "verify_ssl": true
+            }
+        ]
+    },
+    "default": {},
+    "develop": {
+        "autopep8": {
+            "hashes": [
+                "sha256:067959ca4a07b24dbd5345efa8325f5f58da4298dab0dde0443d5ed765de80cb",
+                "sha256:2913064abd97b3419d1cc83ea71f042cb821f87e45b9c88cad5ad3c4ea87fe0c"
+            ],
+            "index": "pypi",
+            "markers": "python_version >= '3.6'",
+            "version": "==2.0.4"
+        },
+        "flake8": {
+            "hashes": [
+                "sha256:33f96621059e65eec474169085dc92bf26e7b2d47366b70be2f67ab80dc25132",
+                "sha256:a6dfbb75e03252917f2473ea9653f7cd799c3064e54d4c8140044c5c065f53c3"
+            ],
+            "index": "pypi",
+            "markers": "python_full_version >= '3.8.1'",
+            "version": "==7.0.0"
+        },
+        "mccabe": {
+            "hashes": [
+                "sha256:348e0240c33b60bbdf4e523192ef919f28cb2c3d7d5c7794f74009290f236325",
+                "sha256:6c2d30ab6be0e4a46919781807b4f0d834ebdd6c6e3dca0bda5a15f863427b6e"
+            ],
+            "markers": "python_version >= '3.6'",
+            "version": "==0.7.0"
+        },
+        "pycodestyle": {
+            "hashes": [
+                "sha256:41ba0e7afc9752dfb53ced5489e89f8186be00e599e712660695b7a75ff2663f",
+                "sha256:44fe31000b2d866f2e41841b18528a505fbd7fef9017b04eff4e2648a0fadc67"
+            ],
+            "markers": "python_version >= '3.8'",
+            "version": "==2.11.1"
+        },
+        "pyflakes": {
+            "hashes": [
+                "sha256:1c61603ff154621fb2a9172037d84dca3500def8c8b630657d1701f026f8af3f",
+                "sha256:84b5be138a2dfbb40689ca07e2152deb896a65c3a3e24c251c5c62489568074a"
+            ],
+            "markers": "python_version >= '3.8'",
+            "version": "==3.2.0"
+        },
+        "tomli": {
+            "hashes": [
+                "sha256:939de3e7a6161af0c887ef91b7d41a53e7c5a1ca976325f429cb46ea9bc30ecc",
+                "sha256:de526c12914f0c550d15924c62d72abc48d6fe7364aa87328337a31007fe8a4f"
+            ],
+            "markers": "python_version < '3.11'",
+            "version": "==2.0.1"
+        }
+    }
+}

ecs/restore-dbdump/README.md

@@ -0,0 +1,67 @@
+# ダンプ復元スクリプト
+
+## 概要
+
+ダンプ復元スクリプト
+
+## 環境情報
+
+- Python 3.9
+- MySQL 8.23
+- VSCode
+
+## 環境構築
+
+- Python の構築
+
+  - Merck_NewDWH 開発 2021 の Wiki、[Python 環境構築](https://nds-tyo.backlog.com/alias/wiki/1874930)を参照
+    - 「Pipenv の導入」までを行っておくこと
+  - 構築完了後、プロジェクト配下で以下のコマンドを実行し、Python の仮想環境を作成する
+    - `pipenv install --dev --python <pyenvでインストールしたpythonバージョン>`
+    - この手順で出力される仮想環境のパスは、後述する VSCode の設定手順で使用するため、控えておく
+
+- MySQL の環境構築
+  - Windows の場合、以下のリンクからダウンロードする
+    - <https://dev.mysql.com/downloads/installer/>
+  - Docker を利用する場合、「newsdwh-tools」リポジトリの MySQL 設定を使用すると便利
+    - 「crm-table-to-ddl」フォルダ内で以下のコマンドを実行すると
+      - `docker-compose up -d`
+      - Docker の構築手順は、[Docker のセットアップ手順](https://nds-tyo.backlog.com/alias/wiki/1754332)を参照のこと
+  - データを投入する
+    - 立ち上げたデータベースに「src05」スキーマを作成する
+    - [ローカル開発用データ](https://ndstokyo.sharepoint.com/:f:/r/sites/merck-new-dwh-team/Shared%20Documents/03.NewDWH%E6%A7%8B%E7%AF%89%E3%83%95%E3%82%A7%E3%83%BC%E3%82%BA3/02.%E9%96%8B%E7%99%BA/90.%E9%96%8B%E7%99%BA%E5%85%B1%E6%9C%89/%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%AB%E9%96%8B%E7%99%BA%E7%94%A8%E3%83%87%E3%83%BC%E3%82%BF?csf=1&web=1&e=VVcRUs)をダウンロードし、mysql コマンドを使用して復元する
+      - `mysql -h <ホスト名> -P <ポート> -u <ユーザー名> -p src05 < src05_dump.sql`
+- 環境変数の設定
+  - 「.env.example」ファイルをコピーし、「.env」ファイルを作成する
+  - 環境変数を設定する。設定内容は PRJ メンバーより共有を受けてください
+- VSCode の設定
+  - 「.vscode/recommended_settings.json」ファイルをコピーし、「settings.json」ファイルを作成する
+  - 「python.defaultInterpreterPath」を、Python の構築手順で作成した仮想環境のパスに変更する
+
+## 実行
+
+- VSCode 上で「F5」キーを押下すると、バッチ処理が起動する。
+- 「entrypoint.py」が、バッチ処理のエントリーポイント。
+- 実際の処理は、「src/restore_backup.py」で行っている。
+
+## フォルダ構成
+
+```txt
+.
+├── .env.example                  -- ローカル実行用の環境変数のサンプル値。
+├── .dockerignore                 -- docker build時のコンテキストに含めるファイルの抑制リスト
+├── .gitignore                    -- Git差分管理除外リスト
+├── Dockerfile                    -- Dockerイメージ作成用
+├── Pipfile                       -- pythonの依存関係管理
+├── Pipfile.lock                  -- 依存関係バージョン固定
+├── README.md                     -- 当ファイル
+├── entrypoint.py                 -- エントリーポイントとなるファイル
+├── mysql_dpkg_selection.txt      -- Dockerイメージでdpkgを使うときに外部から注入する選択値
+└── src                           -- ソースコードフォルダ
+    ├── logging
+    │   └── get_logger.py         -- ロガー
+    ├── restore_backup.py         -- dump復元処理本体
+    └── system_var
+        ├── constants.py          -- 定数ファイル
+        └── environment.py        -- 環境変数ファイル
+```

ecs/restore-dbdump/entrypoint.py

@@ -0,0 +1,10 @@
+"""実消化&アルトマーク DBダンプ復元のエントリーポイント"""
+from src import restore_backup
+
+if __name__ == '__main__':
+    try:
+        exit(restore_backup.exec())
+    except Exception:
+        # エラーが起きても、正常系のコードで返す。
+        # エラーが起きた事実はbatch_process内でログを出す。
+        exit(0)

ecs/restore-dbdump/mysql_dpkg_selection.txt

@@ -0,0 +1,3 @@
+1
+1
+4

ecs/restore-dbdump/src/logging/get_logger.py

@@ -0,0 +1,37 @@
+import logging
+
+from src.system_var.environment import LOG_LEVEL
+
+# boto3関連モジュールのログレベルを事前に個別指定し、モジュール内のDEBUGログの表示を抑止する
+for name in ["boto3", "botocore", "s3transfer", "urllib3"]:
+    logging.getLogger(name).setLevel(logging.WARNING)
+
+
+def get_logger(log_name: str) -> logging.Logger:
+    """一意のログ出力モジュールを取得します。
+
+    Args:
+        log_name (str): ロガー名
+
+    Returns:
+        _type_: _description_
+    """
+    logger = logging.getLogger(log_name)
+    level = logging.getLevelName(LOG_LEVEL)
+    if not isinstance(level, int):
+        level = logging.INFO
+    logger.setLevel(level)
+
+    if not logger.hasHandlers():
+        handler = logging.StreamHandler()
+        logger.addHandler(handler)
+
+        formatter = logging.Formatter(
+            '%(name)s\t[%(levelname)s]\t%(asctime)s\t%(message)s',
+            '%Y-%m-%d %H:%M:%S'
+        )
+
+        for handler in logger.handlers:
+            handler.setFormatter(formatter)
+
+    return logger

ecs/restore-dbdump/src/restore_backup.py

@@ -0,0 +1,64 @@
+"""ダンプ復元スクリプト"""
+
+import os
+import subprocess
+import textwrap
+
+### from src.logging.get_logger import get_logger
+from src.system_var import constants, environment
+
+### logger = get_logger('ダンプ復元スクリプト')
+
+
+def exec():
+    try:
+        ### logger.info('ダンプ復元スクリプト：開始')
+
+        # MySQL接続情報を作成する
+        my_cnf_file_content = f"""
+        [client]
+        user={environment.DB_USERNAME}
+        password={environment.DB_PASSWORD}
+        host={environment.DB_HOST}
+        """
+        # my.cnfファイルのパス
+        my_cnf_path = os.path.join('my.cnf')
+
+        # my.cnfファイルを生成する
+        with open(my_cnf_path, 'w') as f:
+            f.write(textwrap.dedent(my_cnf_file_content)[1:-1])
+
+        os.chmod(my_cnf_path, 0o444)
+
+        # 復元対象のダンプファイルを特定
+        s3_file_path = environment.DUMP_FILE_S3_PATH
+
+        # aws s3 cpコマンドを実行してdumpファイルをローカルにダウンロードする
+        s3_cp_process = subprocess.Popen(['aws', 's3', 'cp', s3_file_path, './dump.gz'], stderr=subprocess.PIPE)
+        _, error = s3_cp_process.communicate()
+        if s3_cp_process.returncode != 0:
+            ### logger.error(f'`aws s3 cp`実行時にエラーが発生しました。{"" if error is None else error.decode("utf-8")}')
+            return constants.BATCH_EXIT_CODE_SUCCESS
+        # S3コマンドの標準エラーはクローズしておく
+        s3_cp_process.stderr.close()
+
+        # gzipコマンドを実行してdumpファイルを解凍する
+        gzip_process = subprocess.Popen(['gunzip', '-c', './dump.gz'], stdout=subprocess.PIPE, stderr=subprocess.PIPE)
+        # mysqlコマンドを実行し、dumpを復元する
+        mysql_process = subprocess.Popen(
+            ['mysql', f'--defaults-file={my_cnf_path}', '-P', f"{environment.DB_PORT}", environment.DB_SCHEMA],
+            stdin=gzip_process.stdout, stderr=subprocess.PIPE
+        )
+        # gzipの標準出力をmysqlに接続したため、標準出力をクローズする
+        gzip_process.stdout.close()
+
+        _, error = mysql_process.communicate()
+        if mysql_process.returncode != 0:
+            ### logger.error(f'コマンド実行時にエラーが発生しました。{"" if error is None else error.decode("utf-8")}')
+            return constants.BATCH_EXIT_CODE_SUCCESS
+        ### logger.info('[NOTICE]ダンプ復元スクリプト：終了（正常終了）')
+        return constants.BATCH_EXIT_CODE_SUCCESS
+
+    except Exception as e:
+        ### logger.exception(f'ダンプ復元スクリプト中に想定外のエラーが発生しました :{e}')
+        return constants.BATCH_EXIT_CODE_SUCCESS

ecs/restore-dbdump/src/system_var/constants.py

@@ -0,0 +1,2 @@
+# バッチ正常終了コード
+BATCH_EXIT_CODE_SUCCESS = 0

ecs/restore-dbdump/src/system_var/environment.py

@@ -0,0 +1,12 @@
+import os
+
+# Database
+DB_HOST = os.environ['DB_HOST']
+DB_PORT = int(os.environ['DB_PORT'])
+DB_USERNAME = os.environ['DB_USERNAME']
+DB_PASSWORD = os.environ['DB_PASSWORD']
+DB_SCHEMA = os.environ['DB_SCHEMA']
+
+# AWS
+DUMP_FILE_S3_PATH = os.environ['DUMP_FILE_S3_PATH']
+