From 4e02590f9727483a6e034f17aa86c590d0917ae8 Mon Sep 17 00:00:00 2001 From: Y_SAKAI Date: Tue, 24 May 2022 18:02:05 +0900 Subject: [PATCH] =?UTF-8?q?fix:SAP=5Fsup=E5=8F=97=E9=A0=98=E3=83=81?= =?UTF-8?q?=E3=82=A7=E3=83=83=E3=82=AF=E5=87=A6=E7=90=86=EF=BC=88=E6=9C=88?= =?UTF-8?q?=E6=AC=A1=EF=BC=89=20=E3=83=BBproducti=E2=86=92staging=E3=81=AE?= =?UTF-8?q?=E3=83=95=E3=82=A1=E3=82=A4=E3=83=AB=E5=90=8D=E5=A4=89=E6=9B=B4?= =?UTF-8?q?=20=E3=83=BB=E6=97=A5=E6=AC=A1=E5=87=A6=E7=90=86=E3=82=92?= =?UTF-8?q?=E3=82=82=E3=81=A8=E3=81=AB=E3=81=97=E3=81=9F=E4=BF=AE=E6=AD=A3?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- ...ct-lambda-sap-sup-receive-check-monthly.py | 192 ------------------ ...ng-lambda-sap-sup-receive-check-monthly.py | 191 +++++++++++++++++ 2 files changed, 191 insertions(+), 192 deletions(-) delete mode 100644 lambda/mbj-newdwh2021-product-lambda-sap-sup-receive-check-monthly.py create mode 100644 lambda/mbj-newdwh2021-staging-lambda-sap-sup-receive-check-monthly.py diff --git a/lambda/mbj-newdwh2021-product-lambda-sap-sup-receive-check-monthly.py b/lambda/mbj-newdwh2021-product-lambda-sap-sup-receive-check-monthly.py deleted file mode 100644 index 024b8a9c..00000000 --- a/lambda/mbj-newdwh2021-product-lambda-sap-sup-receive-check-monthly.py +++ /dev/null @@ -1,192 +0,0 @@ -import os -import datetime -import boto3 -import io -import re -import sys - -# 環境変数 -CHECK_BUCKET_NAME = os.environ["CHECK_BUCKET_NAME"] -CONFIG_BUCKET_NAME = os.environ["CONFIG_BUCKET_NAME"] -RECEIVE_MONTHLY_FILE_NAME_LIST_PATH = os.environ["RECEIVE_MONTHLY_FILE_NAME_LIST_PATH"] -MONTHLY_CEHCK_DAY_LIST_PATH = os.environ["MONTHLY_CEHCK_DAY_LIST_PATH"] -NOTICE_MAIL_TITLE_TEMPLATE_PATH = os.environ["NOTICE_MAIL_TITLE_TEMPLATE_PATH"] -NOTICE_MAIL_BODY_TEMPLATE_PATH = os.environ["NOTICE_MAIL_BODY_TEMPLATE_PATH"] -MBJ_SAP_NOTICE_TOPIC = os.environ["MBJ_SAP_NOTICE_TOPIC"] -MAIL_BODY_REPLACE_SYMBOL = os.environ["MAIL_BODY_REPLACE_SYMBOL"] -NDS_NOTICE_TOPIC = os.environ["NDS_NOTICE_TOPIC"] -NDS_NOTICE_TITLE = os.environ["NDS_NOTICE_TITLE"] - -# 定数 -ROW_COMMENT_SYMBOL = '#' - -# 変数 -s3_client = boto3.client('s3') -s3_resource = boto3.resource('s3') -sns_client = boto3.client('sns') -mail_msg = '' - - -def lambda_handler(event, context): - try: - # ① 処理開始ログを出力する - info_log('I-01-01', '処理開始　SAP_supデータ受領チェック処理（月次）') - datetoday = datetime.date.today() - today = datetoday.strftime('%Y/%m/%d') - month = f'{datetoday.strftime("%Y")}/{datetoday.strftime("%m")}' - info_log('I-01-02', f'処理稼働日：{today}') - - # ② 営業日チェック処理を行う - info_log('I-02-01', 'チェック処理実施指定日確認処理開始') - - # 1.設定ファイル[チェック処理実施指定日ファイル]を読み込む - try: - info_log('I-02-02', f'チェック処理実施指定日ファイル読込　読込元：{CONFIG_BUCKET_NAME}/{MONTHLY_CEHCK_DAY_LIST_PATH}') - monthly_day_obj = s3_resource.Object(CONFIG_BUCKET_NAME, MONTHLY_CEHCK_DAY_LIST_PATH) - monthly_day_response = monthly_day_obj.get() - info_log('I-02-03', 'チェック処理実施指定日ファイルを読み込みました') - except Exception as e: - error_log('E-02-01', 'チェック処理実施指定日設定ファイルの読み込みに失敗しました') - error_process('E-02-01', e) - - # 2.処理稼働日が「１」で読み込んだ「チェック処理実施指定日ファイル」に存在するか確認する - try: -# today = datetime.date.today() - info_log('I-02-04', f'本日がチェック処理実施指定日か確認します　確認日：{today}') - check_date_list = [] - for i, row in io.TextIOWrapper(io.BytesIO(monthly_day_response["Body"].read()), encoding='utf-8'): - if row[0] == ROW_COMMENT_SYMBOL: - continue - date = row.split('/') - check_date = datetime.date(int(date[0]), int(date[1]), int(date[2])).strftime('%Y/%m/%d') - check_date_list.append(check_date) - if today in check_date_list: - info_log('I-02-05', '本日はチェック処理実施指定日のため、チェック処理を実施します') - else: - info_log('I-02-06', '本日はチェック処理実施指定日ではないため、チェック処理をスキップします') - sys.exit() - except Exception as e: - error_log('E-02-02', f'チェック処理実施指定日設定ファイルに不備があります　行数：{i}') - error_process('E-02-02', e) - - # ③ 設定ファイル[SAP_supI/Fファイルネーム設定ファイル（月次）]を読み込む - try: - info_log('I-03-01', f'月次I/Fファイルネーム設定ファイル読込　読込元：{CONFIG_BUCKET_NAME}/{RECEIVE_MONTHLY_FILE_NAME_LIST_PATH}') - receive_monthly_file_name_obj = s3_resource.Object(CONFIG_BUCKET_NAME, RECEIVE_MONTHLY_FILE_NAME_LIST_PATH) - receive_monthly_file_name_response = receive_monthly_file_name_obj.get() - info_log('I-03-02', '月次I/Fファイルネーム設定ファイルを読み込みました') - except Exception as e: - error_log('E-03-01', '月次I/Fファイルネーム設定ファイルの読み込みに失敗しました', e) - error_process('E-03-01', e) - - # ④ 月次チェック処理を行う - info_log('I-04-01', '月次チェック処理開始') - - # 1.オブジェクトリストを取得する - info_log('I-04-02', f'オブジェクトリストの取得　取得先：{CHECK_BUCKET_NAME}/{month}/') - object_prefix = f'{month}/' - object_list = s3_resource.Bucket(CHECK_BUCKET_NAME).objects.filter(Prefix=object_prefix) - - # 2.月次I/Fファイルチェック処理 - info_log('I-04-03', '月次I/Fファイルチェック処理開始') - info_log('I-04-04', '取得したオブジェクトリストと月次I/Fファイルネーム設定ファイルの突き合わせを開始します') - row_count = 0 - match_count = 0 - for i, row in io.TextIOWrapper(io.BytesIO(receive_monthly_file_name_response["Body"].read()), encoding='utf-8'): - row_count = i - file_exsit = False - for object in object_list: - object_key = object.key.rsplit('/', 1) - file_name = object_key[-1] - match_result = re.fullmatch(row[0], file_name) - if match_result is not None: - file_exsit = True - break - if file_exsit == True: - match_count += 1 - info_log('I-04-05', f'月次I/Fファイルの受領を確認しました　ファイル名：{file_name}') - else: - error_log('E-04-01', f'月次I/Fファイルに不足があります　ファイル名：{row}') - mail_msg = mail_msg + f'　　{row[1]}\n' - if row_count == match_count: - info_log('I-04-06', '月次I/Fファイルは全て受領していることを確認しました') - - # ⑤ メール通知本文に出力内容が存在するか確認する - info_log('I-05-01', 'メール送信処理開始') - - if len(mail_msg) > 0: - # 1.存在した場合 - info_log('I-05-02', f'{month} 月次I/Fファイルに不足があるため、メール送信処理を開始します') - - try: - info_log('I-05-03', f'通知メール（タイトル）テンプレートファイル読込　読込元：{CONFIG_BUCKET_NAME}/{NOTICE_MAIL_TITLE_TEMPLATE_PATH}') - mail_title_obj = s3_client.get_object(Bucket=CONFIG_BUCKET_NAME, Key=NOTICE_MAIL_TITLE_TEMPLATE_PATH) - mail_title = mail_title_obj['Body'].read().decode('utf-8') - info_log('I-05-04', '通知メール（タイトル）テンプレートファイルを読み込みました') - except Exception as e: - error_log('E-05-01', '通知メール（タイトル）テンプレートファイルの読み込みに失敗しました') - error_process('E-05-01', e) - - try: - info_log('I-05-05', f'通知メール（本文）テンプレートファイル読込　読込元：{CONFIG_BUCKET_NAME}/{NOTICE_MAIL_BODY_TEMPLATE_PATH}') - mail_body_obj = s3_client.get_object(Bucket=CONFIG_BUCKET_NAME, Key=NOTICE_MAIL_BODY_TEMPLATE_PATH) - mail_body_response = mail_body_obj['Body'].read().decode('utf-8') - mail_body = mail_body_response.replace(MAIL_BODY_REPLACE_SYMBOL, mail_msg) - info_log('I-05-06', '通知メール（本文）テンプレートファイルを読み込みました') - except Exception as e: - error_log('E-05-02', '通知メール（本文）テンプレートファイルの読み込みに失敗しました') - error_process('E-05-02', e) - - info_log('I-05-07', f'メール送信指示をします　送信先トピック：{MBJ_SAP_NOTICE_TOPIC}') - params = { - 'TopicArn': MBJ_SAP_NOTICE_TOPIC, - 'Subject': mail_title, - 'Message': mail_body - } - sns_client.publish(**params) - info_log('I-05-08', 'メール送信指示をしました') - else: - # 2.存在しない場合 - info_log('I-05-09', f'{month} 月次I/Fファイルに不足がなかったため、メール送信処理をスキップします') - - # ⑥ 処理終了ログを出力する - info_log('I-06-01', '処理終了　SAP_supデータ受領チェック処理（月次）') - except Exception as e: - error_log('E-99', f'想定外のエラーが発生しました　エラー内容：{e}') - error_process('E-99', e) - - -def info_log(log_id, msg): - try: - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Info {log_id} {msg}') - except Exception as e: - error_log('E-99', f'想定外のエラーが発生しました　エラー内容：{e}') - error_process('E-99', e) - - -def error_log(log_id, msg): - try: - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error {log_id} {msg}') - except Exception as e: - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-99 想定外のエラーが発生しました　エラー内容：{e}') - error_process('E-99', e) - - -def error_process(error_log_id, exception): - try: - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-01 エラー処理開始') - - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-02 処理異常通知の送信指示をしました　通知先トピック：{NDS_NOTICE_TOPIC}') - error_msg = f'{error_log_id} のエラーが発生しました。ご確認ください\n詳細：{exception}' - params = { - 'TopicArn': NDS_NOTICE_TOPIC, - 'Subject': NDS_NOTICE_TITLE, - 'Message': error_msg - } - sns_client.publish(**params) - - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-03 エラー終了　処理を中断します') - sys.exit() - except Exception as e: - print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-99 想定外のエラーが発生しました　エラー内容：{e}') - sys.exit() \ No newline at end of file diff --git a/lambda/mbj-newdwh2021-staging-lambda-sap-sup-receive-check-monthly.py b/lambda/mbj-newdwh2021-staging-lambda-sap-sup-receive-check-monthly.py new file mode 100644 index 00000000..6279c87a --- /dev/null +++ b/lambda/mbj-newdwh2021-staging-lambda-sap-sup-receive-check-monthly.py @@ -0,0 +1,191 @@ +import os +import datetime +import boto3 +import io +import re +import sys +import csv + +# 環境変数 +CHECK_BUCKET_NAME = os.environ["CHECK_BUCKET_NAME"] +CONFIG_BUCKET_NAME = os.environ["CONFIG_BUCKET_NAME"] +RECEIVE_MONTHLY_FILE_NAME_LIST_PATH = os.environ["RECEIVE_MONTHLY_FILE_NAME_LIST_PATH"] +MONTHLY_CEHCK_DAY_LIST_PATH = os.environ["MONTHLY_CEHCK_DAY_LIST_PATH"] +NOTICE_MAIL_TITLE_TEMPLATE_PATH = os.environ["NOTICE_MAIL_TITLE_TEMPLATE_PATH"] +NOTICE_MAIL_BODY_TEMPLATE_PATH = os.environ["NOTICE_MAIL_BODY_TEMPLATE_PATH"] +MBJ_SAP_NOTICE_TOPIC = os.environ["MBJ_SAP_NOTICE_TOPIC"] +MAIL_BODY_REPLACE_SYMBOL = os.environ["MAIL_BODY_REPLACE_SYMBOL"] +NDS_NOTICE_TOPIC = os.environ["NDS_NOTICE_TOPIC"] +NDS_NOTICE_TITLE = os.environ["NDS_NOTICE_TITLE"] + +# 定数 +ROW_COMMENT_SYMBOL = '#' +LOG_INFO = 'Info' +LOG_ERROR = 'Error' +INDEX_REGEX = 0 +INDEX_DATA_NAME = 1 +INDEX_ROW_COMMENT_SYMBOL = 0 +INDEX_SPLIT_NUM = 0 +INDEX_LAST = -1 + +# 変数 +s3_client = boto3.client('s3') +s3_resource = boto3.resource('s3') +sns_client = boto3.client('sns') + + +def lambda_handler(event, context): + try: + # ① 処理開始ログを出力する + print_log('I-01-01', '処理開始　SAP_supデータ受領チェック処理（月次）') + datetoday = datetime.date.today() + today = datetoday.strftime('%Y/%m/%d') + month = f'{datetoday.strftime("%Y")}/{datetoday.strftime("%m")}' + print_log(LOG_INFO, 'I-01-02', f'処理稼働日：{today}') + mail_msg = '' + + # ② チェック処理実施指定日か確認を行う + print_log(LOG_INFO, 'I-02-01', 'チェック処理実施指定日確認処理開始') + + # 1.設定ファイル[チェック処理実施指定日ファイル]を読み込む + try: + print_log(LOG_INFO, 'I-02-02', f'チェック処理実施指定日ファイル読込　読込元：{CONFIG_BUCKET_NAME}/{MONTHLY_CEHCK_DAY_LIST_PATH}') + monthly_day_obj = s3_resource.Object(CONFIG_BUCKET_NAME, MONTHLY_CEHCK_DAY_LIST_PATH) + monthly_day_response = monthly_day_obj.get() + print_log(LOG_INFO, 'I-02-03', 'チェック処理実施指定日ファイルを読み込みました') + except Exception as e: + print_log(LOG_ERROR, 'E-02-01', 'チェック処理実施指定日設定ファイルの読み込みに失敗しました') + error_process('E-02-01', e) + + # 2.処理稼働日が「②１．」で読み込んだ「チェック処理実施指定日ファイル」に存在するか確認する + try: + print_log(LOG_INFO, 'I-02-04', f'本日がチェック処理実施指定日か確認します　確認日：{today}') + check_date_list = [] + for i, row in enumerate(io.TextIOWrapper(io.BytesIO(monthly_day_response["Body"].read()), encoding='utf-8'), 1): + if row[INDEX_ROW_COMMENT_SYMBOL] == ROW_COMMENT_SYMBOL: + continue + check_date = datetime.datetime.strptime(row, "%Y/%m/%d").strftime('%Y/%m/%d') + check_date_list.append(check_date) + if today in check_date_list: + print_log(LOG_INFO, 'I-02-05', '本日はチェック処理実施指定日のため、チェック処理を実施します') + else: + print_log(LOG_INFO, 'I-02-06', '本日はチェック処理実施指定日ではないため、チェック処理をスキップします') + sys.exit() + except Exception as e: + print_log(LOG_ERROR, 'E-02-02', f'チェック処理実施指定日設定ファイルに不備があります　行数：{i}') + error_process('E-02-02', e) + + # ③ 設定ファイル[SAP_supI/Fファイルネーム設定ファイル（月次）]を読み込む + try: + print_log(LOG_INFO, 'I-03-01', f'月次I/Fファイルネーム設定ファイル読込　読込元：{CONFIG_BUCKET_NAME}/{RECEIVE_MONTHLY_FILE_NAME_LIST_PATH}') + receive_monthly_file_name_obj = s3_resource.Object(CONFIG_BUCKET_NAME, RECEIVE_MONTHLY_FILE_NAME_LIST_PATH) + receive_monthly_file_name_response = receive_monthly_file_name_obj.get() + print_log(LOG_INFO, 'I-03-02', '月次I/Fファイルネーム設定ファイルを読み込みました') + except Exception as e: + print_log(LOG_ERROR, 'E-03-01', '月次I/Fファイルネーム設定ファイルの読み込みに失敗しました', e) + error_process('E-03-01', e) + + # ④ 月次チェック処理を行う + print_log(LOG_INFO, 'I-04-01', '月次チェック処理開始') + + # 1.SAP保管用バケットの処理稼働月に該当するサブフォルダにあるファイル一覧を取得する + print_log(LOG_INFO, 'I-04-02', f'オブジェクトリストの取得　取得先：{CHECK_BUCKET_NAME}/{month}/') + object_prefix = f'{month}/' + object_list = s3_resource.Bucket(CHECK_BUCKET_NAME).objects.filter(Prefix=object_prefix) + + # 2.月次I/Fファイルチェック処理 + print_log(LOG_INFO, 'I-04-03', '月次I/Fファイルチェック処理開始') + print_log(LOG_INFO, 'I-04-04', '取得したオブジェクトリストと月次I/Fファイルネーム設定ファイルの突き合わせを開始します') + row_count = 0 + match_count = 0 + receive_monthly_file_name_body = io.TextIOWrapper(io.BytesIO(receive_monthly_file_name_response["Body"].read()), encoding='utf-8'): + for i, row in enumerate(csv.reader(receive_monthly_file_name_body, delimiter='\t'), 1): + row_count = i + file_exists = False + for object in object_list: + object_key = object.key.rsplit('/', INDEX_SPLIT_NUM) + file_name = object_key[INDEX_LAST] + match_result = re.fullmatch(row[INDEX_REGEX], file_name) + if match_result is not None: + file_exists = True + break + if file_exists == True: + match_count += 1 + print_log(LOG_INFO, 'I-04-05', f'月次I/Fファイルの受領を確認しました　ファイル名：{file_name}') + else: + print_log(LOG_ERROR, 'E-04-01', f'月次I/Fファイルに不足があります　ファイル名：{row[INDEX_DATA_NAME]}') + mail_msg = f'{mail_msg}　　{row[INDEX_DATA_NAME]}\n' + if row_count == match_count: + print_log(LOG_INFO, 'I-04-06', '月次I/Fファイルは全て受領していることを確認しました') + + # ⑤ メール通知本文に出力内容が存在するか確認する + print_log(LOG_INFO, 'I-05-01', 'メール送信処理開始') + + if len(mail_msg) > 0: + # 1.存在した場合 + print_log(LOG_INFO, 'I-05-02', f'{month} 月次I/Fファイルに不足があるため、メール送信処理を開始します') + + try: + print_log(LOG_INFO, 'I-05-03', f'通知メール（タイトル）テンプレートファイル読込　読込元：{CONFIG_BUCKET_NAME}/{NOTICE_MAIL_TITLE_TEMPLATE_PATH}') + mail_title_obj = s3_client.get_object(Bucket=CONFIG_BUCKET_NAME, Key=NOTICE_MAIL_TITLE_TEMPLATE_PATH) + mail_title = mail_title_obj['Body'].read().decode('utf-8') + print_log(LOG_INFO, 'I-05-04', '通知メール（タイトル）テンプレートファイルを読み込みました') + except Exception as e: + print_log(LOG_ERROR, 'E-05-01', '通知メール（タイトル）テンプレートファイルの読み込みに失敗しました') + error_process('E-05-01', e) + + try: + print_log(LOG_INFO, 'I-05-05', f'通知メール（本文）テンプレートファイル読込　読込元：{CONFIG_BUCKET_NAME}/{NOTICE_MAIL_BODY_TEMPLATE_PATH}') + mail_body_obj = s3_client.get_object(Bucket=CONFIG_BUCKET_NAME, Key=NOTICE_MAIL_BODY_TEMPLATE_PATH) + mail_body_response = mail_body_obj['Body'].read().decode('utf-8') + mail_body = mail_body_response.replace(MAIL_BODY_REPLACE_SYMBOL, mail_msg) + print_log(LOG_INFO, 'I-05-06', '通知メール（本文）テンプレートファイルを読み込みました') + except Exception as e: + print_log(LOG_ERROR, 'E-05-02', '通知メール（本文）テンプレートファイルの読み込みに失敗しました') + error_process('E-05-02', e) + + print_log(LOG_INFO, 'I-05-07', f'メール送信指示をします　送信先トピック：{MBJ_SAP_NOTICE_TOPIC}') + params = { + 'TopicArn': MBJ_SAP_NOTICE_TOPIC, + 'Subject': mail_title, + 'Message': mail_body + } + sns_client.publish(**params) + print_log(LOG_INFO, 'I-05-08', 'メール送信指示をしました') + else: + # 2.存在しない場合 + print_log(LOG_INFO, 'I-05-09', f'{month} 月次I/Fファイルに不足がなかったため、メール送信処理をスキップします') + + # ⑥ 処理終了ログを出力する + print_log(LOG_INFO, 'I-06-01', '処理終了　SAP_supデータ受領チェック処理（月次）') + except Exception as e: + print_log(LOG_ERROR, 'E-99', f'想定外のエラーが発生しました　エラー内容：{e}') + error_process('E-99', e) + + +def print_log(log_level, log_id, msg): + try: + print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} {log_level} {log_id} {msg}') + except Exception as e: + print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-99 想定外のエラーが発生しました　エラー内容：{e}') + error_process('E-99', e) + + +def error_process(error_log_id, exception): + try: + print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-01 エラー処理開始') + + print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-02 処理異常通知の送信指示をしました　通知先トピック：{NDS_NOTICE_TOPIC}') + error_msg = f'{error_log_id} のエラーが発生しました。ご確認ください\n詳細：{exception}' + params = { + 'TopicArn': NDS_NOTICE_TOPIC, + 'Subject': NDS_NOTICE_TITLE, + 'Message': error_msg + } + sns_client.publish(**params) + + print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-03 エラー終了　処理を中断します') + sys.exit() + except Exception as e: + print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-99 想定外のエラーが発生しました　エラー内容：{e}') + sys.exit() \ No newline at end of file