191 lines
11 KiB
Python
191 lines
11 KiB
Python
import os
|
||
import datetime
|
||
import boto3
|
||
import io
|
||
import re
|
||
import sys
|
||
import csv
|
||
|
||
# 環境変数
|
||
CHECK_BUCKET_NAME = os.environ["CHECK_BUCKET_NAME"]
|
||
CONFIG_BUCKET_NAME = os.environ["CONFIG_BUCKET_NAME"]
|
||
RECEIVE_MONTHLY_FILE_NAME_LIST_PATH = os.environ["RECEIVE_MONTHLY_FILE_NAME_LIST_PATH"]
|
||
MONTHLY_CEHCK_DAY_LIST_PATH = os.environ["MONTHLY_CEHCK_DAY_LIST_PATH"]
|
||
NOTICE_MAIL_TITLE_TEMPLATE_PATH = os.environ["NOTICE_MAIL_TITLE_TEMPLATE_PATH"]
|
||
NOTICE_MAIL_BODY_TEMPLATE_PATH = os.environ["NOTICE_MAIL_BODY_TEMPLATE_PATH"]
|
||
MBJ_SAP_NOTICE_TOPIC = os.environ["MBJ_SAP_NOTICE_TOPIC"]
|
||
MAIL_BODY_REPLACE_SYMBOL = os.environ["MAIL_BODY_REPLACE_SYMBOL"]
|
||
NDS_NOTICE_TOPIC = os.environ["NDS_NOTICE_TOPIC"]
|
||
NDS_NOTICE_TITLE = os.environ["NDS_NOTICE_TITLE"]
|
||
|
||
# 定数
|
||
ROW_COMMENT_SYMBOL = '#'
|
||
LOG_INFO = 'Info'
|
||
LOG_ERROR = 'Error'
|
||
INDEX_REGEX = 0
|
||
INDEX_DATA_NAME = 1
|
||
INDEX_ROW_COMMENT_SYMBOL = 0
|
||
INDEX_SPLIT_NUM = 0
|
||
INDEX_LAST = -1
|
||
|
||
# 変数
|
||
s3_client = boto3.client('s3')
|
||
s3_resource = boto3.resource('s3')
|
||
sns_client = boto3.client('sns')
|
||
|
||
|
||
def lambda_handler(event, context):
|
||
try:
|
||
# ① 処理開始ログを出力する
|
||
print_log('I-01-01', '処理開始 SAP_supデータ受領チェック処理（月次）')
|
||
datetoday = datetime.date.today()
|
||
today = datetoday.strftime('%Y/%m/%d')
|
||
month = f'{datetoday.strftime("%Y")}/{datetoday.strftime("%m")}'
|
||
print_log(LOG_INFO, 'I-01-02', f'処理稼働日：{today}')
|
||
mail_msg = ''
|
||
|
||
# ② チェック処理実施指定日か確認を行う
|
||
print_log(LOG_INFO, 'I-02-01', 'チェック処理実施指定日確認処理開始')
|
||
|
||
# 1.設定ファイル[チェック処理実施指定日ファイル]を読み込む
|
||
try:
|
||
print_log(LOG_INFO, 'I-02-02', f'チェック処理実施指定日ファイル読込 読込元：{CONFIG_BUCKET_NAME}/{MONTHLY_CEHCK_DAY_LIST_PATH}')
|
||
monthly_day_obj = s3_resource.Object(CONFIG_BUCKET_NAME, MONTHLY_CEHCK_DAY_LIST_PATH)
|
||
monthly_day_response = monthly_day_obj.get()
|
||
print_log(LOG_INFO, 'I-02-03', 'チェック処理実施指定日ファイルを読み込みました')
|
||
except Exception as e:
|
||
print_log(LOG_ERROR, 'E-02-01', 'チェック処理実施指定日設定ファイルの読み込みに失敗しました')
|
||
error_process('E-02-01', e)
|
||
|
||
# 2.処理稼働日が「②１．」で読み込んだ「チェック処理実施指定日ファイル」に存在するか確認する
|
||
try:
|
||
print_log(LOG_INFO, 'I-02-04', f'本日がチェック処理実施指定日か確認します 確認日：{today}')
|
||
check_date_list = []
|
||
for i, row in enumerate(io.TextIOWrapper(io.BytesIO(monthly_day_response["Body"].read()), encoding='utf-8'), 1):
|
||
if row[INDEX_ROW_COMMENT_SYMBOL] == ROW_COMMENT_SYMBOL:
|
||
continue
|
||
check_date = datetime.datetime.strptime(row, "%Y/%m/%d").strftime('%Y/%m/%d')
|
||
check_date_list.append(check_date)
|
||
if today in check_date_list:
|
||
print_log(LOG_INFO, 'I-02-05', '本日はチェック処理実施指定日のため、チェック処理を実施します')
|
||
else:
|
||
print_log(LOG_INFO, 'I-02-06', '本日はチェック処理実施指定日ではないため、チェック処理をスキップします')
|
||
sys.exit()
|
||
except Exception as e:
|
||
print_log(LOG_ERROR, 'E-02-02', f'チェック処理実施指定日設定ファイルに不備があります 行数：{i}')
|
||
error_process('E-02-02', e)
|
||
|
||
# ③ 設定ファイル[SAP_supI/Fファイルネーム設定ファイル（月次）]を読み込む
|
||
try:
|
||
print_log(LOG_INFO, 'I-03-01', f'月次I/Fファイルネーム設定ファイル読込 読込元：{CONFIG_BUCKET_NAME}/{RECEIVE_MONTHLY_FILE_NAME_LIST_PATH}')
|
||
receive_monthly_file_name_obj = s3_resource.Object(CONFIG_BUCKET_NAME, RECEIVE_MONTHLY_FILE_NAME_LIST_PATH)
|
||
receive_monthly_file_name_response = receive_monthly_file_name_obj.get()
|
||
print_log(LOG_INFO, 'I-03-02', '月次I/Fファイルネーム設定ファイルを読み込みました')
|
||
except Exception as e:
|
||
print_log(LOG_ERROR, 'E-03-01', '月次I/Fファイルネーム設定ファイルの読み込みに失敗しました', e)
|
||
error_process('E-03-01', e)
|
||
|
||
# ④ 月次チェック処理を行う
|
||
print_log(LOG_INFO, 'I-04-01', '月次チェック処理開始')
|
||
|
||
# 1.SAP保管用バケットの処理稼働月に該当するサブフォルダにあるファイル一覧を取得する
|
||
print_log(LOG_INFO, 'I-04-02', f'オブジェクトリストの取得 取得先：{CHECK_BUCKET_NAME}/{month}/')
|
||
object_prefix = f'{month}/'
|
||
object_list = s3_resource.Bucket(CHECK_BUCKET_NAME).objects.filter(Prefix=object_prefix)
|
||
|
||
# 2.月次I/Fファイルチェック処理
|
||
print_log(LOG_INFO, 'I-04-03', '月次I/Fファイルチェック処理開始')
|
||
print_log(LOG_INFO, 'I-04-04', '取得したオブジェクトリストと月次I/Fファイルネーム設定ファイルの突き合わせを開始します')
|
||
row_count = 0
|
||
match_count = 0
|
||
receive_monthly_file_name_body = io.TextIOWrapper(io.BytesIO(receive_monthly_file_name_response["Body"].read()), encoding='utf-8'):
|
||
for i, row in enumerate(csv.reader(receive_monthly_file_name_body, delimiter='\t'), 1):
|
||
row_count = i
|
||
file_exists = False
|
||
for object in object_list:
|
||
object_key = object.key.rsplit('/', INDEX_SPLIT_NUM)
|
||
file_name = object_key[INDEX_LAST]
|
||
match_result = re.fullmatch(row[INDEX_REGEX], file_name)
|
||
if match_result is not None:
|
||
file_exists = True
|
||
break
|
||
if file_exists == True:
|
||
match_count += 1
|
||
print_log(LOG_INFO, 'I-04-05', f'月次I/Fファイルの受領を確認しました ファイル名：{file_name}')
|
||
else:
|
||
print_log(LOG_ERROR, 'E-04-01', f'月次I/Fファイルに不足があります ファイル名：{row[INDEX_DATA_NAME]}')
|
||
mail_msg = f'{mail_msg} {row[INDEX_DATA_NAME]}\n'
|
||
if row_count == match_count:
|
||
print_log(LOG_INFO, 'I-04-06', '月次I/Fファイルは全て受領していることを確認しました')
|
||
|
||
# ⑤ メール通知本文に出力内容が存在するか確認する
|
||
print_log(LOG_INFO, 'I-05-01', 'メール送信処理開始')
|
||
|
||
if len(mail_msg) > 0:
|
||
# 1.存在した場合
|
||
print_log(LOG_INFO, 'I-05-02', f'{month} 月次I/Fファイルに不足があるため、メール送信処理を開始します')
|
||
|
||
try:
|
||
print_log(LOG_INFO, 'I-05-03', f'通知メール（タイトル）テンプレートファイル読込 読込元：{CONFIG_BUCKET_NAME}/{NOTICE_MAIL_TITLE_TEMPLATE_PATH}')
|
||
mail_title_obj = s3_client.get_object(Bucket=CONFIG_BUCKET_NAME, Key=NOTICE_MAIL_TITLE_TEMPLATE_PATH)
|
||
mail_title = mail_title_obj['Body'].read().decode('utf-8')
|
||
print_log(LOG_INFO, 'I-05-04', '通知メール（タイトル）テンプレートファイルを読み込みました')
|
||
except Exception as e:
|
||
print_log(LOG_ERROR, 'E-05-01', '通知メール（タイトル）テンプレートファイルの読み込みに失敗しました')
|
||
error_process('E-05-01', e)
|
||
|
||
try:
|
||
print_log(LOG_INFO, 'I-05-05', f'通知メール（本文）テンプレートファイル読込 読込元：{CONFIG_BUCKET_NAME}/{NOTICE_MAIL_BODY_TEMPLATE_PATH}')
|
||
mail_body_obj = s3_client.get_object(Bucket=CONFIG_BUCKET_NAME, Key=NOTICE_MAIL_BODY_TEMPLATE_PATH)
|
||
mail_body_response = mail_body_obj['Body'].read().decode('utf-8')
|
||
mail_body = mail_body_response.replace(MAIL_BODY_REPLACE_SYMBOL, mail_msg)
|
||
print_log(LOG_INFO, 'I-05-06', '通知メール（本文）テンプレートファイルを読み込みました')
|
||
except Exception as e:
|
||
print_log(LOG_ERROR, 'E-05-02', '通知メール（本文）テンプレートファイルの読み込みに失敗しました')
|
||
error_process('E-05-02', e)
|
||
|
||
print_log(LOG_INFO, 'I-05-07', f'メール送信指示をします 送信先トピック：{MBJ_SAP_NOTICE_TOPIC}')
|
||
params = {
|
||
'TopicArn': MBJ_SAP_NOTICE_TOPIC,
|
||
'Subject': mail_title,
|
||
'Message': mail_body
|
||
}
|
||
sns_client.publish(**params)
|
||
print_log(LOG_INFO, 'I-05-08', 'メール送信指示をしました')
|
||
else:
|
||
# 2.存在しない場合
|
||
print_log(LOG_INFO, 'I-05-09', f'{month} 月次I/Fファイルに不足がなかったため、メール送信処理をスキップします')
|
||
|
||
# ⑥ 処理終了ログを出力する
|
||
print_log(LOG_INFO, 'I-06-01', '処理終了 SAP_supデータ受領チェック処理（月次）')
|
||
except Exception as e:
|
||
print_log(LOG_ERROR, 'E-99', f'想定外のエラーが発生しました エラー内容：{e}')
|
||
error_process('E-99', e)
|
||
|
||
|
||
def print_log(log_level, log_id, msg):
|
||
try:
|
||
print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} {log_level} {log_id} {msg}')
|
||
except Exception as e:
|
||
print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-99 想定外のエラーが発生しました エラー内容：{e}')
|
||
error_process('E-99', e)
|
||
|
||
|
||
def error_process(error_log_id, exception):
|
||
try:
|
||
print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-01 エラー処理開始')
|
||
|
||
print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-02 処理異常通知の送信指示をしました 通知先トピック：{NDS_NOTICE_TOPIC}')
|
||
error_msg = f'{error_log_id} のエラーが発生しました。ご確認ください\n詳細：{exception}'
|
||
params = {
|
||
'TopicArn': NDS_NOTICE_TOPIC,
|
||
'Subject': NDS_NOTICE_TITLE,
|
||
'Message': error_msg
|
||
}
|
||
sns_client.publish(**params)
|
||
|
||
print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-ERR-03 エラー終了 処理を中断します')
|
||
sys.exit()
|
||
except Exception as e:
|
||
print(f'{datetime.datetime.now():%Y-%m-%d %H:%M:%S} Error E-99 想定外のエラーが発生しました エラー内容：{e}')
|
||
sys.exit() |