포스트

Airflow Retry 설정

게시
By Juho
3 분읽는 시간

목차

  1. Celery Airflow Retry

Celery Airflow Retry

airflow는 DAG을 실행하는 과정에서 실패 했을 때 재시도 설정하는 것은 어렵지 않다.

1) 재시도

1
2
3
4
5
6
7
8
9
10

default_args = {'owner' : 'me',
                'retries' : 5,
                'retry_delay' : timedelta(minutes=5)}

with DAG(dag_id='dag_id',
       default_args=default_args
       schedule_interval="0 0 * * *",
       start_date=datetime(2025, 1, 1),
       tags=['test'],
       catchup=False) as dag:

DAG 정의 부분에 위와 같이 작성하면 된다.
위의 코드는 재시도를 5번 하고, 재시도 사이에 5분 간격을 두고 재시도 설정한 내용이다.

2) 일정 시간 이후 강제 종료되기

1
2
3
4
5
6
7
8
9
10
11

default_args = {'owner' : 'me',
                'retries' : 5,
                'retry_delay' : timedelta(minutes=5),
                'execution_timeout' : timedelta(hours=1)}

with DAG(dag_id='dag_id',
       default_args=default_args
       schedule_interval="0 0 * * *",
       start_date=datetime(2025, 1, 1),
       tags=['test'],
       catchup=False) as dag:

execution_timeout 옵션을 추가하면 재시도를 5번 하는 도중이라도 1시간 이후 강제 종료된다.

3) 이전 DAG이 실패했을 때 다음 DAG 실행 여부 설정하기

1
2
3
4
5
6
7
8
9
10
11
12

default_args = {'owner' : 'me',
                'retries' : 5,
                'retry_delay' : timedelta(minutes=5),
                'execution_timeout' : timedelta(hours=1),
                'depends_on_past' : True}

with DAG(dag_id='dag_id',
       default_args=default_args
       schedule_interval="0 0 * * *",
       start_date=datetime(2025, 1, 1),
       tags=['test'],
       catchup=False) as dag:

depends_on_past 옵션 True로 추가하면 이전 DAG이 실패했을 때 다음 DAG이 실행되지 않는다.
기본값은 False로 이전 DAG이 실패해도 다음에 실행된다.

4) DAG이 재시도하거나 실패했을때 이메일 받는 방법

1
2
3
4
5
6
7
8
9
10
11
12
13
14

default_args = {'owner' : 'me',
                'retries' : 5,
                'retry_delay' : timedelta(minutes=5),
                'execution_timeout' : timedelta(hours=1),
                'depends_on_past' : True,
                'email_on_failure' : True,
                'email_on_retry' : True}

with DAG(dag_id='dag_id',
       default_args=default_args
       schedule_interval="0 0 * * *",
       start_date=datetime(2025, 1, 1),
       tags=['test'],
       catchup=False) as dag:

email_on_failure 옵션 True로 추가하면 DAG이 실패했을 때 이메일을 받는다.
email_on_retry 옵션 True로 추가하면 DAG이 재시도 할 때 이메일을 받는다.
해당 이메일은 airflow.cfg 파일에서 설정한 이메일로 발송된다.


다음 글로는 airflow Variables 관련해서 작성하겠습니다.

Airflow
Airflow Python