Custom Operator에서 Jinja template 값 치환 실패시 해결방법 포스팅을 통해 Jinja template을 airflow에서 사용해 보았다.
dag_run에 해당 설정 값이 없을때 기본값을 지정하고 싶으면 아래와 같이 하면 된다.
task = SparkBashOperator(
task_id="kudu_syc",
driver_cores="{{ dag_run.conf['driver_cores']|default('1', true)}}",
driver_memory="{{ dag_run.conf['driver_memory']|default('1g', true)}}",
executor_cores="{{ dag_run.conf['executor_cores']|default('1', true)}}",
num_executors="{{ dag_run.conf['num_executors']|default('1', true)}}",
executor_memory="{{ dag_run.conf['executor_memory']|default('1g', true)}}",
...
default 이후의 boolean 값은 blank 일때도 기본값을 사용할지(true), 말지(false)를 지정하는 값이다.(기본값은 false다)
'OpenSource > Airflow' 카테고리의 다른 글
[Airflow] Trouble Shooting (0) | 2021.04.22 |
---|---|
[Airflow] schedule_interval을 한국시간으로 설정하기 (0) | 2020.03.26 |
[Airflow] Custom Operator에서 Jinja template 값 치환 실패시 해결방법 (0) | 2020.03.19 |
[Airflow] dag 실행시 arguments를 전달하여 실행하는 방법 (0) | 2020.03.19 |
[Airflow] Multi Server Cluster 환경에서 dag 파일은 모든 서버에 배포해야할까? (0) | 2020.02.24 |