본문 바로가기 메뉴 바로가기

낭뎁

프로필사진
  • 글쓰기
  • 관리
  • 태그
  • 방명록
  • RSS

낭뎁

검색하기 폼
  • 분류 전체보기 (13)
    • 회고 (2)
    • GCP (2)
    • Java (2)
    • Python (4)
    • k8s (3)
  • 방명록

Xcom (1)
[Airflow] 이전 Dag에서 저장한 XCom 가져오기

Airflow를 사용할때 XCom으로 task간 데이터를 주고받을때 사용할때가 많은데, task간 뿐만 아니라 이전 Dag Run에서 push한 데이터도 가져올 수 있다. Airflow에서 push한 XCom은 UI에서 바로 확인이 가능하다.(Admin > XComs) UI에서 확인한 것처럼 value와 함께 저장되는 다른 메타데이터들이 있는데 이 값들을 활용하면 이전 dag에서 push한 xcom value도 가져올 수 있다. 이전 Dag에서 XCom 가져오기(Airlfow 2.4) 나는 XCom.get_one() 함수를 사용하였고, 여러 값을 가져오려면 XCom.get_many()를 사용할 수 있다. 함수에 executioin_date, dag_id, task_id를 넘겨주어서 기준에 맞는 XCom을..

Python 2023. 8. 8. 22:46
이전 1 다음
TAG
  • 회고
  • Java
  • BigQuery
  • 퇴사
  • Xcom
  • GCS
  • kakfa
  • 주니어개발자
  • K8S
  • Helm
  • GCP
  • Airflow
  • GitHub
  • bq cli
  • Kubernetes
more
최근에 올라온 글
링크
  • LinkedIn Profile

Blog is powered by Tistory / Designed by Tistory

티스토리툴바

단축키

내 블로그

내 블로그 - 관리자 홈 전환
Q
Q
새 글 쓰기
W
W

블로그 게시글

글 수정 (권한 있는 경우)
E
E
댓글 영역으로 이동
C
C

모든 영역

이 페이지의 URL 복사
S
S
맨 위로 이동
T
T
티스토리 홈 이동
H
H
단축키 안내
Shift + /
⇧ + /

* 단축키는 한글/영문 대소문자로 이용 가능하며, 티스토리 기본 도메인에서만 동작합니다.