Python 병렬 프로그래밍 - (3) joblib
목차 joblib이란? backend 옵션 1) loky 2) threading 3) multiprocessing 4) dask 5) ray joblib이란? joblib은 python에서 데이터 처리 및 모델 저장과 로드를 위해 주로 사용되는 라이브러리로 대...
목차 joblib이란? backend 옵션 1) loky 2) threading 3) multiprocessing 4) dask 5) ray joblib이란? joblib은 python에서 데이터 처리 및 모델 저장과 로드를 위해 주로 사용되는 라이브러리로 대...
목차 process란? process 장,단점 1) 장점 2) 단점 process 상태 정의 multiprocessing 모듈 사용하는 방법 ProcessPoolExecutor 사용하는 방법 process란? 프로세스는 실행 중인 프로그램의 인스턴스로, 운영 체제에서 프로그램이 실...
목차 thread란? thread 장,단점 1) 장점 2) 단점 thread 종류 1) 커널 수준 Thread(Kernel-Level Thread) 2) 사용자 수준 Thread(User-Level Thtread) 3) Hybrid Thread ...
목차 Celery Configuration 1) enable_utc 2) timezone 3) broker_connection_retry_on_startup 4) task_time_limit 5) task_soft_time_limit 6) result_backend ...
목차 Celery Multiple Worker Celery Multiple Queue Celery Multiple Worker 다수의 Worker를 사용하려면 이전에 /etc/systemd/system/celery.service를 만들었는데 해당 파일을 수정해야 한다. /etc/systemd/system/celery-default.se...
목차 Celery 재시도 Celery 재시도 from celery.exceptions import MaxRetriesExceededError, WorkerShutdown, WorkerLostError @celery.task(bind=True, max_retries=5, acks_late=True) def some_task(self, pa...
목차 Polars 오류 발생 Polars 오류 원인 Polars 오류 해결방법 Polars 오류 발생 PostgreSQL에서 데이터를 받아와 pl.DataFrame()을 이용해서 DataFrame을 만들고 특정 작업을 할때 오류가 발생했다. 오류 내용은 아래와 같았다. could not append value: "col" of ty...
목차 RabbitMQ 오류 발생 Case1 RabbitMQ 오류 발생 Case2 RabbitMQ 오류 발생 Case1 첫번째 오류는 precondition_failed - delivery acknowledgement on channel 1 timed out였다. 해당 문제가 발생하는 이유는 RabbitMQ Server가 Producer...