How can I use wandb with multiprocessing, e.g. distributed training?

만약 트레이닝 프로그램이 여러 프로세스를 사용하는 경우, wandb.init() 없이 프로세스에서 wandb 메소드 호출을 하지 않도록 프로그램을 구성하세요.

다음과 같은 방법으로 멀티프로세스 트레이닝을 관리합니다:

  1. 모든 프로세스에서 wandb.init을 호출하고 group 키워드 인수를 사용하여 공유 그룹을 생성합니다. 각 프로세스는 자체 wandb run을 가지며, UI는 트레이닝 프로세스를 함께 그룹화합니다.
  2. 하나의 프로세스에서만 wandb.init을 호출하고 multiprocessing queues 를 통해 로그할 데이터를 전달합니다.