do-release-upgrade有自動幫忙開screen (前提是主機上就要先裝上screen,如果沒裝可能就錯賽了)
在使用
sudo screen -D -r
就能回到之前中斷狀態
以torch的DDP(distributed data parallel)作為基底考慮: 1. 進行torchrun的時候僅需指定master node IP 2. 掛載資料區時建議以rank0的機器做下載,其他機器都Share同一個資料夾,所以需要透過iSCSI或是NFS進行 ...
沒有留言:
張貼留言