iscsi 連線問題筆記

如果要進行umount但是出現target buzy

sudo fuser -km 掛載點

sudo umount 掛載點

iSCSI重啟

sudo open-iscsi restart 

掛載lun

iscsiadm -m discovery -t sendtargets -p 目標IP

iscsiadm -m node -p 目標IP --login

如果出現類似以下訊息表示成功掛載:

Logging in to [iface: default, target: iqn.2000-01.com.synology:XXXXXXXXXXX.Target-1.05350d6cc87, portal: 192.168.72.19,3260]

Login to [iface: default, target: iqn.2000-01.com.synology:XXXXXXXXXXX.Target-1.05350d6cc87, portal: 192.168.72.19,3260] successful.

可以用fdisk -l看看，不過經驗上是能夠辨識出是哪一顆，只能透過容量大小推測。如果同時掛很多台容量一樣的就麻煩了。

refs:

https://osiutino.wordpress.com/2013/11/10/iscsi-%E8%A8%AD%E5%AE%9A%E7%AD%86%E8%A8%98-2-ubuntu-%E4%B8%8A%E4%BD%BF%E7%94%A8-initiator-%E9%80%A3%E6%8E%A5-iscsi-target/

DGX H200 在cuda container中出現cuInit error

 通常出現cuda initial error就只要把driver更新就可以了。但是DGX 系列在後續為了加強節點與節點之間的傳輸速度，出廠就直接安裝了NV-Switch。

之前不知道發生甚麼問題，一直出現cuIntial error，查了很久才發現是因為NV-switch功能被disable。因此只要下達以下指令就可以了

sudo systemctl start nvidia-fabricmanager  #把nv-switch打開

sudo systemctl enable nvidia-fabricmanager  #開機階段就預設打開

Ref:

https://docs.nvidia.com/datacenter/tesla/pdf/fabric-manager-user-guide.pdf

在github的repo中使用hugging face dataset repo做dataset 管理

 dataset的版本使用lfs進行版本管理是比較方便的方式，但是github的lfs空間只有給1G，如果有不同的資料版本出現，很快github的lfs空間就滿了。

這邊要進行在github的repo中(當然也能置換成其他的git repo，例如gitea或是gitlab)，把git lfs的位置轉換到hugging face dataset repo上，進行異地管理。

首先要確定:

1. 已經安裝好git
2. 已經安裝好git lfs
3. 把hugging face dataset 以及github repo都開好了

Process

Step1. Clone git repo

git clone git@github.com:markliou/xxx.git

Step 2. 在該repo底下創建資料夾(這邊範例名稱是cosmic_v101)，並且把檔案放進去

mkdir cosmic_v101

Step 3. 設定LFS的位置，這邊假設是指定到 markliou/COSMIC_v101

git config -f .lfsconfig lfs.url git@hf.co:datasets/markliou/COSMIC_v101

確定看看設定狀況

git lfs env

Endpoint=https://hf.co/datasets/markliou/COSMIC_v101 (auth=none)

  SSH=git@hf.co:datasets/markliou/COSMIC_v101

Step 4. 設定lfs tracking

git lfs track 'cosmic_v101/*' 

Step 5. 將檔案還有.lfsconfig和.gitattributes推上去

git add .
git commit -m "xx"
git push

可以使用 git lfs ls-files看看資料夾裡面的檔案有沒有被追蹤到

Step 6. 檢查檔案有沒有上到hugging face。

首先到hugging face網頁上，找到setting的選項。這邊的舉例就是到 https://huggingface.co/datasets/markliou/COSMIC_v101/settings

接下來會看到 "List FPS files"，點進去就應該可以看到檔案的hash。

後續只要對github的repo進行clone，就能把檔案一併抓下來。

Ref:

https://help.sonatype.com/en/git-lfs-repositories.html

https://github.com/git-lfs/git-lfs/wiki/Tutorial

https://huggingface.co/docs/hub/datasets-adding

https://huggingface.co/docs/hub/repositories-getting-started