ติดตั้ง NVIDIA AI Workbench บน MSI WS300 (GB300) แบบ DGX Spark

ติดตั้งได้ไหม?

✅

ติดตั้งได้ — แนะนำให้ใช้แบบ Remote Location

AI Workbench รองรับ Ubuntu 22.04 / 24.04 / 26.04 และ NVIDIA ใช้งานบน DGX Spark (Grace Arm64 + DGX OS) อย่างเป็นทางการผ่าน Playbook — WS300 ใช้ Grace Arm64 + DGX OS 7 (Ubuntu 24.04) ซึ่งเป็นแพลตฟอร์มตระกูลเดียวกัน และ NVIDIA Sync ระบุรองรับ DGX Station โดยตรง

Requirement (AI Workbench)	WS300 (GB300)	สถานะ
Ubuntu 22.04 / 24.04 / 26.04	DGX OS 7 = Ubuntu 24.04 LTS	ผ่าน
Non-root user ที่มีสิทธิ์ `sudo`	บัญชีที่สร้างตอน First Boot	ผ่าน
SSH แบบ Key-based (Remote)	OpenSSH Server บน DGX OS	ตั้งค่าเพิ่ม
Container runtime (Docker / Podman)	Docker + NVIDIA Container Toolkit มากับ DGX OS	ผ่าน
NVIDIA GPU Driver	R580 Open (จัดการโดย DGX OS)	ผ่าน
พื้นที่ดิสก์ 500 MB (app) + 40 GB (containers)	OS RAID 1 · 2 TB	ผ่าน
CPU Architecture	Arm64 (aarch64) — เหมือน DGX Spark	เลือก container ที่รองรับ Arm64

สิ่งที่ควรรู้ก่อนเริ่ม

เอกสาร AI Workbench ยังไม่ได้ระบุชื่อ DGX Station GB300 ไว้ในรายการโดยตรง — การรองรับอ้างอิงจาก OS และสถาปัตยกรรม Arm64 ที่ใช้ร่วมกับ DGX Spark · Taknet แนะนำให้ทดสอบด้วยโปรเจกต์ตัวอย่างก่อนนำไปใช้กับงานจริง
โปรเจกต์ตัวอย่างบางตัวใช้ base image ที่มีเฉพาะ x86_64 — ต้องเลือก image แบบ multi-arch / Arm64 (ดู Arm64 Tips)
พอร์ต Mini-DP บนเครื่องรองรับเพียง 1024×768 — จึงแนะนำให้ใช้ Desktop App บนโน้ตบุ๊ก/PC แล้วเชื่อม WS300 เป็น Remote Location

AI Workbench คืออะไร

แพลตฟอร์มฟรีจาก NVIDIA สำหรับสร้าง/รันโปรเจกต์ AI ใน container — จัดการ Git, environment, secrets และเปิด JupyterLab / VS Code / Gradio app ให้ด้วยคลิกเดียว ใช้ UI เดียวกันไม่ว่างานจะรันบนเครื่องตัวเองหรือเครื่องระยะไกล

Desktop App

GUI

Windows · macOS · Ubuntu

CLI

nvwb

ความสามารถเท่ากับ GUI

Projects

Containers

Reproducible + Git

Cost

Free

ไม่มีค่า license

Architecture บน WS300

เลือกรูปแบบการใช้งาน

รูปแบบ	ติดตั้งที่ไหน	เหมาะกับ	คำแนะนำ
A · Remote Location	Desktop App บนโน้ตบุ๊ก + Workbench service บน WS300	ทีม Dev หลายคน, ใช้งานแบบเดียวกับ DGX Spark	แนะนำ
B · NVIDIA Sync + Workbench	Sync + Desktop App บนโน้ตบุ๊ก	ต้องการ one-click launch VS Code / Cursor / Workbench / custom apps	เสริมจาก A
C · Full Local	ทุกอย่างบน WS300 (Ubuntu Desktop)	ใช้เครื่องโดยตรง ต้องมีการ์ดจอ RTX PRO สำหรับจอความละเอียดสูง	กรณีพิเศษ

ติดตั้งแบบ Remote Location

ใช้เวลาประมาณ 20–30 นาที · ตัวอย่างนี้สมมติ WS300 มี IP 192.168.10.20 และผู้ใช้ชื่อ aiuser — เปลี่ยนตามระบบจริง

Step 1 · เตรียม WS300

bash · บน WS300

# อัปเดตระบบให้เป็นล่าสุด
sudo apt update && sudo apt full-upgrade -y

# ตรวจ GPU และ container runtime
nvidia-smi
docker run --rm --gpus all ubuntu nvidia-smi

# ให้ user ใช้ docker ได้โดยไม่ต้อง sudo (logout/login ใหม่หลังรัน)
sudo usermod -aG docker $USER

# เปิด SSH server และดู IP ของพอร์ต 10GbE
sudo apt install -y openssh-server
sudo systemctl enable --now ssh
ip -br addr

Step 2 · สร้าง SSH Key (บนโน้ตบุ๊ก)

AI Workbench เชื่อม Remote Location ด้วย SSH key เท่านั้น (ไม่รองรับ password)

macOS / Linux / Windows PowerShell

ssh-keygen -t ed25519 -C "ws300-workbench"
# macOS / Linux
ssh-copy-id [email protected]
# ทดสอบ — ต้องเข้าได้โดยไม่ถามรหัสผ่าน
ssh [email protected]

Windows (ไม่มี ssh-copy-id)

type $env:USERPROFILE\.ssh\id_ed25519.pub | ssh [email protected] "mkdir -p ~/.ssh && cat >> ~/.ssh/authorized_keys && chmod 600 ~/.ssh/authorized_keys"

Step 3 · ติดตั้ง AI Workbench บน WS300

SSH เข้า WS300 แล้วรันคำสั่งติดตั้งจากเอกสาร NVIDIA — สคริปต์เลือกไฟล์ตาม uname -m จึงดาวน์โหลดเวอร์ชัน aarch64 ให้อัตโนมัติ

bash · บน WS300 (ผู้ใช้ปกติ ไม่ใช่ root)

mkdir -p $HOME/.nvwb/bin && \
curl -L https://workbench.download.nvidia.com/stable/workbench-cli/$(curl -L -s https://workbench.download.nvidia.com/stable/workbench-cli/LATEST)/nvwb-cli-$(uname)-$(uname -m) --output $HOME/.nvwb/bin/nvwb-cli && \
chmod +x $HOME/.nvwb/bin/nvwb-cli && \
sudo -E $HOME/.nvwb/bin/nvwb-cli install

ตัวเลือกระหว่างติดตั้ง (Interactive)

Container runtime: เลือก Docker — ใช้ตัวที่มากับ DGX OS ซึ่งตั้งค่า NVIDIA Container Toolkit ไว้แล้ว
GPU Driver: ไม่ต้องให้ติดตั้ง — driver บน WS300 ถูกจัดการโดย DGX OS (R580 Open) การติดตั้งซ้อนอาจทำให้ driver ขัดกัน
ติดตั้งเสร็จให้ logout/login ใหม่ หรือ reboot ตามที่ installer แจ้ง

Step 4 · ติดตั้ง Desktop App บนโน้ตบุ๊ก

OS	เวอร์ชันที่รองรับ	ติดตั้ง
Windows	Windows 11 23H2+ / Windows 10 22H2+	NVIDIA-AI-Workbench-Setup.exe
macOS	macOS 14 Sonoma+	NVIDIA-AI-Workbench.dmg
Ubuntu Desktop	22.04 / 24.04 / 26.04	`sudo apt install nvidia-ai-workbench`

ถ้าโน้ตบุ๊กไม่มี NVIDIA GPU ให้ข้ามการติดตั้ง Local ไปได้เลย — งานทั้งหมดจะรันบน WS300

Step 5 · เพิ่ม WS300 เป็น Remote Location

Desktop App → Locations Manager → Add Remote Location → Use Existing Machine → Next

Field	ค่าที่กรอก	หมายเหตุ
Name	`msi-ws300-gb300`	ตัวอักษร/ตัวเลข/ขีดกลาง (ห้ามเว้นวรรค)
Description	MSI WS300 · GB300 · 748 GB	อิสระ
SSH User	`aiuser`	ผู้ใช้บน WS300
Host	`192.168.10.20`	IP หรือ hostname ของพอร์ต 10GbE (ไม่ใช่ IP ของ BMC)
Port	`22`
Private Key Path	`~/.ssh/id_ed25519`	ใส่ path แบบเต็ม เช่น `C:\Users\you\.ssh\id_ed25519`
AI Workbench Binary Path	`$HOME/.nvwb/bin`	ค่าเริ่มต้นจากการติดตั้ง

สำเร็จ

กด Add Location → รอตรวจสอบการเชื่อมต่อ → จะเห็นการ์ด msi-ws300-gb300 ใน Locations Manager · หาก SSH key มี passphrase ให้รัน ssh-add ก่อน แล้วใส่ path ของไฟล์ .pub แทน

NVIDIA Sync — ประสบการณ์แบบ DGX Spark

NVIDIA Sync เป็น system-tray app (Windows · macOS · Ubuntu) ที่รองรับ DGX Spark, GB10, DGX Station และเครื่อง Linux ที่เข้าผ่าน SSH ได้ — กดเปิดเครื่องมือบน WS300 ได้จากโน้ตบุ๊กในคลิกเดียว

1 · ติดตั้ง

ดาวน์โหลดจาก build.nvidia.com · ติดตั้ง VS Code / Cursor / AI Workbench บนโน้ตบุ๊กก่อน เพื่อให้ Sync ตรวจพบตอน onboarding

2 · เพิ่มเครื่อง

ใส่ hostname/IP ของ WS300, username และ password — หรือ import SSH alias ที่มีอยู่

3 · ใช้งาน

เปิด Terminal, VS Code, Cursor, AI Workbench, custom script และ port forwarding (เช่น Jupyter, vLLM API) · ใช้ Tailscale เมื่ออยู่นอกออฟฟิศ

หมายเหตุ: DGX Dashboard ที่เห็นบน DGX Spark เอกสารระบุเฉพาะ DGX Spark / GB10 — บน WS300 ให้ดูสถานะผ่าน nvidia-smi, Resource Monitor ของ Sync หรือ BMC Web UI

โปรเจกต์แรก — Hybrid RAG Chatbot

โปรเจกต์ตัวอย่างที่ NVIDIA ใช้ใน DGX Spark Playbook — แชตบอตถามตอบจากเอกสารของคุณ (RAG) ผ่านหน้าเว็บ Gradio

เปิด Location msi-ws300-gb300ใน Desktop App คลิกการ์ด WS300
Clone Projectกด Clone Project แล้ววาง URL: https://github.com/NVIDIA/workbench-example-hybrid-rag — Workbench จะ build container บน WS300 (ครั้งแรกใช้เวลาหลายนาที)
ตั้งค่า SecretsNVIDIA_API_KEY (สร้างที่ build.nvidia.com) และ HUGGING_FACE_HUB_TOKEN สำหรับโมเดลที่ต้องขอสิทธิ์
Open Chatกด Open Chat → เลือก “Set up RAG Backend” (ครั้งเดียว) → อัปโหลดเอกสาร แล้วเริ่มถาม
เลือก InferenceLocal GPU (≥ 12 GB VRAM), Local NIM (≥ 24 GB) หรือ Cloud endpoint — WS300 มี HBM3e 252 GB จึงรันโมเดลขนาดใหญ่ในเครื่องได้สบาย

Arm64 Tips — สำคัญสำหรับ GB300

สถานการณ์	แนวทาง
Build ไม่ผ่าน / `exec format error`	base image เป็น x86_64 เท่านั้น — เปลี่ยนเป็น image แบบ multi-arch จาก NGC (เช่น PyTorch, CUDA base)
ตรวจว่า image รองรับ Arm64	`docker manifest inspect <image> \| grep arm64`
`pip install` แพ็กเกจไม่มี wheel สำหรับ aarch64	ใช้ NGC container ที่ build มาแล้ว หรือ build จาก source ใน `postBuild.bash`
ต้องการรันโมเดล/บริการที่ทดสอบบน DGX Station แล้ว	ใช้ DGX Station Playbooks (vLLM, SGLang, ComfyUI, NVFP4 ฯลฯ)
Dataset ขนาดใหญ่	ติดตั้ง NVMe ในสล็อต CX8 (PCIe 6.0) แล้ว mount เป็น data volume ให้โปรเจกต์ แทนการเก็บบน OS drive

WS300 vs DGX Spark — Workflow เดียวกัน สเกลต่างกัน

หัวข้อ	DGX Spark (GB10)	MSI WS300 (GB300)
Superchip	GB10 Grace Blackwell	GB300 Grace Blackwell Ultra
CPU	20-core Arm	72-core Grace Neoverse V2
Memory	128 GB unified LPDDR5x	Up to 748 GB coherent (252 GB HBM3e + 496 GB LPDDR5X)
Networking	ConnectX-7 · 200 GbE	ConnectX-8 · 2× 400 GbE
OS	DGX OS (Ubuntu 24.04)	DGX OS 7 (Ubuntu 24.04)
AI Workbench / NVIDIA Sync	Playbook ทางการ	Remote Location + Sync (Arm64 แบบเดียวกัน)
Management	—	BMC (Redfish / IPMI / KVM)
เหมาะกับ	Prototype / นักพัฒนารายบุคคล	ทีม Dev, Fine-tune / Inference โมเดลขนาดใหญ่, ใช้ร่วมกันหลายคน

โปรเจกต์ที่พัฒนาบน DGX Spark ด้วย AI Workbench ย้ายมารันบน WS300 ได้ทันที เพราะใช้ Arm64 + DGX OS ตระกูลเดียวกัน

Troubleshooting

อาการ	สาเหตุที่พบบ่อย	วิธีแก้
Add Location ไม่ผ่าน	SSH ยังถามรหัสผ่าน / key ไม่ถูก	ทดสอบ `ssh -i <key> aiuser@<ip>` ต้องเข้าได้โดยไม่ถามรหัส · ตรวจ `~/.ssh/authorized_keys` (chmod 600)
Location ขึ้น error เรื่อง container	user ไม่อยู่ในกลุ่ม docker	`sudo usermod -aG docker $USER` แล้ว logout/login
โปรเจกต์มองไม่เห็น GPU	ไม่ได้กำหนด GPU ให้โปรเจกต์ / runtime ผิด	Project Settings → Hardware → จำนวน GPU = 1 · ทดสอบ `docker run --rm --gpus all ubuntu nvidia-smi`
`exec format error`	image เป็น x86_64	เปลี่ยนเป็น image Arm64 / multi-arch (ดู Arm64 Tips)
เปิด app (Jupyter/Gradio) ไม่ขึ้น	Firewall / proxy องค์กร	ใช้ผ่าน Desktop App (tunnel ผ่าน SSH) หรือ port forwarding ใน NVIDIA Sync
ดิสก์เต็ม	container image สะสม	`docker system df` · ลบ project ที่ไม่ใช้ใน Workbench

Links

Resource	Link
AI Workbench — Introduction	docs.nvidia.com/ai-workbench
Install on Ubuntu Server (Remote)	remote-install
Desktop App Install	desktop-app-install
Add an Existing Remote Location	add-existing-location
NVIDIA Sync User Guide	docs.nvidia.com/sync
Example: Hybrid RAG	github.com/NVIDIA/workbench-example-hybrid-rag
DGX Station Playbooks	build.nvidia.com/station
AI Playbooks for WS300 (Taknet)	taknet.co.th/msi-ws300/AI-playbooks
WS300 Web Manual (Taknet)	taknet.co.th/msi-ws300/manuals