Intel Arc Pro B70
Intel Arc Pro B70 คือการ์ดจอที่มาพร้อมกับ VRAM ขนาด 32GB เป็นการ์ดจอที่อินเทลพัฒนาออกมาเพื่อตอบโจทย์ทั้งงานสาย AI และสายงานกราฟิกระดับเวิร์คสเตชัน
หน้านี้เราได้รวบรวมข้อมูลของ Intel Arc Pro B70 ในการใช้งานเกี่ยวกับ Local AI ที่การ์ดจอรุ่นนี้สามารถรองรับได้ และเราได้ทำการรีวิวการ์ดจอรุ่นนี้กับการใช้งานด้าน LLM แล้วอ่านรายละเอียดเพิ่มเติมได้ที่ รีวิว Arc Pro B70
สเปคที่เกี่ยวกับงาน AI
หัวข้อที่มีชื่อว่า “สเปคที่เกี่ยวกับงาน AI”คัดเฉพาะที่ส่งผลต่อ Local AI จากหน้าสเปคทางการของ Intel (Intel Arc Pro B70 Graphics)
| รายการ | ค่า |
|---|---|
| สถาปัตยกรรม / กระบวนการผลิต | Xe2 (Battlemage) / TSMC N5 |
| Xe-cores | 32 |
| XMX Engines (หน่วย AI) | 256 |
| ความเร็วสัญญาณนาฬิกา GPU | 2,280 MHz (สูงสุด 2,800 MHz) |
| FP32 | 22.94 TFLOPS |
| INT8 สูงสุด | 367 TOPS |
| หน่วยความจำ | 32 GB GDDR6, bus 256-bit |
| Memory bandwidth | 608 GB/s |
| ECC | รองรับ |
| Total Board Power | 230 W (ปรับได้ 160–290 W) |
| อินเทอร์เฟซ | PCIe 5.0 x16 |
| ช่องต่อไฟ (การ์ดอ้างอิงของ Intel) | 8-pin 1 ช่อง |
| ขนาดการ์ดอ้างอิง | 10.5 x 3.9 นิ้ว 2 สล็อต น้ำหนัก 1,020 กรัม |
| ซอฟต์แวร์ AI ที่ Intel ระบุว่ารองรับ | oneAPI, OpenVINO, Intel Extension for PyTorch, Vulkan 1.3, OpenCL 3.0 |
| การรับประกัน | 3 ปี |
ตัวเลขเหล่านี้เป็นค่าสูงสุดตามทฤษฎี ขนาด น้ำหนัก และช่องต่อไฟเป็นของการ์ดอ้างอิงของ Intel รุ่นของผู้ผลิตรายอื่นอาจต่างออกไป ตัวเลขที่ต้องดูสำหรับ LLM คือ VRAM และ bandwidth เพราะ decode ถูกจำกัดด้วย bandwidth เป็นหลัก ดู Prefill vs Decode
32GB รันโมเดลอะไรได้
หัวข้อที่มีชื่อว่า “32GB รันโมเดลอะไรได้”หลักคิดเรื่องการใช้ VRAM ตารางขนาดโมเดลต่อ quantization และวิธีประมาณเพดาน decode ก็จะเหมือนกันกับทุกการ์ดที่มี VRAM 32GB จึงรวมไว้ที่ คู่มือ VRAM 32GB สำหรับ bandwidth ของ B70 คือ 608 GB/s ให้เพดาน decode ของโมเดล dense ≈ 608 ÷ ขนาดไฟล์ (GB)
ผลทดสอบของเรา (เบื้องต้น)
หัวข้อที่มีชื่อว่า “ผลทดสอบของเรา (เบื้องต้น)”ทดสอบโดยใช้ llama.cpp กับ 5 โมเดล เทียบ SYCL กับ Vulkan ตารางด้านล่างคือ decode ในหน่วย tokens/s รายละเอียด TTFT ที่ 8K ขนาดไฟล์ และขั้นตอนติดตั้ง SYCL + oneDNN อยู่ใน รีวิวฉบับเต็ม
| โมเดล | SYCL | Vulkan |
|---|---|---|
| Qwen3.6-35B-A3B | 100.58 | 41.24 |
| Gemma-4-26B-A4B | 67.49 | 44.29 |
| Muse-Glimmer-30B | 31.04 | 25.83 |
| Qwen3.8-27B | 26.88 | 11.93 |
| Gemma-4-31B | 22.47 | 10.80 |
อ่านผลสั้น ๆ
- บน B70 SYCL เร็วกว่า Vulkan ทุกโมเดล และห่างมากใน dense ขนาดใหญ่ (Qwen3.8-27B 26.88 เทียบ 11.93)
- TTFT ที่ prompt 8K ของ Gemma-4-31B คือ 13.37 วินาทีบน SYCL แต่ 165.79 วินาทีบน Vulkan
- Qwen3.8-27B (ไฟล์ ~17.1 GB) เพดาน decode ≈ 608 ÷ 17.1 ≈ 36 tok/s วัดจริงบน SYCL ได้ราว 75% ของเพดาน
แหล่งข้อมูลที่น่าสนใจสำหรับผู้ใช้ Intel Arc Pro B70:
หัวข้อที่มีชื่อว่า “แหล่งข้อมูลที่น่าสนใจสำหรับผู้ใช้ Intel Arc Pro B70:”-
https://github.com/intel/AI-Playground : ข้อมูล AI Playground ซอฟต์แวร์สำหรับการใช้งานด้าน Local AI ที่ทำได้หลากหลายทั้งสร้างภาพนิ่ง สร้างวิดีโอ แชทบอท และอื่น ๆ
-
intel-arc-pro-b70-inference-cookbook เป็น Repository ที่รวบรวมสูตรการติดตั้ง การปรับแต่ง และการทดสอบประสิทธิภาพสำหรับการรัน LLM บนการ์ดจอ Intel Arc Pro B60 และ B70 โดยเฉพาะ, สิ่งที่ทำให้ Repo นี้น่าสนใจคือ ไม่ได้เป็นเพียงคู่มือติดตั้ง AI แต่มีการปรับแต่ง Inference Engine, แพตช์ระบบ, เทคนิค Speculative Decoding และชุด Benchmark ที่ผู้พัฒนาพยายามทำให้คนอื่นสามารถนำไปทดสอบซ้ำได้
-
https://github.com/chriswagner-ai/intel-arc-b70-vllm-multi-gpu Repository นี้เป็นคู่มือการติดตั้งและปรับแต่ง vLLM ให้ทำงานแบบ Multi-GPU Tensor Parallel บน Intel Arc Pro B70 หลายใบ โดยเฉพาะ