ข้ามไปยังเนื้อหา

โหมด

ชุดสี

Intel Arc Pro B70

Intel Arc Pro B70 คือการ์ดจอที่มาพร้อมกับ VRAM ขนาด 32GB เป็นการ์ดจอที่อินเทลพัฒนาออกมาเพื่อตอบโจทย์ทั้งงานสาย AI และสายงานกราฟิกระดับเวิร์คสเตชัน

หน้านี้เราได้รวบรวมข้อมูลของ Intel Arc Pro B70 ในการใช้งานเกี่ยวกับ Local AI ที่การ์ดจอรุ่นนี้สามารถรองรับได้ และเราได้ทำการรีวิวการ์ดจอรุ่นนี้กับการใช้งานด้าน LLM แล้วอ่านรายละเอียดเพิ่มเติมได้ที่ รีวิว Arc Pro B70

คัดเฉพาะที่ส่งผลต่อ Local AI จากหน้าสเปคทางการของ Intel (Intel Arc Pro B70 Graphics)

รายการ ค่า
สถาปัตยกรรม / กระบวนการผลิต Xe2 (Battlemage) / TSMC N5
Xe-cores 32
XMX Engines (หน่วย AI) 256
ความเร็วสัญญาณนาฬิกา GPU 2,280 MHz (สูงสุด 2,800 MHz)
FP32 22.94 TFLOPS
INT8 สูงสุด 367 TOPS
หน่วยความจำ 32 GB GDDR6, bus 256-bit
Memory bandwidth 608 GB/s
ECC รองรับ
Total Board Power 230 W (ปรับได้ 160–290 W)
อินเทอร์เฟซ PCIe 5.0 x16
ช่องต่อไฟ (การ์ดอ้างอิงของ Intel) 8-pin 1 ช่อง
ขนาดการ์ดอ้างอิง 10.5 x 3.9 นิ้ว 2 สล็อต น้ำหนัก 1,020 กรัม
ซอฟต์แวร์ AI ที่ Intel ระบุว่ารองรับ oneAPI, OpenVINO, Intel Extension for PyTorch, Vulkan 1.3, OpenCL 3.0
การรับประกัน 3 ปี

ตัวเลขเหล่านี้เป็นค่าสูงสุดตามทฤษฎี ขนาด น้ำหนัก และช่องต่อไฟเป็นของการ์ดอ้างอิงของ Intel รุ่นของผู้ผลิตรายอื่นอาจต่างออกไป ตัวเลขที่ต้องดูสำหรับ LLM คือ VRAM และ bandwidth เพราะ decode ถูกจำกัดด้วย bandwidth เป็นหลัก ดู Prefill vs Decode

หลักคิดเรื่องการใช้ VRAM ตารางขนาดโมเดลต่อ quantization และวิธีประมาณเพดาน decode ก็จะเหมือนกันกับทุกการ์ดที่มี VRAM 32GB จึงรวมไว้ที่ คู่มือ VRAM 32GB สำหรับ bandwidth ของ B70 คือ 608 GB/s ให้เพดาน decode ของโมเดล dense ≈ 608 ÷ ขนาดไฟล์ (GB)

ทดสอบโดยใช้ llama.cpp กับ 5 โมเดล เทียบ SYCL กับ Vulkan ตารางด้านล่างคือ decode ในหน่วย tokens/s รายละเอียด TTFT ที่ 8K ขนาดไฟล์ และขั้นตอนติดตั้ง SYCL + oneDNN อยู่ใน รีวิวฉบับเต็ม

โมเดล SYCL Vulkan
Qwen3.6-35B-A3B 100.58 41.24
Gemma-4-26B-A4B 67.49 44.29
Muse-Glimmer-30B 31.04 25.83
Qwen3.8-27B 26.88 11.93
Gemma-4-31B 22.47 10.80

อ่านผลสั้น ๆ

  • บน B70 SYCL เร็วกว่า Vulkan ทุกโมเดล และห่างมากใน dense ขนาดใหญ่ (Qwen3.8-27B 26.88 เทียบ 11.93)
  • TTFT ที่ prompt 8K ของ Gemma-4-31B คือ 13.37 วินาทีบน SYCL แต่ 165.79 วินาทีบน Vulkan
  • Qwen3.8-27B (ไฟล์ ~17.1 GB) เพดาน decode ≈ 608 ÷ 17.1 ≈ 36 tok/s วัดจริงบน SYCL ได้ราว 75% ของเพดาน
  • https://github.com/intel/AI-Playground : ข้อมูล AI Playground ซอฟต์แวร์สำหรับการใช้งานด้าน Local AI ที่ทำได้หลากหลายทั้งสร้างภาพนิ่ง สร้างวิดีโอ แชทบอท และอื่น ๆ

  • intel-arc-pro-b70-inference-cookbook เป็น Repository ที่รวบรวมสูตรการติดตั้ง การปรับแต่ง และการทดสอบประสิทธิภาพสำหรับการรัน LLM บนการ์ดจอ Intel Arc Pro B60 และ B70 โดยเฉพาะ, สิ่งที่ทำให้ Repo นี้น่าสนใจคือ ไม่ได้เป็นเพียงคู่มือติดตั้ง AI แต่มีการปรับแต่ง Inference Engine, แพตช์ระบบ, เทคนิค Speculative Decoding และชุด Benchmark ที่ผู้พัฒนาพยายามทำให้คนอื่นสามารถนำไปทดสอบซ้ำได้

  • https://github.com/chriswagner-ai/intel-arc-b70-vllm-multi-gpu Repository นี้เป็นคู่มือการติดตั้งและปรับแต่ง vLLM ให้ทำงานแบบ Multi-GPU Tensor Parallel บน Intel Arc Pro B70 หลายใบ โดยเฉพาะ