ทดสอบ Intel Arc Pro B70 32 GB กับงาน Local LLM ผ่าน SYCL และ Vulkan ตั้งแต่ decode, prefill, บริบทยาว 128K, ผู้ใช้หลายคนพร้อมกัน, speculative decoding ไปจนถึงภาษาไทยและการใช้พลังงาน
รีวิวและผลทดสอบ
รีวิวการ์ดจอ และฮาร์ดแวร์ต่าง ๆ สำหรับการรัน Local AI รวมถึงรายงานผลการทดสอบอื่น ๆ ส่วนภาพรวมของ GPU แต่ละรุ่นอยู่ที่หมวด ฮาร์ดแวร์ และวิธีวัดผลอยู่ที่หมวด วิธีทดสอบ
รีวิวการ์ดจอหรือฮาร์ดแวร์ต่าง ๆ ว่ารัน Local AI เป็นอย่างไรบ้าง จากการใช้งานจริง
- รีวิว Intel Arc Pro B70 32 GB กับการทำงานด้าน Local LLM
- รีวิว AMD Radeon AI PRO R9700 กับประสิทธิภาพการทำงาน Local LLM
ทดสอบ Radeon AI PRO R9700 กับงาน Local LLM ผ่าน ROCm 10 และ Vulkan ตั้งแต่ decode, prefill, บริบทยาวถึง 128K ไปจนถึง speculative decoding การใช้พลังงาน และการรองรับผู้ใช้หลายคน
ผลทดสอบ
หัวข้อที่มีชื่อว่า “ผลทดสอบ”รายงานการทดสอบ/ทดลอง เฉพาะเรื่อง เช่น เทียบ Backend, ตั้งค่า Dual GPU หรือลองใช้งานจริงบนอุปกรณ์ต่าง ๆ
- รันโมเดล 125B บนการ์ด Radeon AI PRO R9700 สองใบ (Qwen3.8-Flash-Next)
ทดสอบโมเดล MoE ขนาด 75.8 GB ที่การ์ดใบเดียวรับไม่ไหว บน Radeon AI PRO R9700 สองใบ ด้วย ROCm และ Vulkan ทั้งบริบทสั้นและบริบทยาวถึง 128K พร้อมผลทดลอง MTP
- เมื่อโมเดลถูกลดขนาดยังตอบคำถามได้เหมือนเดิมไหม: กรณีศึกษา Qwen3.8 27B ตั้งแต่ Q8 ถึง Q2
ทดสอบ Qwen3.8 27B 7 ระดับ quantization ตั้งแต่ Q8_0 ถึง Q2_K_XL บน Radeon AI PRO R9700 ดูทั้งคุณภาพ (PPL, KLD, HellaSwag และโจทย์จริง 764 ข้อ) ความเร็ว และ VRAM
- รายงานการทดสอบเชิงลึก: ปลดล็อกพลัง Qwen3.8-27B บน Dual AMD Radeon RX 9060 XT (RDNA 4)
เปรียบเทียบ ROCm และ Vulkan บน RX 9060 XT สองใบด้วย PromptMark รวมโหมดปกติ MTP และ DFlash
- รายงานผลการทดสอบเชิงลึก: Dual GPU ข้ามสถาปัตยกรรม AMD Radeon RX 9070 XT (RDNA 4) + RX 6800 XT (RDNA 2)
เปรียบเทียบ Vulkan, ROCm 7 และ ROCm 10 บน RX 9070 XT ร่วมกับ RX 6800 XT ด้วยโมเดล Qwen สองรุ่น
- จับเครื่องเล่นเกมพกพา MSI Claw 8 EX AI+ มารัน Chatbot โดยใช้ CPU, GPU และ NPU ระดับ 46 TOPs: มาดูกันว่าทำงานได้ขนาดไหน
ครั้งนี้ผมนำเครื่องเล่นเกมพกพา MSI Claw 8 EX AI+ มาลองในมุมที่ต่างจากการเล่นเกม คือใช้เป็นเครื่องทดสอบ Local LLM และลองด…
- รายงานผลการทดสอบ: Dual AMD Radeon RX 9060 XT 16GB (รวม 32GB VRAM) กับการก้าวกระโดดของ AMD ROCm 10 Native RDNA 4
เปรียบเทียบประสิทธิภาพ ROCm 7 กับ ROCm 10 บนการ์ดจอ Dual RX 9060 XT รวม VRAM 32GB ผ่านชุดทดสอบ PromptMark v0.4.0 บนโมเดล Qwen3.6-35B-A3B และ Qwen3.8-27B
- รายงานผลการทดสอบ: NVIDIA GeForce RTX 5060 Ti 16GB กับการรัน Local LLM บน Windows — ประชัน CUDA vs Vulkan บน Dense 12B และ MoE 26B
ผลการทดสอบเชิงลึกการ์ดจอ NVIDIA GeForce RTX 5060 Ti 16GB (สถาปัตยกรรม Blackwell) ด้วย PromptMark v0.4.0 เปรียบเทียบรันไทม์ CUDA vs Vulkan บน Gemma-4 12B และทดสอบขีดจำกัดหน่วยความจำบน Gemma-4 26B-A4B MoE ในภาวะ VRAM-Tight
- รายงานผลการทดสอบ: AMD Radeon RX 9070 XT 16GB กับการรัน Local LLM บน Windows — ประชัน ROCm vs Vulkan บน 8 โมเดล LLM พร้อมทดสอบขีดจำกัด Concurrency
ผลการทดสอบเชิงลึกการ์ดจอ AMD Radeon RX 9070 XT 16GB (สถาปัตยกรรม RDNA 4) ด้วย PromptMark v0.4.0 และ Concurrent Text Benchmark เปรียบเทียบรันไทม์ ROCm vs Vulkan ทั้งโมเดล MoE, Dense และฟอร์แมตควอนไทซ์ NVFP4 พร้อมวัดประสิทธิภาพการรองรับผู้ใช้พร้อมกัน 16 ผู้ใช้
- รายงานผลการทดสอบ: Intel Arc B580 Dual GPU (2x 12GB รวม 24GB VRAM) กับการรัน Local LLM บน Windows
ผลการทดสอบเชิงลึกการ์ดจอคู่ Intel Arc B580 24GB VRAM ด้วย PromptMark v0.4.0 เปรียบเทียบรันไทม์ SYCL vs Vulkan และสถาปัตยกรรม MoE vs Dense บน 8 โมเดล LLM ยอดนิยม
- รายงานผลการทดสอบ: Intel Arc B580 12GB กับการรัน Local LLM บน Windows (Vulkan vs SYCL)
ผลการทดสอบการ์ดจอ Intel Arc B580 12GB (สถาปัตยกรรม Xe2) ด้วย PromptMark เปรียบเทียบรันไทม์ Vulkan vs SYCL บน 5 รูปแบบโมเดล LLM พร้อมวิเคราะห์ Prefill, Decode และการสเกล Context 8K
