คู่มือสำหรับการ์ดจอ VRAM 16GB สรุปความพอดีของโมเดลและ quantization พร้อมผลวัดจริงจากการต่อการ์ด 16GB สองใบ (RX 9060 XT คู่ และ RX 9070 XT + RX 6800 XT)
Tag: Model Selection
- คู่มือ VRAM 16GB: โมเดล 12B สบาย แต่ 27B ที่ Q4 ยังไม่พอดีบนการ์ดใบเดียว
- คู่มือ VRAM 8GB: รันโมเดลอะไรได้บ้าง
คู่มือสำหรับการ์ดจอ VRAM 8GB สรุปว่าโมเดลขนาดไหนและ quantization ระดับไหนพอดี เหลือที่ให้ context เท่าไร และทางเลือกเมื่อไม่พอ
- ถอดรหัสโมเดล Q4_K_M, Q3_K_XL หมายถึงอะไร
อธิบาย Quantization ของโมเดล Local AI ผ่านชื่อ GGUF อย่าง Q4_K_M, Q5_K_M และ Q8_0 ว่าแต่ละส่วนหมายถึงอะไร พร้อมแนวคิด bpw ที่ใช้คำนวณขนาดและหน่วยความจำ
- ก่อนเปิดให้ใช้งานโมเดล นักพัฒนาทดสอบอะไรบ้าง และเราควรดูอะไรบ้างก่อนเลือกโมเดล LLM มาใช้ใน Local AI
อธิบายการประเมิน LLM ทั้งความถูกต้อง การทำตามคำสั่ง การใช้เครื่องมือ และประสิทธิภาพ เพื่อเลือกโมเดลให้เหมาะกับงาน
- Alibaba เปิดตัว Qwen3.8-27B เน้นงาน Coding, Agent และ Multimodal
Alibaba Cloud เปิดโมเดล Qwen3.8-27B ที่เหมาะกับผู้ใช้งานพีซีทั่วไปให้ดาวน์โหลดและนำไปใช้งานได้แล้ว โดยโมเดลรุ่นนี้อยู่ใน…
- NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลขนาด 30B เน้นเร็วและประหยัด พร้อม NeMo Switchyard ระบบเลือกโมเดลอัตโนมัติสำหรับ AI Agent
NVIDIA เปิดตัว Nemotron 3.5 Lightning โมเดลภาษาแบบเปิดสำหรับงาน Agentic AI และ NeMo Switchyard ไลบรารีโอเพนซอร์สสำหรับจั…
- เครื่องฉันรัน AI ได้ไหม: เช็กเครื่องตัวเองให้ตรงกับงาน Local AI ที่อยากทำ
สเปคเครื่องฉันรัน AI ได้ไหม: คำตอบไม่ได้เริ่มจากสเปค แต่เริ่มจากงานที่อยากทำ เช็กเครื่องตัวเองให้ตรงกับงาน Local AI ที่อยากทำ
