Nous Research เปิดตัว Arete-27B โมเดลขนาด 27B ที่พัฒนาต่อยอดจาก Qwen3.8-27B ด้วยเทคนิค Post-training มุ่งลดพฤติกรรมการตอบตามกรอบแนวคิดของรัฐบาลจีน โดยใช้ข้อมูลฝึกเพิ่มเติมประมาณ 52.8 ล้าน Tokens และรักษา Agentic Capabilities ของโมเดลต้นฉบับไว้
Tag: LLM Evaluation
- Nous Research เปิดตัว Arete-27B โมเดลที่นำ Qwen3.8-27B มาปรับแต่งใหม่ เพื่อลดอคติทางการเมืองและเปลี่ยนกรอบการตอบสนองของ AI
- เมื่อโมเดลถูกลดขนาดยังตอบคำถามได้เหมือนเดิมไหม: กรณีศึกษา Qwen3.8 27B ตั้งแต่ Q8 ถึง Q2
ทดสอบ Qwen3.8 27B 7 ระดับ quantization ตั้งแต่ Q8_0 ถึง Q2_K_XL บน Radeon AI PRO R9700 ดูทั้งคุณภาพ (PPL, KLD, HellaSwag และโจทย์จริง 764 ข้อ) ความเร็ว และ VRAM
- ก่อนเปิดให้ใช้งานโมเดล นักพัฒนาทดสอบอะไรบ้าง และเราควรดูอะไรบ้างก่อนเลือกโมเดล LLM มาใช้ใน Local AI
อธิบายการประเมิน LLM ทั้งความถูกต้อง การทำตามคำสั่ง การใช้เครื่องมือ และประสิทธิภาพ เพื่อเลือกโมเดลให้เหมาะกับงาน
- Hallucination
อาการที่โมเดลสร้างข้อมูลที่ฟังดูน่าเชื่อถือแต่ไม่ถูกต้องหรือไม่มีอยู่จริง โดยไม่รู้ตัวว่ากำลังผิด
- Harness
โครงสร้างซอฟต์แวร์ที่ห่อหุ้มโมเดล AI ไว้ ทำหน้าที่จัดการเครื่องมือ บริบท ลูปการทำงาน และสิทธิ์ต่าง ๆ หรือในอีกความหมายคือชุดเครื่องมือที่ใช้รันและวัดผลโมเดลอย่างเป็นระบบ
