OpenVINO
ความหมาย
หัวข้อที่มีชื่อว่า “ความหมาย”ชุดเครื่องมือโอเพนซอร์สของ Intel สำหรับปรับแต่งและรัน AI inference บนฮาร์ดแวร์ Intel ได้แก่ CPU, GPU (เช่น Arc) และ NPU
OpenVINO เป็นทั้งไลบรารี runtime และเครื่องมือแปลงโมเดล ใช้เป็น backend ของ Intel ได้โดยตรง และบางโปรแกรมรองรับเป็นตัวเลือกให้เลือก จุดเด่นคือครอบคลุมหลายอุปกรณ์ของ Intel ในชุดเดียว รวมถึง NPU
โมเดลมักต้องแปลงเป็นรูปแบบที่ OpenVINO รองรับก่อน ซึ่งต่างจากไฟล์ GGUF ที่โปรแกรมอย่าง llama.cpp ใช้ตรงๆ สำหรับ GPU Intel ยังมี SYCL และ Vulkan เป็นทางเลือกอื่น