
ทดลองใช้ local AI กับ Hermes และ Qwen บน M5 Ultra Mac Studio
เขียนถึงประสบการณ์ใช้ local AI ด้วย Hermes Agent และโมเดล Qwen บน M5 Ultra Mac Studio
ภาพรวม
ผู้เขียนเริ่มเดินทางทดสอบการใช้ local AI ที่เก็บข้อมูลไว้ในเครื่องเพื่อความเป็นส่วนตัว มากกว่าจะส่งข้อมูลขึ้น cloud โดยทดลองบน M5 Ultra Mac Studio และเครื่องอื่นๆ เช่น M6 Mac Mini, M5 MacBook Air และแล็ปท็อป Windows ที่จะมีรุ่น RTX Spark ในอนาคต
ทำไมถึงน่าสนใจ
ความน่าสนใจของการรัน AI แบบ local คือความเป็นส่วนตัวและการควบคุมเครื่องมือได้เต็มที่ โดยไม่ต้องพึ่งพา OpenAI, Google, Microsoft หรือ Anthropic ผู้เขียนยอมรับว่าไม่ได้อยากได้เพื่อนดิจิทัล แค่ต้องการให้โปรแกรมทำงานซ้ำๆ กับข้อมูลที่ไม่อยากอัปโหลดขึ้น cloud
ซอฟต์แวร์และโมเดลที่ใช้
ผู้เขียนติดตั้ง Hermes Agent ซึ่งเป็นแอป agent แบบ self-hosted ที่รันบน macOS, Windows และ Linux พร้อมทดลองโมเดล Qwen 3.8 Flash Next โมเดลขนาด 125-billion parameters ประมาณ 105GB และยังลองโมเดล Qwen ขนาดเล็กลงบนเครื่องที่สเปคต่ำกว่า
งานที่ให้ local AI ทำ
- สรุปรายเช้าอัตโนมัติ — ตั้ง cron job ให้ Hermes สแกนอีเมล ปฏิทิน และสภาพอากาศ ผลลัพธ์ยังไม่สมบูรณ์และเจอบั๊กตอนเครื่องนอนหลับผิดช่วงเวลา
- จัดหมวดเกมใน Steam — Hermes ใช้ Steam client และ Steam web API key เพื่ออ่านข้อมูลเกมกว่า 400 รายการ แล้วจัดหมวดตาม genre และหมวดพิเศษของผู้เขียน
- วิเคราะห์ข้อมูลส่วนตัว — ให้ Hermes ประมวลผลงบการเงินและสร้างตารางเปรียบเทียบสเปกแล็ปท็อป โดยไม่ต้องอัปโหลดข้อมูลไป cloud
- สคริปต์รัน benchmark — กำลังพัฒนาสคริปต์ให้ Hermes รันชุดทดสอบแล็ปท็อปแบบอัตโนมัติ ซึ่งยังเป็นงานที่ต้องปรับแต่งเยอะ
ปัญหาและข้อควรระวัง
แม้ local models จะทรงพลัง แต่ก็ยังไม่ใช่ผู้ช่วยวิเศษ งานบางอย่างยังล้มเหลวหรือให้ผลไม่เต็มที่ เช่น cron job ที่ไม่ทำงานเพราะเครื่องนอนหลับ และการตั้งค่าที่ต้องให้สิทธิ์หรือ API key กับตัว agent ซึ่งผู้ใช้ต้องรู้วิธีเพิกถอนสิทธิ์เมื่อไม่ต้องการแล้ว
ผู้เขียนมอง Hermes และ local AI เป็นแค่เครื่องมือ ไม่ใช่เพื่อนดิจิทัล จึงใช้แบบมีระยะห่างและระมัดระวังเรื่องความปลอดภัยของข้อมูล
สรุป
การย้ายมาใช้ local AI ให้ความเป็นส่วนตัวและความเป็นเจ้าของข้อมูลสูงขึ้น ทำให้ทำงานกับข้อมูลสำคัญได้สบายใจขึ้น แต่ค่าใช้จ่ายด้านฮาร์ดแวร์ การจัดการโมเดลขนาดใหญ่ และบั๊กเชิงปฏิบัติการยังเป็นอุปสรรค ผู้เขียนยังอยู่ในช่วงทดลองและยังไม่ถือว่าสมบูรณ์ แต่ก็เห็นประโยชน์ชัดเจนสำหรับงานบางแบบ
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด


















