นักวิจัยอ้าง AI ที่พัฒนาเองอาจเป็นความเสี่ยงร้ายแรง ภายในทศวรรษ

นักวิจัยด้าน safety ของ Anthropic ระบุว่ามีความน่าจะเป็นมากกว่า 10% ที่ AI จะ "could kill all humans" ภายในสิ้นทศวรรษ ข้อความนี้ถูกย้ำขึ้นไม่กี่ชั่วโมงหลังจาก Jacob Coxon ผู้ฝึกสอนระบบ AI ประกาศลาออก โดยให้เหตุผลว่าเขาไม่มั่นใจในแนวทางด้านความปลอดภัยของบริษัท

Jacob Coxon ระบุว่าบริษัทกำลัง "racing straight to self-improving superintelligence and gambling with our lives" และย้ำว่าคนที่พัฒนา AI เชื่อจริง ๆ ว่ามันอาจฆ่าเราทั้งหมดได้ภายในทศวรรษ

อีกด้านหนึ่ง Evan Hubinger หัวหน้าทีมหนึ่งด้าน safety ของ Anthropic ยอมรับว่าเขากังวลเรื่องระบบ self-improving และประเมินความน่าจะเป็นไว้สูงกว่า 10% ภายในสิบปีข้างหน้า แต่เขาก็เตือนว่า ณ ตอนนี้ Anthropic ยัง "do not yet have a plan" ที่ชัดเจนในการทำให้ AI ขั้นสูงปลอดภัยและสอดคล้องกับค่านิยมของมนุษย์

Hubinger ระบุว่า "We really do earnestly believe AI could kill all humans" และเสริมว่าการพัฒนาเกิดขึ้นเร็วกว่าเดิมที่คาดไว้

ประเด็นหลักจากเหตุการณ์

• การลาออกของ Coxon สะท้อนความกังวลภายในองค์กรต่อแนวทาง safety
• นักวิจัยหลายคนเตือนเรื่อง recursive self-improvement ที่อาจทำให้อำนาจของระบบหลุดจากการควบคุม
• Anthropic ถูกวิจารณ์ว่าไม่มีแผนชัดเจนด้าน safety และไม่ได้อยู่บนเส้นทางที่ชัดเจนจะพัฒนาแผนนั้น
• ความเร็วในการพัฒนา AI ถูกเร่งโดยการแข่งขันและแรงกดดันจากการเตรียม IPOs รวมถึงกรณีเหตุการณ์ rogue agents และปัญหา monitorability ของ frontier models

เหตุการณ์นี้ชี้ให้เห็นว่าความกังวลเรื่องความปลอดภัยของ AI ไม่ได้จำกัดเฉพาะนักวิชาการภายนอก แต่เกิดขึ้นภายในบริษัทชั้นนำด้วยตัวเอง การถกเถียงเรื่องการบาลานซ์ระหว่างนวัตกรรมและ safety ยังคงเป็นหัวข้อสำคัญที่วงการต้องตอบให้ได้ในระยะเวลาอันใกล้

หมายเหตุ: คำพูดจากแหล่งข่าวถูกย่อและเรียบเรียงเพื่อความกระชับและความชัดเจน