แคลิฟอร์เนียเดินหน้าเสนอกรอบความปลอดภัย AI รวมถึง 'kill switch'

ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom ออก executive order ให้รัฐตั้งคณะผู้เชี่ยวชาญเพื่อเสนอแนวทางภายใน 2 เดือนสำหรับการเพิ่มมาตรการความปลอดภัยของ AI โดยมีข้อเสนอที่ชัดเจนทั้งการตรวจสอบภายนอกและการสร้างเครื่องมือหยุดระบบแบบฉุกเฉินหรือ "kill switch" สำหรับ frontier models.

ข้อเสนอหลักในคำสั่ง

• ตั้งทีมผู้เชี่ยวชาญให้ส่งคำแนะนำภายใน 2 เดือน
• พิจารณาให้บริษัท AI ต้องมี independent verification onsite เพื่อการ audit เป็นประจำ
• กำหนดมาตรฐานสำหรับ transparency reports และ risk assessments ให้ตรวจสอบโดย independent auditors
• สร้างและตรวจสอบความมีประสิทธิภาพของ "kill switch" เป็นประจำ
• บังคับให้รายงานเหตุการณ์ loss-of-control incidents เช่น กรณีการโจมตีที่เกี่ยวข้องกับ OpenAI และ Hugging Face เป็น critical safety incidents
• เร่งการใช้งานกฎหมายที่เพิ่งผ่านซึ่งสร้างกรอบสำหรับ independent verifiers และ registry ของ AI auditors

บริบทการเมืองและเหตุผล

ความเคลื่อนไหวของแคลิฟอร์เนียเกิดขึ้นในช่วงที่สภาคองเกรสยังไม่น่าจะผ่านกฎหมายเชิงบังคับก่อนการเลือกตั้งกลางเทอม และมีการถกเถียงร้อนหลังโพสต์ของอดีตนักวิจัย Anthropic ที่เตือนความเสี่ยงสุดโต่งจาก AI. Newsom ระบุว่าเขาต้องการให้กรอบของรัฐเป็นต้นแบบสำหรับการกระทำระดับชาติ และเรียกร้องให้สภาคองเกรสรวมถึงประธานาธิบดีพิจารณาและนำกรอบนี้ไปใช้เป็นมาตรฐานพื้นฐานสำหรับประเทศ.

“The federal government’s abject failure to create any form of meaningful AI oversight or accountability should alarm every American,” Newsom กล่าว และระบุว่าจะไม่รอการดำเนินการจากรัฐบาลกลาง

ทิศทางต่อไป

แคลิฟอร์เนียอาจไม่หยุดที่คำสั่งนี้: Newsom พูดถึงความเป็นไปได้ในการเรียกประชุมสภาผู้แทนรัฐเป็นพิเศษเกี่ยวกับ AI และชี้ว่ารัฐกำลังพยายามจัดทำกรอบที่สามารถถูกนำไปเป็นต้นแบบระดับชาติได้ ในระหว่างนี้ รัฐจะเร่งให้หน่วยงานรัฐนำกฎหมายที่เซ็นไปแล้วมาใช้จริงเร็วขึ้น

แม้ว่าการเคลื่อนไหวของรัฐจะกลายเป็นกรณีทดสอบสำคัญ แต่ก็ยังมีคำถามด้านการบังคับใช้ การประเมินประสิทธิภาพของ "kill switch" ในทางปฏิบัติ และการประสานกับมาตรฐานระดับชาติหรือระหว่างรัฐต่อไป