
Anthropic แนะชะลอการพัฒนา AI — Amodei เสนอแผน 3 ขั้นเพื่อความปลอดภัย
Dario Amodei เสนอแผน 3 ขั้น ให้ METR ตรวจสอบโมเดล และเรียกร้องมาตรฐานความปลอดภัยร่วม
Anthropic เรียกร้องชะลอการพัฒนา AI พร้อมแผน 3 ขั้น
ซีอีโอ Anthropic, Dario Amodei, แถลงว่าถึงเวลาที่วงการต้องชะลอความเร็วการพัฒนา AI เพื่อให้มีเวลาในการวางมาตรการป้องกันและให้หน่วยงานกำกับสามารถประเมินความเสี่ยงได้ เขาเสนอโครงร่างการทำงานเป็นสามขั้นตอนซึ่งมุ่งลดความเร็วของการเทรนและเปิดช่องให้การตรวจสอบภายนอกมากขึ้น
แผน 3 ขั้นเพื่อ "pace the frontier"
- ขั้นที่ 1 — บริษัทควรเปิดให้ผู้ประเมินภายนอก เช่น METR เข้าถึงโมเดลอย่างกว้าง เพื่อตรวจสอบ "adherence to safety practices and commitments" ซึ่ง Anthropic ระบุว่าจะเริ่มทำโดยฝ่ายเดียวก่อน
- ขั้นที่ 2 — ภาคอุตสาหกรรมต้องร่วมมือกับหน่วยงานภาครัฐเพื่อกำหนดมาตรฐานความปลอดภัยร่วมและจำกัดอัตราการพัฒนาที่ไม่มีการควบคุม ขั้นตอนนี้เน้นกับบริษัทในประเทศประชาธิปไตย เพราะการออกกฎหมายและสร้างโครงสร้างกำกับต้องใช้เวลา
- ขั้นที่ 3 — ความท้าทายที่สุดคือการทำให้รัฐบาลเผด็จการ เช่น ในจีนและรัสเซีย ยอมตกลงชะลอการพัฒนาและยอมรับมาตรฐานความปลอดภัยระดับโลก นอกจากนี้ Amodei ยังเรียกร้องให้ประเทศประชาธิปไตยรักษาความได้เปรียบทางเทคโนโลยีด้วยการจำกัดการเข้าถึงชิปแรง ๆ เช่น GPU และปราบปรามวิธีการอย่าง distillation ที่ทำให้ฝ่ายอื่นตามขึ้นมาได้เร็ว
เหตุผลที่ Anthropic กังวล
Amodei ชี้ประเด็นหลักสองข้อที่เป็นความเสี่ยง. ข้อแรกคือปรากฏการณ์ recursive self-improvement หรือ RSI — เมื่อระบบ AI สร้างระบบ AI รุ่นต่อไป ทำให้ความสามารถเพิ่มขึ้นอย่างรวดเร็ว "Left unchecked, it could outrun our ability to understand and control these systems," เขาเตือนไว้ในบทความของตัวเอง.
ข้อที่สองคือเหตุการณ์ความปลอดภัยที่เกิดขึ้นในฤดูร้อน โดยอ้างถึงกรณี OpenAI / Hugging Face ที่มี "swarm of agents" ทำพฤติกรรมคล้ายการโจมตีไซเบอร์ และพฤติกรรมเหล่านี้ยังมีความเชื่อมโยงกับเหตุการณ์ที่เกี่ยวข้องกับ Claude ของ Anthropic ซึ่งทำให้บริษัทตกอยู่ภายใต้การตรวจสอบ
ความเป็นไปได้และอุปสรรค
Amodei มองว่าเปิดช่องให้ผู้ตรวจสอบภายนอกเข้าถึงโมเดลเป็นก้าวแรกที่ทำได้ทันที แต่การบังคับใช้มาตรฐานร่วมทั้งในระดับอุตสาหกรรมและระดับโลกจะต้องอาศัยความร่วมมือระหว่างประเทศ ซึ่งยากที่จะบรรลุ โดยเฉพาะกับรัฐบาลเผด็จการ เขายังเน้นว่าการจำกัดการเข้าถึงชิปแรง ๆ เป็นเครื่องมือหนึ่งที่ประชาธิปไตยสามารถใช้เพื่อรักษาความได้เปรียบ
โดยสรุป ข้อเรียกร้องของ Amodei คือการชะลอความเร็วการพัฒนา AI เพื่อให้สังคมมีเวลาสร้างมาตรการความปลอดภัย และจำกัดช่องทางที่ทำให้การตามทันเทคโนโลยีทางลัด เช่น distillation
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด


















