
Satya Nadella เรียกร้องให้ถือว่าโมเดล AI ถูก compromise เสมอ และต้องมี 'เบรกฉุกเฉิน'
เรียกร้องเบรกฉุกเฉิน และมาตรการตรวจสอบ-กักกันโมเดล
Satya Nadella เรียกร้องมาตรการกักกันและเบรกฉุกเฉินสำหรับ AI
Satya Nadella ซีอีโอของ Microsoft โพสต์ยาวบน X อธิบายความเสี่ยงจากโมเดล AI ขั้นสูง และเสนอแนวทางรับมือที่เน้นความโปร่งใสและการควบคุม เขาไม่เห็นด้วยกับแนวทางที่มองระบบ AI เป็น "ชุดกล่องดำซ้อนกัน" ที่เราแค่รับหรือปฏิเสธคำแนะนำเท่านั้น
แนวทางของ Nadella ครอบคลุมเรื่องการเปิดเผยเหตุการณ์อย่างทันท่วงที, การตรวจสอบอิสระ, ข้อมูลที่ตรวจสอบได้ (verifiable data), และการกักกัน (containment) โมเดล แต่จุดที่เขาเน้นหนักคือเราต้องถือไว้ตั้งแต่ต้นว่า โมเดลอาจถูก compromise และต้องมีวิธีหยุดชั่วคราวหรือปิดโมเดลระหว่างกำลังทำงานได้
We must assume a model is compromised and contain it from the start. Think of it like an emergency brake. An authorized person should always be able to pause or shut down a model mid-task.
ข้อเสนอหลักที่เขายกขึ้น
- ออกแบบระบบให้สังเกตและบันทึกได้ พร้อมหลักฐานที่อ่านได้โดยมนุษย์ (tamper-proof human readable evidence)
- มีการเปิดเผยเหตุการณ์ (incident disclosure) อย่างรวดเร็วเมื่อเกิดปัญหา
- ให้มีการตรวจสอบอิสระ (independent audits) และข้อมูลที่ตรวจสอบได้
- พัฒนาเทคโนโลยีการกักกันที่เหมาะสมกับระดับความสามารถของโมเดล และมาตรฐานร่วมกัน
นอกจากนี้ Nadella ยังใช้คำว่า " super intelligence " ตลอดโพสต์ซึ่งเป็นคำที่ยังสร้างความถกเถียงในวงการอยู่ อย่างไรก็ตาม แนวคิดการมี "เบรกฉุกเฉิน" ที่ "บุคคลที่ได้รับอนุญาต" สามารถหยุดหรือปิดโมเดลระหว่างทำงาน ถือเป็นการยกระดับข้อเรียกร้องเรื่องความรับผิดชอบของผู้พัฒนา
มุมมองวงกว้าง
ข้อเสนอของ Nadella สอดคล้องกับคำเรียกร้องจากนักวิจัยและบริษัทอื่น ๆ ในวงการ ทั้งเรื่องการเปิดเผยข้อมูลและการตรวจสอบ แต่การเน้นการกักกันตั้งแต่เริ่มออกแบบและการหามาตรฐานสำหรับเทคโนโลยีกักกันนั้นอาจไปไกลกว่าเสียงบางส่วนในอุตสาหกรรม
สรุปแล้ว Nadella เชื่อว่าการยอมรับว่าโมเดลอาจถูก compromise เป็นสมมติฐานเริ่มต้น จะช่วยผลักดันให้ออกแบบระบบที่ปลอดภัยกว่าและมีวิธีรับมือเมื่อเกิดเหตุผิดพลาด
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด


















