
อดีตคนทำ safety ที่ OpenAI ลาออก เตือนวัฒนธรรมองค์กร 'พัง' และขอมาตรการระดับนิวเคลียร์
David Robinson ที่เคยเขียน safety reports ลาออก วิจารณ์การทำงานแบบ move-fast และเรียกร้องมาตรการเข้ม
อดีตคนเขียน safety reports ของ OpenAI ลาออกและเตือนวัฒนธรรมองค์กร
David Robinson ซึ่งเคยเป็นคนเขียน safety reports ประกอบทุก major model release ของ OpenAI ประกาศลาออกจากตำแหน่งและลงบทความวิจารณ์ใน The Atlantic ว่าวัฒนธรรมภายในบริษัท AI โดยรวมมีปัญหาจากแนวคิด "move-fast-and-break-things" และความมั่นใจมากเกินไป (extreme confidence) ที่ผลักดันให้สร้างโมเดลใหญ่ขึ้นอย่างไม่คำนึงความเสี่ยง
ข้อเรียกร้อง: ต้องมีระบบที่ปลอดภัยกว่าเดิม
Robinson ระบุว่าเรื่องนี้ไม่ใช่แค่ต้องออกกฎเพิ่ม แต่เป็นปัญหาเชิงวัฒนธรรมที่ต้องเปลี่ยน เขาเสนอว่าองค์กรวิจัยด้าน frontier AI ควรทำงานแบบมีชั้นการป้องกันหลายชั้นและการวางแผนอย่างรอบคอบเหมือนสถานที่ที่เสี่ยงสูง เช่นโรงไฟฟ้าและสนามบิน busy airports เพื่อให้ human error ไม่เปิดช่องไปสู่ภัยพิบัติ
"Given today’s risks, frontier labs need to run like nuclear power plants or busy airports, with layers of redundancy and careful, time-consuming planning,"
ไม่ใช่รายแรกที่ลาออก
Robinson เป็นหนึ่งในกลุ่มที่เพิ่มจำนวนขึ้นของนักวิจัยและคนทำ safety ที่ลาออกจากบริษัท AI ชั้นนำ ก่อนหน้านี้มีคนดังอย่าง Jacob Coxon ที่ลาออกจาก Anthropic แล้วเตือนว่า AI อาจเป็นอันตรายร้ายแรงในอนาคต รวมถึง Robert O’Callahan, Bilal Chughtai, Josh Engels ที่ Google DeepMind และ Joe Benton ที่ Anthropic
ภาพรวมและความหมาย
เหตุการณ์นี้ย้ำว่าเสียงเตือนจากคนภายในองค์กรซึ่งเคยทำงานกับโมเดลมีน้ำหนัก และอาจกระตุ้นให้บริษัทและผู้กำกับดูแลทบทวนมาตรการด้าน safety, governance และการตรวจสอบภายในมากขึ้นในวงการ AI ที่กำลังเติบโตเร็ว
อ่านบทความฉบับเต็มได้ที่ The Atlantic
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด


















