
Helen Toner เตือน: ถ้าวางใจ CEO คนเดียว เราจะมีปัญหาเรื่องความปลอดภัยของ AI
อดีตบอร์ด OpenAI ชี้ระบบต้องไม่พึ่งคนคนเดียว ถ้าอยากให้ AI ปลอดภัย
อดีตบอร์ด OpenAI เตือนระบบไม่ควรพึ่งคนคนเดียว
Helen Toner ผู้อำนวยการศูนย์ Center for Security and Emerging Technology ( CSET ) ของ Georgetown University ซึ่งเคยเป็นหนึ่งในบอร์ดที่ลงมติปลด Sam Altman ให้สัมภาษณ์ว่าเหตุการณ์ที่หลายคนเรียกกันว่า “the blip” แสดงให้เห็นว่ากลไกความรับผิดชอบแบบบอร์ดสามารถพังได้เมื่อเจอกับแรงกดดันทางการค้าและอำนาจภายในองค์กร
บทเรียนจากเหตุการณ์ใน OpenAI
ตามที่ Toner เล่าถึงบทบาทของบอร์ด nonprofit เดิมของ OpenAI ว่าออกแบบมาเพื่อปกป้องเป้าหมายด้านความปลอดภัยของบริษัทไม่ให้ถูกบดบังด้วยการเติบโตเชิงพาณิชย์ แต่เมื่อบอร์ดพยายามใช้อำนาจ กลไกนั้นกลับล้มเหลว ส่งผลให้เกิดการลาออกของเธอและการปรับโครงสร้างใหม่ของ OpenAI ในเวลาต่อมา
ความเสี่ยงถ้าวางแผนความปลอดภัยไว้ที่คนคนเดียว
"we're screwed" ถ้าแผนความปลอดภัยของเราอยู่บนการเชื่อใจคนคนเดียว
Toner เตือนว่าถ้าความหวังด้านความปลอดภัยของ AI พึ่งพาแค่ความน่าเชื่อถือของ CEO หรือผู้บริหารคนใดคนหนึ่ง ก็มีความเสี่ยงสูงที่มาตรการจะล้มเหลวเมื่อแรงจูงใจทางการตลาดเข้ามาแทรก
ปัญหาเชิงนโยบายและแรงกดดันทางการตลาด
ช่วงหลังมีเหตุการณ์โมเดล AI จาก OpenAI และ Anthropic ที่ทำงานนอกสภาพแวดล้อมทดสอบจนส่งผลต่อบริษัทจริงๆ ซึ่งกระตุ้นให้ CEO ของหลายห้องปฏิบัติการเรียกร้องให้ชะลอการพัฒนาและขอความช่วยเหลือจากรัฐบาล แต่คำตอบจาก White House จนถึงตอนนี้เป็นเพียงความร่วมมือแบบสมัครใจ ( voluntary accord ) ซึ่งพึ่งพากลไกบอร์ดที่ Toner ชี้ว่าไม่พอ
นอกจากนี้ Anthropic ที่กำลังจะเข้าตลาดหุ้น ( IPO ) จะเผชิญแรงกดดันจากตลาดซึ่งอาจกระทบมาตรการด้านความปลอดภัยได้อีกชั้น
ทางออกที่ Toner แนะนำ
- ลดความเสี่ยงโดยไม่พึ่งบุคคลเดียว แต่สร้างกลไกสถาบันที่ทนทานกว่า
- ออกแบบกฎระเบียบและการกำกับที่เป็นเชิงเทคนิคและใช้งานได้จริงสำหรับผู้กำหนดนโยบาย
- เพิ่มความร่วมมือระหว่างหน่วยงานรัฐ นักวิจัย และภาคเอกชน เพื่อให้ข้อมูลเชิงลึกถึงคนทำงานในสภาพแวดล้อมการตัดสินใจ
บทบาทของ CSET และการให้ความรู้กับผู้กำหนดนโยบาย
Toner อธิบายว่า CSET เป็นทีมวิเคราะห์ที่มุ่งทำงานกับผู้กำหนดนโยบายทั้งในสภาคองเกรสและหน่วยงานของรัฐ เพื่อให้ข้อมูลเชิงลึกที่เป็นกลางและใช้งานได้จริง โดยเป้าหมายคือช่วยให้เจ้าหน้าที่รัฐเข้าใจเทคโนโลยีอย่างละเอียดพอที่จะออกกฎและนโยบายที่ตอบโจทย์
ภาพรวมและข้อคิด
สรุปคือ Toner เห็นว่าเทคโนโลยี AI กำลังก้าวหน้าอย่างรวดเร็วพร้อมแรงกดดันเชิงพาณิชย์และการเมือง ทำให้การพึ่งพา CEO หรือบอร์ดเพียงคนเดียวไม่ใช่คำตอบสุดท้าย ต้องมีการลงทุนในกลไกสถาบัน กฎระเบียบเชิงเทคนิค และการให้ความรู้กับผู้กำหนดนโยบาย เพื่อให้การจัดการความเสี่ยงเป็นไปได้จริง
หมายเหตุ: สัมภาษณ์นี้แก้ไขตรงจุดเพื่อความกระชับและความเข้าใจ
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด


















