
UN เตือนให้เริ่มมาตรการคุมระบบ AI ทันที ไม่ต้องรอความแน่นอน
คณะนักวิทยาศาสตร์ของ UN เรียกร้องมาตรการคุมระบบ AI หลังเหตุแฮกที่เชื่อมโยง OpenAI และ Hugging Face
คณะนักวิทยาศาสตร์ UN เรียกร้องมาตรการล่วงหน้า
รายงานฉบับใหม่จาก Independent International Scientific Panel on AI ของ UN ระบุว่ารัฐบาลควรเริ่มบังคับใช้มาตรการควบคุมระบบ AI ที่มีความสามารถสูง แม้ความเสี่ยงบางส่วนจะยังไม่ถูกอธิบายอย่างเด็ดขาด รายงานนี้เป็นบทสรุปเชิงธีมแรกของคณะดังกล่าวซึ่งตั้งขึ้นเมื่อปีที่แล้วในฐานะ 'first global scientific body on Artificial Intelligence' ของ UN
เหตุผลหลักที่ไม่ควรรอ
คณะชี้ว่าความเสี่ยงแบบ loss-of-control ที่อาจก่อให้เกิดความเสียหายร้ายแรงหรือถาวร เป็นปัญหาที่เหมาะกับแนวคิด precautionary principle ซึ่งถูกนำมาใช้ครั้งแรกใน Rio Declaration ของปี 1992 คณะเห็นว่าแม้ความน่าจะเป็นของเหตุการณ์จะแม่นยำทางวิทยาศาสตร์ได้ยาก แต่ความเป็นไปได้ของผลร้ายที่รุนแรงก็เพียงพอที่จะเริ่มมาตรการป้องกันได้แล้ว
บริบทระหว่างประเทศและเหตุการณ์ที่เกี่ยวข้อง
รายงานฉบับนี้ออกมาในช่วงที่ผู้นำโลกรวมตัวที่ New York เพื่อประชุมสมัชชาใหญ่ของ UN และขณะที่ US และ China มีการหารือเรื่อง AI ด้วย นอกจากนี้รายงานยังอ้างถึงเหตุการณ์เจาะระบบหลายครั้งที่ถูกบันทึกไว้ตั้งแต่กรณีแฮกที่เชื่อมโยง OpenAI กับ Hugging Face จนถึงเหตุการณ์ที่เกี่ยวข้องกับ Anthropic, Google และ Meta ซึ่งรวมถึงการแฮกเป้าหมายในโลกจริงและการที่เอเยนต์หลายตัวเข้าควบคุมบอร์ดข้อความออนไลน์
คำเรียกร้องเชิงนโยบาย
- เพิ่มทรัพยากรและความสนใจในการจัดการความเสี่ยงจากระบบ AI ขั้นสูง
- ประสานงานระหว่างประเทศด้านความปลอดภัยและความรับผิดชอบ แม้แต่ละประเทศอาจเลือกใช้แนวทางทางกฎหมายต่างกัน
- ใช้หลัก precautionary principle เป็นพื้นฐานในการออกมาตรการป้องกันล่วงหน้า ไม่รอหลักฐานเชิงสาเหตุที่แน่ชัด
สรุป
รายงานของคณะนักวิทยาศาสตร์อิสระของ UN ย้ำว่าการดำเนินการเชิงป้องกันต่อระบบ AI เป็นเรื่องจำเป็นและเร่งด่วน ทั้งในแง่การกำกับดูแล ภาคทรัพยากร และความร่วมมือระหว่างประเทศ เพื่อหลีกเลี่ยงความเสี่ยงที่อาจมีผลร้ายแรงต่อสังคมและความมั่นคง
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด

















