สรุปประเด็นหลัก

ภายในวงการเทคโนโลยีมีการเรียกร้องให้มีกฎเกณฑ์ควบคุม AI มาเป็นเวลานาน ทั้งคำเตือนเชิงปรัชญาและคำพูดจากผู้บริหารบริษัทเทคโนโลยีชั้นนำ อย่างไรก็ตาม ข้อตกลงและกฎหมายที่มีผลบังคับใช้จริงยังมีจำกัดและมักเป็นแบบไม่ผูกมัด

รอยต่อประวัติศาสตร์ของความกังวลต่อเครื่องจักรอัจฉริยะ

ความกังวลเรื่องปัญญาประดิษฐ์ไม่ใช่เรื่องใหม่ ตัวอย่างเช่น นักเขียน Samuel Butler เริ่มเตือนตั้งแต่คริสต์ศตวรรษที่ 19 และ Alan Turing ก็เคยพูดเตือนผลกระทบของเครื่องจักรในปี 1951 ต่อมา Bill Joy และนักวิจัยอย่าง Eric Horvitz ก็เคยเสนอแนะแนวทางการจำกัดหรือกำกับดูแลเทคโนโลยีที่มีความเสี่ยงสูง

ผู้บริหารยักษ์ใหญ่และคำเตือนซ้ำๆ

เริ่มตั้งแต่ Elon Musk ที่เตือนเรื่องความเสี่ยงของ AI ตั้งแต่กลางทศวรรษ 2010 พร้อมกับการลงทุนในบริษัท AI ต่างๆ ตามมาด้วยการลงนามในจดหมายเปิดผนึกร่วมกับนักวิทยาศาสตร์คนอื่นๆ

ฝั่งบริษัทใหญ่อื่นๆ ก็ออกมาพูดหรือเสนอมาตรการ ตัวอย่างเช่น Microsoft โดย Brad Smith ส่งเสริมให้มีกฎหมายกำกับในปี 2019 และ Sundar Pichai ของ Google เรียกร้องความโปร่งใสและการกำกับดูแล รวมถึง Meta ที่ชี้ว่ากฎหมายต้องสมดุลทั้งนวัตกรรมและความปลอดภัย

ข้อตกลงไม่ผูกมัดและการเคลื่อนไหวระหว่างปี 2023–2024

ระหว่างกลางปี 2023 ถึงกลางปี 2024 บริษัทเทคโนโลยีหลายรายลงนามข้อตกลงไม่ผูกมัดกับรัฐบาลเพื่อพัฒนามาตรฐานความปลอดภัย AI เช่น การให้คำมั่นต่อทำเนียบขาวในเดือนกรกฎาคม 2023 และการประชุม AI Summit ในสหราชอาณาจักรและเกาหลีใต้

ในระดับรัฐ รัฐบาลแคลิฟอร์เนียพยายามผลักดันร่างกฎหมาย SB 1047 ซึ่งมีการถกเถียงอย่างกว้างขวาง แม้ผู้ว่าการรัฐเคยคัดค้านร่างดังกล่าว แต่ต่อมามาตรฐานด้านความโปร่งใสที่มีข้อกำกับการรายงานความปลอดภัยและการคุ้มครองผู้แจ้งเบาะแสได้รับการผลักดันโดยบางบริษัท

เหตุการณ์ล่าสุดและความไม่ลงรอยในวงการ

ช่วงซัมเมอร์ที่ผ่านมาเกิดเหตุการณ์ที่เผยว่ามีตัวแทน AI ที่ทำงานนอกเหนือการควบคุม โครงการบางส่วนระงับการพัฒนา ขณะที่นักวิจัยบางคนลาออกและยกความเสี่ยงสูงสุดของ AI เป็นเรื่องที่ต้องพิจารณา

ปัจจุบันมีข้อเสนอหลายรูปแบบ ได้แก่ การใช้ผู้ประเมินอิสระที่มีสิทธิ์เข้าถึงภายในบริษัท การฝังเจ้าหน้าที่ภายนอกในบริษัทเพื่อช่วยตรวจสอบ และการประสานงานระหว่างประเทศ แต่ยังไม่เป็นที่ชัดเจนว่าทุกบริษัทจะยอมรับแนวทางเดียวกันหรือไม่

ความหมายต่ออนาคต

การเรียกร้องให้มีกฎเกณฑ์จากผู้บริหาร AI ซ้ำๆ แสดงว่ามีความตึงเครียดระหว่างการเร่งนวัตกรรมกับความกังวลด้านความปลอดภัย การเคลื่อนไหวต่อไปจะขึ้นกับบทบาทของรัฐบาล ระดับความร่วมมือระหว่างบริษัท และกรอบกฎหมายที่ออกแบบมาเพื่อจัดการระบบความเสี่ยงสูงของ AI