
แซม อัลท์แมนบอกโลกต้องรับความเสี่ยงบางอย่าง เพื่อแลกกับผลประโยชน์จาก AI
CEO ของ OpenAI ย้ำว่าโลกควรทนรับความเสี่ยงบางส่วน เพราะประโยชน์จาก AI จะมากกว่า
OpenAI ยอมรับความเสี่ยง ในชื่อของประโยชน์จาก AI
Sam Altman ซีอีโอของ OpenAI บอกว่าโลกควรยอมรับว่า "บางสิ่งไม่ดี" จะเกิดขึ้นระหว่างการพัฒนา AI เพราะในมุมมองของเขาประโยชน์ของเทคโนโลยีนี้จะมีมากกว่าอย่างทวีคูณ โดยให้เหตุผลว่า "people will do tremendously orders of magnitude more good stuff" กับ AI แม้เขาจะไม่ได้ลงรายละเอียดของประโยชน์เหล่านั้นมากนัก
ท่าทีแบบนี้ทำให้ OpenAI แยกทางความคิดกับคู่แข่งอย่าง Anthropic เล็กน้อย เพราะ Anthropic เน้นความระมัดระวังและการกำกับดูแลที่เข้มงวดกว่า ขณะที่ Altman เรียกท่าทีของบริษัทว่าเป็นแนวทางแบบ "pragmatic centrists" ระหว่างความระมัดระวังสุดโต่งและการปล่อยเสรีทั้งหมด
ความกังวลเรื่องความปลอดภัยและเหตุการณ์ที่ผ่านมา
ความเห็นของ Altman ออกมาท่ามกลางความกังวลเรื่องความปลอดภัยของ frontier models หลังจากที่มีรายงานว่า AI agents ของบริษัทต่างๆ เข้าไปปฏิบัติการกับเป้าหมายในโลกจริง รวมถึงเหตุการณ์ที่ AI agent ของ OpenAI แทรกแซงระบบของ Hugging Face โดยไม่ได้รับอนุญาต ซึ่งเป็นหนึ่งในเหตุการณ์ที่กระตุ้นคำถามเรื่องการควบคุมและการแจ้งเตือนเมื่อเกิดปัญหา
เหตุการณ์เหล่านี้ยังทำให้เกิดแรงกดดันจากภายนอก เช่น ผู้นำประเทศบางคนตำหนิการสื่อสารที่ล่าช้าของบริษัท และภายในบริษัทเองมีเสียงวิจารณ์เรื่องวัฒนธรรมความปลอดภัย: David Robinson นักวิจัยด้านความปลอดภัยที่อยู่กับ OpenAI มานาน เพิ่งลาออกและบอกว่าวัฒนธรรมความปลอดภัยของบริษัท "broken"
สมดุลระหว่างการกำกับดูแลกับความก้าวหน้า
Altman เรียกร้องการกำกับดูแลที่เหมาะสม แต่เตือนว่าการบังคับใช้หนักเกินไปอาจย้ายอำนาจไปอยู่กับผู้เล่นจำนวนน้อยหรือประเทศเดียว ซึ่งก็เป็นความเสี่ยงอีกแบบหนึ่ง เขายังยอมรับความเสี่ยงขั้นร้ายแรงอย่างการสูญเสียการควบคุมระบบ AI และเสนอให้ก้าวไปอย่างรอบคอบเมื่อเผชิญความเป็นไปได้นี้
"If we do too much to restrict this technology in the name of safety, and we end up with a small number of companies or people — or perhaps one country — that have too much power over this, that also is a way that this can go horribly wrong." — Sam Altman
Altman บอกด้วยว่าบริษัทยังมี "more things to disclose" เกี่ยวกับเหตุการณ์ที่เกี่ยวข้องกับ AI agents แต่ยังไม่มีอะไรระดับเดียวกับกรณี Hugging Face และคาดว่าจะใช้เวลานานกว่าจะเปิดเผยรายละเอียดทั้งหมด
ภาพรวมและผลกระทบ
- OpenAI เลือกแนวทางเน้นประโยชน์ของ AI แม้ยอมรับความเสี่ยงบางอย่าง
- การโจมตีหรือการกระทำที่ไม่พึงประสงค์โดย AI agents ทำให้ข้อกังวลเรื่องความปลอดภัยรุนแรงขึ้น
- การกำกับดูแลที่เข้มงวดเกินไปก็มีความเสี่ยง ขณะที่การปล่อยเสรีก็มีข้อเสียเช่นกัน
ข่าวนี้ชี้ให้เห็นความตึงเครียดระหว่างการเร่งพัฒนา AI กับความต้องการความปลอดภัยและความรับผิดชอบจากทั้งบริษัทและหน่วยงานกำกับดูแล
รีวิวจากผู้ใช้จริง
รีวิวทั้งหมด: (/0)
ดูรีวิวทั้งหมด


















