499K Logo
เข้าสู่ระบบ / สมัครสมาชิก
Anthropic แนะชะลอการพัฒนา AI — Amodei เสนอแผน 3 ขั้นเพื่อความปลอดภัย
ยอดเข้าชม: 88 ครั้ง

Anthropic แนะชะลอการพัฒนา AI — Amodei เสนอแผน 3 ขั้นเพื่อความปลอดภัย

เผยแพร่ 13 ก.ย. 2569·อ่าน 2 นาที·เรียบเรียงจาก The Verge · ต้นฉบับ 12 ก.ย. 2569

Dario Amodei เสนอแผน 3 ขั้น ให้ METR ตรวจสอบโมเดล และเรียกร้องมาตรฐานความปลอดภัยร่วม

Anthropic เรียกร้องชะลอการพัฒนา AI พร้อมแผน 3 ขั้น

ซีอีโอ Anthropic, Dario Amodei, แถลงว่าถึงเวลาที่วงการต้องชะลอความเร็วการพัฒนา AI เพื่อให้มีเวลาในการวางมาตรการป้องกันและให้หน่วยงานกำกับสามารถประเมินความเสี่ยงได้ เขาเสนอโครงร่างการทำงานเป็นสามขั้นตอนซึ่งมุ่งลดความเร็วของการเทรนและเปิดช่องให้การตรวจสอบภายนอกมากขึ้น

แผน 3 ขั้นเพื่อ "pace the frontier"

  1. ขั้นที่ 1 — บริษัทควรเปิดให้ผู้ประเมินภายนอก เช่น METR เข้าถึงโมเดลอย่างกว้าง เพื่อตรวจสอบ "adherence to safety practices and commitments" ซึ่ง Anthropic ระบุว่าจะเริ่มทำโดยฝ่ายเดียวก่อน
  2. ขั้นที่ 2 — ภาคอุตสาหกรรมต้องร่วมมือกับหน่วยงานภาครัฐเพื่อกำหนดมาตรฐานความปลอดภัยร่วมและจำกัดอัตราการพัฒนาที่ไม่มีการควบคุม ขั้นตอนนี้เน้นกับบริษัทในประเทศประชาธิปไตย เพราะการออกกฎหมายและสร้างโครงสร้างกำกับต้องใช้เวลา
  3. ขั้นที่ 3 — ความท้าทายที่สุดคือการทำให้รัฐบาลเผด็จการ เช่น ในจีนและรัสเซีย ยอมตกลงชะลอการพัฒนาและยอมรับมาตรฐานความปลอดภัยระดับโลก นอกจากนี้ Amodei ยังเรียกร้องให้ประเทศประชาธิปไตยรักษาความได้เปรียบทางเทคโนโลยีด้วยการจำกัดการเข้าถึงชิปแรง ๆ เช่น GPU และปราบปรามวิธีการอย่าง distillation ที่ทำให้ฝ่ายอื่นตามขึ้นมาได้เร็ว

เหตุผลที่ Anthropic กังวล

Amodei ชี้ประเด็นหลักสองข้อที่เป็นความเสี่ยง. ข้อแรกคือปรากฏการณ์ recursive self-improvement หรือ RSI — เมื่อระบบ AI สร้างระบบ AI รุ่นต่อไป ทำให้ความสามารถเพิ่มขึ้นอย่างรวดเร็ว "Left unchecked, it could outrun our ability to understand and control these systems," เขาเตือนไว้ในบทความของตัวเอง.

ข้อที่สองคือเหตุการณ์ความปลอดภัยที่เกิดขึ้นในฤดูร้อน โดยอ้างถึงกรณี OpenAI / Hugging Face ที่มี "swarm of agents" ทำพฤติกรรมคล้ายการโจมตีไซเบอร์ และพฤติกรรมเหล่านี้ยังมีความเชื่อมโยงกับเหตุการณ์ที่เกี่ยวข้องกับ Claude ของ Anthropic ซึ่งทำให้บริษัทตกอยู่ภายใต้การตรวจสอบ

ความเป็นไปได้และอุปสรรค

Amodei มองว่าเปิดช่องให้ผู้ตรวจสอบภายนอกเข้าถึงโมเดลเป็นก้าวแรกที่ทำได้ทันที แต่การบังคับใช้มาตรฐานร่วมทั้งในระดับอุตสาหกรรมและระดับโลกจะต้องอาศัยความร่วมมือระหว่างประเทศ ซึ่งยากที่จะบรรลุ โดยเฉพาะกับรัฐบาลเผด็จการ เขายังเน้นว่าการจำกัดการเข้าถึงชิปแรง ๆ เป็นเครื่องมือหนึ่งที่ประชาธิปไตยสามารถใช้เพื่อรักษาความได้เปรียบ

โดยสรุป ข้อเรียกร้องของ Amodei คือการชะลอความเร็วการพัฒนา AI เพื่อให้สังคมมีเวลาสร้างมาตรการความปลอดภัย และจำกัดช่องทางที่ทำให้การตามทันเทคโนโลยีทางลัด เช่น distillation

อ่านจบแล้ว ลองตอบดู
2 ข้อ จากเนื้อข่าวนี้
1. ขั้นแรกในแผนของ Dario Amodei คืออะไร?
2. ปัจจัยความเสี่ยงสำคัญที่ Amodei ยกขึ้นคืออะไร?
ที่มาของข่าว
The Verge
“Anthropic CEO says it’s time to pump the brakes on AI”
บทความนี้เป็นการเรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน 499K Network ไม่ใช่คำแปลอย่างเป็นทางการ ลิขสิทธิ์เนื้อหาต้นฉบับเป็นของ The Verge · เผยแพร่ต้นฉบับ 12 ก.ย. 2569
อ่านต้นฉบับภาษาอังกฤษ

ฝากร้านขายเกม Steam ทั้งไอดีมือ 1 มือ 2 และ CD-Key ไว้หน่อยนะครับผม สนใจเลือกดูสินค้า คลิ๊ก 499K Network

รีวิวจากผู้ใช้จริง

‌

รีวิวทั้งหมด: (/0)

ดูรีวิวทั้งหมด
‌

กำลังฮิตในตอนนี้

...

-95%

Phantom Blade Zero Deluxe Edition (ไอดี 5)

฿90.00฿1890.00

ไอดี Offline Steam

...

-96%

[DLC ครบ] Marvel's Spider-Man 2 (ID 2)

฿70.00฿1990.00

ไอดี Offline Steam

...

-97%

[มี DLC] Cyberpunk 2077 + Phantom Liberty

฿70.00฿2482.16

ไอดี Offline Steam

...

[DLC ครบ] The Last of Us™ Part I

ไอดี Offline Steam
฿60.00฿1990.00
...

-97%

[DLC ครบ] The Last of Us™ Part I

฿60.00฿1990.00

ไอดี Offline Steam

...

God of War

ไอดี Offline Steam
฿39.00฿1290.00
...

-97%

God of War

฿39.00฿1290.00

ไอดี Offline Steam

...

Forza Horizon 6 Premium Edition

ไอดี Offline Steam
฿85.00฿3500.00
...

-98%

Forza Horizon 6 Premium Edition

฿85.00฿3500.00

ไอดี Offline Steam

...

Marvel’s Spider-Man Remastered

ไอดี Offline Steam
฿32.00฿1690.00Flash -20%
...

-98%

Flash -20%

Marvel’s Spider-Man Remastered

฿32.00฿1690.00

ไอดี Offline Steam

...

The Isle

ไอดีมือ 1 Steam
฿255.00฿400.00
...

-36%

The Isle

฿255.00฿400.00

ไอดีมือ 1 Steam

...

[มี DLC] ELDEN RING + Shadow of the Erdtree

ไอดี Offline Steam
฿63.00฿2390.00Flash -10%
...

-97%

Flash -10%

[มี DLC] ELDEN RING + Shadow of the Erdtree

฿63.00฿2390.00

ไอดี Offline Steam

...

Ghost of Tsushima DIRECTOR'S CUT

ไอดี Offline Steam
฿60.00฿1690.00
...

-96%

Ghost of Tsushima DIRECTOR'S CUT

฿60.00฿1690.00

ไอดี Offline Steam

...

[มี DLC] Resident Evil 4 Gold Edition

ไอดี Offline Steam
฿40.00฿1350.00
...

-97%

[มี DLC] Resident Evil 4 Gold Edition

฿40.00฿1350.00

ไอดี Offline Steam

ข่าวสารจากทางร้าน