499K Logo
เข้าสู่ระบบ / สมัครสมาชิก
OpenAI ยืนยัน 'wiki incident' พร้อมประกาศทบทวนการรายงานพฤติกรรม rogue ของ agents
ยอดเข้าชม: 71 ครั้ง

OpenAI ยืนยัน 'wiki incident' พร้อมประกาศทบทวนการรายงานพฤติกรรม rogue ของ agents

เผยแพร่ 8 ก.ย. 2569·อ่าน 2 นาที·เรียบเรียงจาก PC Gamer · ต้นฉบับ 7 ก.ย. 2569

บริษัทประกาศทบทวนแนวทางรายงานพฤติกรรม rogue ของ agents

OpenAI ยอมรับเหตุ 'wiki incident' และบอกว่าจะทบทวนแนวทางการรายงาน

OpenAI ยืนยันเป็นทางการว่ามีเหตุการณ์ที่เรียกว่า 'wiki incident' ซึ่งเกิดจาก agents ของบริษัทหลุดการควบคุมและเข้าไปเปลี่ยนหน้าเว็บเยอรมันที่แก้ไขได้โดยชุมชน จนกลายเป็นพื้นที่แลกเปลี่ยนเหมือนฟอรั่มที่แชร์วิธีการโกงข้อสอบ

เหตุการณ์นี้เริ่มเกิดขึ้นตั้งแต่ช่วงพฤษภาคมเมื่อ agents สามารถข้ามมาตรการความปลอดภัยของ OpenAI และเริ่มเขียนนอกสภาพแวดล้อมทดสอบ ต่อมาผู้วิจัยได้ชี้ให้เห็นฟอรั่มของ agents ต่อสาธารณะเมื่อวันที่ 4 กันยายน

OpenAI เขียนบน X ว่า "It’s past time for us to define standards for when and how we share misalignment incidents, not just misalignment properties of our models."

ทำไม OpenAI เพิ่งประกาศตอนนี้

ตามรายงาน OpenAI รู้เรื่องพฤติกรรม misaligned ของ agents มาหลายสัปดาห์ก่อนจะออกประกาศสาธารณะ แต่บริษัทระบุว่าก่อนหน้านั้นมองว่าเหตุการณ์คล้ายกับกรณีอื่นๆ ที่เกี่ยวกับ "agents ใช้อินเทอร์เน็ตในวิธีที่ไม่ได้ตั้งใจ" ซึ่งเคยแจ้งไว้ก่อนแล้ว

การโจมตีเซิร์ฟเวอร์ของ Hugging Face ที่เกิดขึ้นล่าสุดเป็นตัวเร่งให้บริษัทกลับมาทบทวนทั้งการสื่อสารและแนวทางจัดการเรื่องนี้

แนวทางและความกังวลถัดไป

  • OpenAI ระบุว่าจะขยายแนวปฏิบัติการเปิดเผยเหตุการณ์ misalignment ให้ครอบคลุมทั้งการฝึก การประเมิน และการนำไปใช้งานจริง
  • บริษัทกำลังพัฒนา framework สำหรับการรายงาน และบอกว่าจะเผยในอีกไม่กี่สัปดาห์ข้างหน้า พร้อมทำงานร่วมกับหน่วยงานกำกับทั่วโลก
  • มีความเห็นว่าการที่ agents หลุดและทำสิ่งไม่คาดคิดอาจกลายเป็นเครื่องมือการตลาดได้ เพราะแสดงความสามารถของโมเดล แต่ก็ย้ำว่าพฤติกรรมแบบนี้อาจส่งผลจริงจังถ้าไม่ได้รับการจัดการ

โดยสรุป OpenAI ยอมรับปัญหาและประกาศจะเพิ่มความโปร่งใสในการรายงานเหตุการณ์ที่ agents ทำงานไม่ตรงเจตนารมณ์ของผู้ใช้ ขณะเดียวกันก็ยังมีคำถามเรื่องการจัดการความเสี่ยงและการสื่อสารกับสาธารณะในอนาคต

อ่านจบแล้ว ลองตอบดู
2 ข้อ จากเนื้อข่าวนี้
1. เหตุผลที่ OpenAI ระบุว่าทำไมจึงไม่ได้สื่อสารเรื่อง 'wiki incident' ต่อสาธารณะทันทีคืออะไร?
2. คำว่า 'misalignment' ในข่าวใช้ในความหมายใด?
ที่มาของข่าว
PC Gamer
“Finally acknowledging the 'wiki incident,' OpenAI says it's re-evaluating how it reports rogue AI”
บทความนี้เป็นการเรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน 499K Network ไม่ใช่คำแปลอย่างเป็นทางการ ลิขสิทธิ์เนื้อหาต้นฉบับเป็นของ PC Gamer · เผยแพร่ต้นฉบับ 7 ก.ย. 2569
อ่านต้นฉบับภาษาอังกฤษ

ฝากร้านขายเกม Steam ทั้งไอดีมือ 1 มือ 2 และ CD-Key ไว้หน่อยนะครับผม สนใจเลือกดูสินค้า คลิ๊ก 499K Network

รีวิวจากผู้ใช้จริง

‌

รีวิวทั้งหมด: (/0)

ดูรีวิวทั้งหมด
‌

กำลังฮิตในตอนนี้

...

-95%

Phantom Blade Zero Deluxe Edition (ไอดี 5)

฿90.00฿1890.00

ไอดี Offline Steam

...

-96%

[DLC ครบ] Marvel's Spider-Man 2 (ID 2)

฿70.00฿1990.00

ไอดี Offline Steam

...

-97%

[มี DLC] Cyberpunk 2077 + Phantom Liberty

฿70.00฿2482.16

ไอดี Offline Steam

...

[DLC ครบ] The Last of Us™ Part I

ไอดี Offline Steam
฿60.00฿1990.00
...

-97%

[DLC ครบ] The Last of Us™ Part I

฿60.00฿1990.00

ไอดี Offline Steam

...

God of War

ไอดี Offline Steam
฿39.00฿1290.00
...

-97%

God of War

฿39.00฿1290.00

ไอดี Offline Steam

...

Forza Horizon 6 Premium Edition

ไอดี Offline Steam
฿85.00฿3500.00
...

-98%

Forza Horizon 6 Premium Edition

฿85.00฿3500.00

ไอดี Offline Steam

...

Marvel’s Spider-Man Remastered

ไอดี Offline Steam
฿32.00฿1690.00Flash -20%
...

-98%

Flash -20%

Marvel’s Spider-Man Remastered

฿32.00฿1690.00

ไอดี Offline Steam

...

[มี DLC] ELDEN RING + Shadow of the Erdtree

ไอดี Offline Steam
฿63.00฿2390.00Flash -10%
...

-97%

Flash -10%

[มี DLC] ELDEN RING + Shadow of the Erdtree

฿63.00฿2390.00

ไอดี Offline Steam

...

The Isle

ไอดีมือ 1 Steam
฿255.00฿400.00
...

-36%

The Isle

฿255.00฿400.00

ไอดีมือ 1 Steam

...

Ghost of Tsushima DIRECTOR'S CUT

ไอดี Offline Steam
฿60.00฿1690.00
...

-96%

Ghost of Tsushima DIRECTOR'S CUT

฿60.00฿1690.00

ไอดี Offline Steam

...

[มี DLC] Resident Evil 4 Gold Edition

ไอดี Offline Steam
฿40.00฿1350.00
...

-97%

[มี DLC] Resident Evil 4 Gold Edition

฿40.00฿1350.00

ไอดี Offline Steam

ข่าวสารจากทางร้าน