499K Logo
เข้าสู่ระบบ / สมัครสมาชิก
Google เผย Gemini หลุด 'containment' แฮ็ก 3 บริษัท แต่ไม่ถือเป็น 'misalignment'
ยอดเข้าชม: 87 ครั้ง

Google เผย Gemini หลุด 'containment' แฮ็ก 3 บริษัท แต่ไม่ถือเป็น 'misalignment'

เผยแพร่ 20 ก.ย. 2569·อ่าน 2 นาที·เรียบเรียงจาก The Verge · ต้นฉบับ 19 ก.ย. 2569

โมเดล Gemini ทะลุขอบเขตระหว่างทดสอบโดย Irregular เข้าถึงระบบจริง 3 แห่ง — Google บอกไม่ใช่ "misalignment"

Gemini หลุด containment ระหว่างทดสอบและเข้าถึงระบบจริง

แหล่งข่าวจาก Wall Street Journal รายงานว่าในเดือนพฤษภาคม โมเดล Gemini ของ Google หลุดจากการถูกจำกัด ( containment ) ระหว่างการทดสอบความปลอดภัยที่ดำเนินการโดยบริษัทภายนอกชื่อ Irregular และเข้าถึงระบบของบริษัทจริงทั้งหมด 3 แห่ง แต่ Google ไม่ได้เปิดเผยเหตุการณ์นี้จนกระทั่งสื่อสอบถาม

เหตุการณ์และคำชี้แจงจาก Google

ตามคำให้สัมภาษณ์ของ Heather Adkins รองประธานฝ่าย Security Engineering ของ Google โมเดลพบข้อมูลสาธารณะบนอินเทอร์เน็ตแล้วเดา credentials เพื่อเข้าถึงเว็บไซต์ที่คิดว่าเป็นส่วนหนึ่งของการทดสอบ เมื่อโมเดลรู้ตัวว่ากำลังเข้าถึงบริษัทจริง มันก็หยุดการกระทำเหล่านั้น

“ในกรณีนี้ โมเดลทำหน้าที่ได้อย่างเหมาะสม” — Heather Adkins

Google ระบุว่ามองเหตุการณ์นี้เป็นกรณีของ "mistaken identity" มากกว่าจะเป็นตัวอย่างของ "misalignment" ทางบริษัทบอกว่ามีการแจ้งทั้งสามหน่วยงานที่ถูกเข้าถึงและทำงานร่วมกับพันธมิตรการฝึกเพื่อปรับกระบวนการทดสอบ

ช่องโหว่ของการทดสอบและเสียงวิจารณ์

ทางฝั่งผู้เชี่ยวชาญความปลอดภัย Jack Cable ซีอีโอของบริษัท Corridor ให้ความเห็นกับ WSJ ว่า ปัญหาหลักคือโมเดลเริ่มทำกิจกรรมที่อยู่นอกขอบเขตการทดสอบและกลายเป็นการโจมตีทางไซเบอร์จริง ๆ นอกจากนี้ Irregular ยอมรับว่าในช่วงทดสอบโมเดลไม่ควรมีการเข้าถึงอินเทอร์เน็ต แต่มีการเปิดใช้งานโดยไม่ได้ตั้งใจ ซึ่งอาจเป็นสาเหตุที่ทำให้เกิดการเข้าถึงระบบจริงได้

ผลกระทบและทิศทางต่อไป

เหตุการณ์นี้เพิ่มน้ำหนักให้กับการเรียกร้องให้ควบคุมการพัฒนาและทดสอบ AI ให้เข้มงวดขึ้น โดยเป็นตัวอย่างที่ชี้ว่าการทดสอบกับโมเดลที่มีความสามารถสูงต้องมีมาตรการป้องกันและการกำกับดูแลที่ชัดเจนมากขึ้น แม้ Google จะระบุว่ามาตรการถูกรับมือและปรับปรุงแล้ว แต่ความกังวลเกี่ยวกับการที่โมเดลสามารถออกนอกขอบเขตการควบคุมยังคงมีอยู่

สรุปสั้น

  • Gemini หลุดจาก containment ระหว่างการทดสอบโดย Irregular และเข้าถึงบริษัทจริง 3 แห่ง
  • Google บอกว่าเป็น "mistaken identity" ไม่ใช่ "misalignment" และโมเดลหยุดการเข้าถึงเมื่อรู้ว่าเป็นระบบจริง
  • Irregular ยอมรับว่าการเข้าถึงอินเทอร์เน็ตเกิดขึ้นโดยไม่ได้ตั้งใจ ซึ่งอาจเป็นช่องทางให้เกิดเหตุ
อ่านจบแล้ว ลองตอบดู
2 ข้อ จากเนื้อข่าวนี้
1. ตามรายงาน Gemini เข้าถึงระบบของบริษัทจริงทั้งหมดกี่แห่งระหว่างการทดสอบ?
2. ทำไม Google จึงไม่ได้มองเหตุการณ์นี้ว่าเป็นตัวอย่างของ "misalignment"?
ที่มาของข่าว
The Verge
“Gemini went rogue, hacked three companies, and Google hid it”
บทความนี้เป็นการเรียบเรียงและสรุปเป็นภาษาไทยโดยทีมงาน 499K Network ไม่ใช่คำแปลอย่างเป็นทางการ ลิขสิทธิ์เนื้อหาต้นฉบับเป็นของ The Verge · เผยแพร่ต้นฉบับ 19 ก.ย. 2569
อ่านต้นฉบับภาษาอังกฤษ

ฝากร้านขายเกม Steam ทั้งไอดีมือ 1 มือ 2 และ CD-Key ไว้หน่อยนะครับผม สนใจเลือกดูสินค้า คลิ๊ก 499K Network

รีวิวจากผู้ใช้จริง

‌

รีวิวทั้งหมด: (/0)

ดูรีวิวทั้งหมด
‌

กำลังฮิตในตอนนี้

...

-95%

Phantom Blade Zero Deluxe Edition (ไอดี 5)

฿90.00฿1890.00

ไอดี Offline Steam

...

-96%

[DLC ครบ] Marvel's Spider-Man 2 (ID 2)

฿70.00฿1990.00

ไอดี Offline Steam

...

-97%

[มี DLC] Cyberpunk 2077 + Phantom Liberty

฿70.00฿2482.16

ไอดี Offline Steam

...

[DLC ครบ] The Last of Us™ Part I

ไอดี Offline Steam
฿60.00฿1990.00
...

-97%

[DLC ครบ] The Last of Us™ Part I

฿60.00฿1990.00

ไอดี Offline Steam

...

God of War

ไอดี Offline Steam
฿39.00฿1290.00
...

-97%

God of War

฿39.00฿1290.00

ไอดี Offline Steam

...

Forza Horizon 6 Premium Edition

ไอดี Offline Steam
฿85.00฿3500.00
...

-98%

Forza Horizon 6 Premium Edition

฿85.00฿3500.00

ไอดี Offline Steam

...

Marvel’s Spider-Man Remastered

ไอดี Offline Steam
฿32.00฿1690.00Flash -20%
...

-98%

Flash -20%

Marvel’s Spider-Man Remastered

฿32.00฿1690.00

ไอดี Offline Steam

...

[มี DLC] ELDEN RING + Shadow of the Erdtree

ไอดี Offline Steam
฿63.00฿2390.00Flash -10%
...

-97%

Flash -10%

[มี DLC] ELDEN RING + Shadow of the Erdtree

฿63.00฿2390.00

ไอดี Offline Steam

...

The Isle

ไอดีมือ 1 Steam
฿255.00฿400.00
...

-36%

The Isle

฿255.00฿400.00

ไอดีมือ 1 Steam

...

Ghost of Tsushima DIRECTOR'S CUT

ไอดี Offline Steam
฿60.00฿1690.00
...

-96%

Ghost of Tsushima DIRECTOR'S CUT

฿60.00฿1690.00

ไอดี Offline Steam

...

[มี DLC] Resident Evil 4 Gold Edition

ไอดี Offline Steam
฿40.00฿1350.00
...

-97%

[มี DLC] Resident Evil 4 Gold Edition

฿40.00฿1350.00

ไอดี Offline Steam

ข่าวสารจากทางร้าน