Anthropic เผยการโจมตีแบบ “distillation” เป็นวงกว้าง

Anthropic ประกาศผ่านช่องทางของบริษัทว่าได้ตรวจพบกว่า 24,000 บัญชีที่ Anthropic เรียกว่า "fraudulent accounts" ทำการโต้ตอบกับ Claude มากกว่า 16 ล้านครั้ง โดยมีพฤติกรรมที่บริษัทระบุว่าเป็น "distillation attacks" — คือการสกัดหรือดึงความสามารถของ Claude ไปใช้เพื่อฝึกและปรับปรุง model ของฝ่ายอื่น

บริษัทบอกว่าการโจมตีเหล่านี้มีความเข้มข้นและซับซ้อนขึ้น และอ้างว่าแยกแยะแคมเปญต่าง ๆ ได้ด้วยการเชื่อมโยง IP, request metadata, สัญญาณโครงสร้างพื้นฐาน รวมถึงการยืนยันจากพันธมิตรในอุตสาหกรรม

ใครถูกกล่าวหาและความเสี่ยงที่ Anthropic ห่วง

Anthropic ระบุชื่อห้องทดลองหรือผู้พัฒนาที่ถูกอ้างถึง ได้แก่ DeepSeek, Moonshot AI และ MiniMax โดยยอมรับว่าการ distillation อาจมีความชอบธรรมในบางกรณี แต่เตือนว่า "Foreign labs that illicitly distil American models can remove safeguards, feeding model capabilities into their own military, intelligence, and surveillance systems." นั่นคือความกังวลเรื่องการนำความสามารถของโมเดลไปใช้ในบริบททางทหารหรือข่าวกรอง

คำชี้แจงและการเรียกร้องให้ร่วมมือ

ในโพสต์เพิ่มเติม Anthropic เรียกร้องให้มีการตอบโต้แบบรวดเร็วและประสานงานกันระหว่างผู้เล่นในอุตสาหกรรม, นโยบาย, และชุมชน AI โดยแนบลิงก์ไปยัง บทความของบริษัทเกี่ยวกับการตรวจจับและป้องกัน distillation attacks

ประเด็นด้านกฎหมายและความเป็นส่วนตัวที่ตามมา

เรื่องนี้เกิดขึ้นหลังจากที่ Anthropic เพิ่งมีคดีเกี่ยวกับการใช้ข้อมูลมีลิขสิทธิ์เพื่อฝึกโมเดล Claude โดยในกรณีหนึ่งศาลในสหรัฐฯ เคยตัดสินว่าการเก็บข้อมูลบางส่วนเป็น fair use แต่ต่อมาบริษัทยอมจ่ายค่าปรับข้อตกลงมูลค่า $1.5 billion กับผู้แต่งหลายรายที่อ้างว่าถูกละเมิดลิขสิทธิ์

นอกจากนี้ ผู้สังเกตเห็นบน X (เดิมคือ Twitter) ชี้ว่า Anthropic ระบุว่าสามารถระบุต้นทางของแคมเปญได้ด้วยวิธีต่าง ๆ ซึ่งอาจตีความได้ว่าบริษัทมีความสามารถในการ de-anonymize ผู้ใช้ — ประเด็นที่เกี่ยวกับความเป็นส่วนตัวและการเก็บข้อมูลผู้ใช้ต้องตามมาพิจารณา

มุมมองทั่วไป

สรุปคือ Anthropic มองว่าการนำงานของบริษัทไปสกัดเพื่อฝึกโมเดลอื่นเป็นปัญหาใหญ่ โดยเฉพาะเมื่อมีความเสี่ยงที่จะนำความสามารถที่ถูกปลดมาตรการป้องกันไปใช้ในระบบทางทหารหรือการสอดแนม อย่างไรก็ตาม ประเด็นทางกฎหมายและความเห็นชอบในสังคมต่อการใช้ข้อมูลเพื่อฝึก AI ยังซับซ้อนและยังต้องถกเถียงกันต่อ

อ่านโพสต์ของ Anthropic บน X ได้ที่ ข้อความบน X และบทความอธิบายวิธีตรวจจับที่ หน้าเว็บไซต์ของบริษัท.