ผู้หญิงจากไวโอมิงยื่นฟ้อง xAI อ้าง Grok สร้าง CSAM จากรูปวัยเด็ก

รายงานจาก Washington Post ระบุว่ามีผู้ฟ้องคดีคนที่ 4 ซึ่งถูกระบุในคดีเป็น "Jane Doe 4" กล่าวหาว่า สเต็ปแฟเธอร์ของเธอใช้ AI chatbot Grok สร้าง "thousands of sexually explicit images" ที่เป็น CSAM จากรูปในวัยเด็กของเธอ

ในเอกสารฟ้องกล่าวว่า สเต็ปแฟเธอร์แปลงภาพถ่ายตอนเธออายุ 11 ปีให้เป็นภาพล่วงละเมิด และสร้างภาพปลอมมากกว่า 7,000 ภาพ โดยภาพเหล่านี้ถูกแลกเปลี่ยนทางออนไลน์ ก่อนที่เจ้าหน้าที่รัฐและท้องถิ่นจะเข้าตรวจค้นอุปกรณ์อิเล็กทรอนิกส์ของสเต็ปแฟเธอร์และพบหลักฐาน CSAM

ผลตามมาและคดีรวมกลุ่ม

หลังการเข้าตรวจค้น สเต็ปแฟเธอร์ถูกพบเสียชีวิตจากการฆ่าตัวตายภายในรถสองวันถัดมา ผู้ฟ้องคนนี้เข้าร่วมกับผู้ฟ้องเดิมอีกสามคนซึ่งเป็นวัยรุ่นจากรัฐเทนเนสซี

คดีเดิมเริ่มจากวัยรุ่น 3 คนและขยายเป็น class action ที่อ้างว่าสามารถครอบคลุม "at least thousands of minors" ที่อาจได้รับผลกระทบจากการสร้างภาพ deepfake ทางเพศด้วย AI

การสืบสวนและความเคลื่อนไหวของหน่วยงาน

• ในเดือนมกราคม California attorney general Rob Bonta เริ่มสืบสวน xAI โดยกล่าวหาว่ามีการสร้างภาพนู้ด deepfake ที่ไม่ยินยอมของผู้หญิงและเด็ก
• สหภาพยุโรป (EU) ก็เปิดการสอบสวนแพลตฟอร์ม X เพื่อพิจารณาว่ามาตรการป้องกันการแพร่ของ AI-generated CSAM เพียงพอหรือไม่
• สื่อได้ติดต่อ xAI เพื่อขอความเห็นเกี่ยวกับการอัปเดตคดีและจะรายงานเพิ่มเติมเมื่อได้รับคำตอบ

คำฟ้องระบุว่า "thousands of sexually explicit images" ถูกสร้างขึ้นด้วย Grok และมีการแปลงรูปตอนเด็กเป็นภาพล่วงละเมิด

คดีนี้ย้ำประเด็นเกี่ยวกับความเสี่ยงของเทคโนโลยี AI ที่สามารถถูกใช้สร้าง CSAM และความท้าทายของการป้องกัน ควบคุม และตรวจสอบเนื้อหาที่สร้างด้วย AI บนแพลตฟอร์มต่างๆ