ผู้ว่ารัฐแคลิฟอร์เนียลงนามกฎหมายใหม่เพื่อคุ้มครองเยาวชน

ผู้ว่าการรัฐแคลิฟอร์เนีย Gavin Newsom ลงนามกฎหมายหลายฉบับที่มุ่งคุ้มครองเด็กและเยาวชนจากความเสี่ยงทางเทคโนโลยี กฎหมายชุดนี้ครอบคลุมทั้งข้อจำกัดต่อฟีเจอร์บนโซเชียลมีเดียและกฎสำหรับบริษัทที่พัฒนา AI chatbots

ข้อจำกัดต่อการใช้โซเชียลมีเดียของเยาวชน

กฎใหม่สำหรับ AI chatbots

• จำกัดเวลาการโต้ตอบของเยาวชนกับ chatbots และข้อจำกัดด้านการเข้าถึง
• บังคับให้บริษัทต้องมี mental health resources และ safety protocols กรณีที่เยาวชนพูดถึง self harm
• ต้องแจ้งผู้ปกครองหากผู้ใช้ปิดค่า safety settings

การตรวจสอบและความรับผิดทางกฎหมาย

กฎหมายกำหนดให้บริษัท AI ต้องทำ independent child safety audits และ annual risk assessments บริษัทที่ไม่ปฏิบัติตามอาจเผชิญความรับผิดทางกฎหมายตามกฎใหม่นี้ การเคลื่อนไหวดังกล่าวต่อเนื่องจากกรอบการตรวจสอบ AI ที่ Newsom เซ็นเมื่อวันก่อน

เสียงวิจารณ์และประเด็นความเป็นส่วนตัว

องค์กร Electronic Frontier Foundation (EFF) วิจารณ์ว่าการห้ามฟีเจอร์ดังกล่าวอาจเท่ากับการปิดกั้นการเข้าถึงโซเชียลของเยาวชน และเตือนว่าการบังคับตรวจสอบอายุเพื่อยืนยันสิทธิ์อาจเพิ่มความเสี่ยงด้าน privacy เนื่องจากต้องเปิดเผยข้อมูลส่วนตัวมากขึ้น

"Denying minors access to digital forums – or stripping out basic tools needed to navigate them – is not going to help make young people safer or healthier in the AI age," — Rindala Alajaji, EFF Associate Director of State Affairs

มาตรการเสริม

นอกจากข้อจำกัดต่อ chatbots และโซเชียลมีเดียแล้ว กฎหมายฉบับใหม่ยังขยายความหมายของ child sexual exploitation ให้ครอบคลุมภาพที่สร้างหรือเปลี่ยนแปลงด้วย generative AI และเพิ่มการคุ้มครองต่อ targeted advertising รวมถึงการกำกับการใช้ข้อมูลของ K-12 students

กฎหมายชุดนี้เป็นการตอบโต้ความกังวลเรื่องผลกระทบของเทคโนโลยีต่อเยาวชน แต่ว่ายังเจอเสียงคัดค้านเรื่องความเหมาะสมของวิธีการและผลกระทบต่อ privacy