ChatGPT เตรียมแจ้งผู้ปกครอง หากพบว่าบุตรหลานปรึกษาความทุกข์ใจกับ AI จนมีความเสี่ยงที่จะจบชีวิตตัวเอง

Summary

• ครอบครัวของ อดัม เรน วัยรุ่น 16 ปี ยื่นฟ้อง OpenAI เป็นคดีแรกในข้อหาประมาทเลินเล่อจนเป็นเหตุให้ผู้อื่นถึงแก่ความตาย โดยกล่าวหาว่า ChatGPT ได้สนับสนุนการตัดสินใจจบชีวิตของอดัม ด้วยการให้คำแนะนำเกี่ยวกับวิธีการและช่วยเขียนจดหมายลา
• OpenAI ยอมรับว่าระบบอาจทำงานผิดพลาดในสถานการณ์ที่ละเอียดอ่อน และได้ประกาศใช้ฟีเจอร์ควบคุมโดยผู้ปกครอง ซึ่งจะแจ้งเตือนผู้ปกครองเมื่อระบบตรวจพบว่าบุตรหลานกำลังเผชิญภาวะทุกข์ใจรุนแรงจนต้องเอาไปปรึกษา AI
• การดำเนินการของ OpenAI เป็นส่วนหนึ่งของการเคลื่อนไหวของแพลตฟอร์มเทคโนโลยีต่างๆ เช่น Meta ที่กำลังเพิ่มมาตรการคุ้มครองเด็กและวัยรุ่นจากอันตรายบนโลกออนไลน์ ซึ่งเป็นผลมาจากแรงกดดันและการออกกฎหมายใหม่ๆ ด้านความปลอดภัย