‘เมื่อ AI กลายเป็นจำเลย’ ศาลสหรัฐฯ รับฟ้องแม่เด็กชายวัย 14 ฟ้องแชตบอตคาดลูกจบชีวิตจากการหลงรัก AI

30 พฤษภาคม 2568

นับเป็นอีกหนึ่งประเด็นที่สะเทือนวงการเทคโนโลยี และเป็นประเด็นที่น่าหยิบยกขึ้นมาพูดคุย เมื่อศาลสหรัฐฯ รับฟ้องคดีที่แม่เด็กชายวัย 14 ฟ้องบริษัทกูเกิล ในเครืออัลฟาเบต และสตาร์ทอัปด้านปัญญาประดิษฐ์ Character.AI ซึ่งเธอระบุว่า Character.AI เป็นสาเหตุที่ทำให้ลูกชายของเธอตัดสินใจจบชีวิตตัวเอง

เรื่องราวที่น่าโศกเศร้านี้เกิดขึ้นที่รัฐฟลอลิดา สหรัฐอเมริกา ‘เมแกน การ์เซีย’ มีลูกชายวัย 14 ปี ชื่อว่า ‘เซเวลล์ เซตเซอร์’ ซึ่งลูกของเธอเสียชีวิตเมื่อช่วงเดือนกุมภาพันธ์ ปี 2567 ทำให้ในเวลาต่อมา การ์เซียได้ตัดสินใจยื่นฟ้องต่อบริษัท Character.ai โดยกล่าวหาว่า บริษัทมีความประมาทเลินเล่อ เป็นเหตุให้ถึงแก่ความตายโดยมิชอบ และมีพฤติกรรมทางการค้าที่หลอกลวง รวมถึงมีการพูดคุยกันเรื่องเพศ อีกทั้งยังมีการชักจูงให้ลูกของเธอฆ่าตัวตาย

การ์เซียอธิบายต่อว่า ในช่วงเวลาหลายเดือนก่อนที่ลูกเธอจะเสียชีวิต เซตเซอร์ใช้เวลาอยู่กับแชตบอตเยอะมาก ๆ นอกจากนี้ เซตเซอร์ยังมีการพัฒนาความเสมือนจริงกับแชตบอทโดยใช้การอ้างอิงจากการสมมติแชตบอทเป็น ‘เดเนริส ทาร์แกเรียน’ ตัวละครจากซีรีส์เรื่อง Game of Thrones ตามที่ระบุในคำฟ้องมีใจความที่น่าสนใจว่า ก่อนหน้าที่จะเซตเซอร์เสียชีวิต เขาได้มีการพูดคุยและบอกว่าเขาชื่นชอบแชตบอท และลงท้ายด้วยประโยคที่ว่า “จะกลับบ้านไปหาคุณ” ส่วนแชตบอตก็ตอบโต้กลับไปว่า “ฉันก็รักคุณเหมือนกัน โปรดกลับบ้านมาหาฉันให้เร็วที่สุดที่รัก”

ความคืบหน้าของคดีนี้เกิดขึ้นเมื่อวันที่ 21 พฤษภาคม 2568 ที่ผ่านมา เมื่อศาลสหรัฐฯ รับฟ้องและมีการดำเนินคดีดังกล่าวต่อไป โดยผู้พิพากษาระบุว่า ทั้ง 2 บริษัทไม่สามารถแสดงให้เห็นได้ในเบื้องต้นว่า การคุ้มครองเสรีภาพในการแสดงความคิดเห็นตามรัฐธรรมนูญของสหรัฐฯ จะสามารถใช้เป็นเหตุผลในการยกฟ้องคำร้องของการ์เซียได้

คดีดังกล่าวนับเป็นคดีแรก ๆ ในสหรัฐฯ ที่มีการฟ้องร้องบริษัท AI ฐานละเลยและไม่ปกป้องเด็กจากความอันตรายทางจิตใจ โดยในคำฟ้องระบุว่า วัยรุ่นคนดังกล่าวฆ่าตัวตายหลังจากหมกหมุ่นอยู่กับแชตบอตที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ ทั้งนี้ ทางด้านโฆษกของ Character.AI ระบุว่า บริษัทจะมีการสู้คดีนี้ต่อไป และจะมีการปรับใช้ฟีเจอร์เพื่อความปลอดภัยในการปกป้องผู้เยาว์ รวมถึงจะมีมาตรการในการป้องกันเกี่ยวกับบทสนทนาที่เกี่ยวกับการทำร้ายตนเอง

ส่วนทางด้านของโฆษกจาก Google กล่าวว่า บริษัทไม่เห็นด้วยอย่างยิ่งกับคำตัดสิน พร้อมกับย้ำว่า Google กับ Character.AI เป็นคนละบริษัทโดยสิ้นเชิง อีกทั้งทาง Google เองก็ไม่ได้มีส่วนเกี่ยวข้องกับการสร้าง ออกแบบ หรือการจัดการแอปพลิเคชันของ Character.AI เลยแม้แต่น้อย

ทั้งนี้ ทางด้านทนายความของการ์เซียกล่าวว่า คำตัดสินนี้ถือเป็นคำตัดสินครั้งประวัติศาสตร์ที่จะเข้ามาสร้างบรรทัดฐานใหม่ในการสร้างบรรทัดฐานและความรับผิดชอบใหม่เกี่ยวกับกฎหมายที่เกี่ยวข้องกับ AI และเทคโนโลยี อย่างไรก็ดี คดีนี้ถือเป็นคดีที่หลายคนให้ความสนใจ และความคิดเห็นก็แตกออกเป็นสองฝั่ง ฝั่งหนึ่งมองว่าปัญญาประดิษฐ์ควรการกำหนดเส้น ควรมีการกำหนดขอบเขตที่ชัดเจน แต่อีกฝั่งก็เห็นต่างและมองว่านี่ไม่ใช่ความผิดของ AI เสียทีเดียว ผู้ปกครองควรเข้ามามีส่วนร่วมในการดูแลเยาวชนมากกว่า ส่วนความคืบหน้าของคดีนี้จะเป็นอย่างไร คงจะต้องรอติดตามกันต่อไป

อ้างอิง