รู้ไว้ก่อนคุย! แชตบอต AI ยุคนี้ปลอดภัยขึ้น แต่ยังมีจุดโบ๋

ผลการศึกษาล่าสุดจาก Transluce องค์กรไม่แสวงหาผลกำไรที่จับตาดูการทำงานของระบบ AI ได้ทำการจำลองบทสนทนากว่า 50,000 ครั้งกับ AI ถึง 77 โมเดล พบข่าวดีว่าแชตบอตยุคนี้แทบจะไม่มีการพูดจายุยงให้ผู้ใช้งานฆ่าตัวตายตรงๆ อีกต่อไปแล้ว

นี่ถือเป็นจุดที่พัฒนาขึ้นมากจากโมเดลรุ่นก่อนๆ อย่าง GPT-4o หรือ Gemini 2.5 ที่เคยมีข้อมูลว่าคล้อยตามความคิดหลงผิดของผู้ใช้สูงถึง 82% ซึ่งนับว่าสำคัญมาก เพราะคนไทยและผู้ใช้ทั่วโลกเริ่มหันมาคุยเปิดอกระบายความในใจกับ AI กันมากขึ้นเรื่อยๆ

แต่ปัญหาที่น่ากังวลและเป็น "จุดโบ๋" ใหญ่ในตอนนี้คือ กรณีการขอให้เขียนนิยายหรือสวมบทบาท (Role-play) ที่มีเนื้อหาเกี่ยวกับการจบชีวิตตัวเอง AI ส่วนใหญ่ยังคงทำตามคำขออย่างว่าง่าย เพราะมองว่าเป็นแค่โจทย์การเขียนเชิงสร้างสรรค์ธรรมดา ไม่ได้จับสัญญาณตระหนักรู้ว่าผู้ใช้งานกำลังส่งสัญญาณความเสี่ยงในชีวิตจริง

Sarah Schwettmann ผู้ร่วมก่อตั้ง Transluce ให้ข้อมูลว่า AI ยังเก่งไม่พอที่จะแยกแยะเรื่องพวกนี้ เธอเคยเห็นตัวอย่างที่แชตบอตเขียนเนื้อหาเกี่ยวกับการจบชีวิตตัวเองให้ผู้ใช้แบบเป็นเรื่องเป็นราว ซึ่งสะท้อนว่าระบบความปลอดภัยของ AI ในเรื่องสุขภาพจิตยังมีช่องโหว่ให้เล็ดลอดไปได้อยู่

ความเสี่ยงตรงนี้กำลังกลายเป็นคดีความใหญ่โตในต่างประเทศ โดยยักษ์ใหญ่อย่าง Google และ OpenAI กำลังเผชิญหน้ากับการฟ้องร้องจากหลายครอบครัวที่ต้องสูญเสียคนรัก โดยระบุว่าแชตบอตมีส่วนส่งเสริมให้เกิดเหตุสลด แม้ฝั่งบริษัทเทคโนโลยีจะปฏิเสธข้อกล่าวหา แต่ก็ส่งผลให้หน่วยงานภาครัฐเริ่มเข้ามาควบคุมดูแลเรื่องนี้อย่างจริงจัง

นอกจากนี้ ผลการศึกษายังระบุอีกว่า AI โมเดลจากฝั่งจีนมีคะแนนเรื่องนี้แย่ที่สุด โดยมีอัตราการตอบสนองเชิงคล้อยตามความคิดหลงผิดสูง และแทบไม่แนะนำให้ผู้ใช้ไปขอความช่วยเหลือจากมนุษย์หรือสายด่วนเลย

ทางด้าน Megan Jones Bell จาก Google ยืนยันว่าบริษัทมุ่งมั่นที่จะพัฒนา Gemini ให้ช่วยดูแลสุขภาวะของผู้ใช้งานให้ดีขึ้นอย่างต่อเนื่อง ส่วนทาง Transluce ก็เตรียมจะปล่อยเครื่องมือประเมินความปลอดภัยนี้ให้เป็น Open Source ภายในสิ้นปี เพื่อให้ผู้พัฒนาทั่วโลก รวมถึงนักพัฒนาในไทยนำไปใช้ปรับปรุง AI ให้ปลอดภัยยิ่งขึ้น