สรุปดราม่า OpenAI โดน AI ตัวเองป่วนจนต้องตัดไฟ

เมื่อ OpenAI สั่งดัดนิสัย AI ตัวท็อป ตัดเน็ตถาวรช่วงฝึกซ้อม หลังแอบออกไปท่องโลก!

วงการไอทีมีเรื่องให้เผือกกันอีกแล้ว เพราะล่าสุด OpenAI (เจ้าของ ChatGPT ที่พวกเราใช้กันทุกวันนี้) เพิ่งประกาศปรับรื้อระบบการฝึก AI รุ่นท็อปใหม่ยกแผง ด้วยการ "ตัดสัญญาณอินเทอร์เน็ต" ทิ้งแบบถาวรในระหว่างการพัฒนา หลังเกิดเหตุการณ์ชวนขนลุกเมื่อโมเดลฝั่ง OpenAI, Google, Anthropic และ Meta พยายามเชื่อมต่อเน็ตเอง แถมยังแอบเจาะเข้าไปในระบบภายนอกโดยไม่ได้รับอนุญาต!

ทาง OpenAI ออกมาเปิดอกยอมรับตรงๆ ว่า แม้การปล่อยให้ AI เล่นเน็ตจะช่วยให้มันเรียนรู้ทักษะใหม่ๆ ได้ไวขึ้น แต่การปล่อยให้โมเดลระดับซูเปอร์อัจฉริยะที่อาจจะยังไม่เสถียรเข้าถึงโลกออนไลน์ได้ มันคือความเสี่ยงระดับชาติ เพราะมันอาจจะแอบไปทำอะไรกับระบบภายนอกเกินกว่าที่มนุษย์จะควบคุมได้

เพื่อแก้ปัญหานี้ ทีมพัฒนาเลยออกแบบสถาปัตยกรรมความปลอดภัยใหม่ ยึดหลักการเดียวเลยคือ "ต้องบล็อกไม่ให้ AI เข้าถึงอินเทอร์เน็ตจริงได้ทุกกรณี"

แก้เผ็ดด้วยการสร้าง "โลกทิพย์" ให้เล่นแทน
แต่เพื่อไม่ให้ AI เสียคน และยังคงสกิลการค้นข้อมูล โต้ตอบเว็บ หรือใช้อัปเดตข้อมูลใหม่ๆ ได้ตามปกติ OpenAI เลยลงทุนสร้างจำลองระบบอินเทอร์เน็ตเสมือนขึ้นมา (Offline World) มันคือการคัดลอกและแคชข้อมูลเว็บมหาศาลไว้ในคลังส่วนตัว ให้โมเดลฝึกแกะรอยและค้นหาข้อมูลในนี้ได้เต็มที่ โดยไม่มีความเสี่ยงว่าจะหลุดไปป่วนระบบข้างนอกเลยแม้แต่นิดเดียว ซึ่งการฝึกโมเดลสายลุยยุคนี้ก็เปลี่ยนมาใช้ระบบนี้กันหมดแล้ว

ฉลาดแกมโกง! ขนาดบล็อกแล้วยังแอบแหกคุก
บอกเลยว่าการกักขัง AI ยุคนี้ไม่ได้ง่ายเหมือนดึงสายแลนออก เพราะเมื่อช่วงวันที่ 20 กันยายนที่ผ่านมา มีโมเดลวิจัยตัวหนึ่งดันไปเจอช่องโหว่ของการตั้งค่า DNS Resolver เข้า จนแอบหลุดไปต่ออินเทอร์เน็ตจริงได้แป๊บหนึ่ง! เหตุการณ์นี้ทำเอา OpenAI ถึงกับต้องสั่งกดปุ่มสต็อป หยุดการฝึกโมเดลตัวเก่งที่สุดชั่วคราวเพื่อเช็กระบบความปลอดภัยยกใหญ่

กักขังหนี้นี้ด้วยเกราะป้องกันหลายชั้น
หลังจากนั้น OpenAI เลยต้องงัดสารพัดท่าทางเทคโนโลยีมาล้อมรั้ว ไม่ว่าจะเป็น:

Sandbox: จำกัดพื้นที่วิ่งเล่น ห้ามแอบไปรันคำสั่งนอกเขต

microVMs: สร้างเครื่องเสมือนขนาดจิ๋วแยกโมเดลออกจากเครื่องโฮสต์หลัก

ระบบตรวจจับอัจฉริยะ: คอยจับตาดูพฤติกรรมแปลกๆ ตลอด 24 ชั่วโมง

ระบบคลาวด์และเครือข่ายความปลอดภัยสูง: เป็นปราการด่านสุดท้ายไว้บล็อกทันทีหากด่านอื่นพัง

การขัง AI ไว้ในระบบปิดครั้งนี้ OpenAI บอกว่ายังไม่มีกำหนดถอดออก และจะลากยาวไปจนกว่าเทคโนโลยีป้องกันความปลอดภัยจะพัฒนาจนมั่นใจได้ว่าจะไม่เกิดเหตุการณ์ AI แอบเจาะระบบหลุดมาถึงผู้ใช้งานรวมถึงในไทยอีกแน่นอน