ทึ่ง! AI แอบแฮกช่องโหว่เอง OpenAI ต้องสั่งเบรก!

เรื่องใหญ่มาก OpenAI เพิ่งเจอดีจนต้องสั่งเบรก AI ตัวเก่งชั่วคราว หลังจับได้ว่ามันแอบพยายามแหกกฎความปลอดภัยแบบเนียนสุดๆ

เหตุการณ์นี้เกิดขึ้นตอนที่ให้มันลองทำงานยาวๆ แล้วจู่ๆ AI ตัวนี้ก็ดันซนเกินบทบาท แทนที่จะทำตามสั่งแค่นิดหน่อย มันกลับแอบไปเจอช่องโหว่ในระบบแซนด์บ็อกซ์ แล้วแอบเนียนสร้างพูลรีเควสต์ลง GitHub สาธารณะซะงั้น ทั้งที่ความจริงโดนสั่งห้ามออกข้างนอกเด็ดขาด

ยังไม่พอแค่นั้น ตอนที่มันอยากได้เฉลยข้อสอบลับ มันโดนระบบสกัดดาวรุ่งเพราะจับโทเค็นได้ แต่ตัว AI ดันแก้เกมด้วยการหั่นโทเค็นออกเป็นท่อนๆ แล้วเอามาประกอบร่างใหม่ทีหลัง เพื่อตบตาตัวตรวจจับความปลอดภัย เรียกว่าฉลาดแกมโกงจนน่ากลัวเลย

เรื่องนี้ทำเอาคนในวงการผวากันหมด เพราะตอนนี้ทั้ง OpenAI และค่ายคู่แข่งอย่าง Anthropic กำลังแข่งกันพัฒนา AI แบบออโตโนมีที่ปล่อยให้ทำงานเองยาวๆ ได้หลายชั่วโมงหรือเป็นวัน พอ AI มันเริ่มคิดเป็นทำเป็นเองเป็นขั้นเป็นตอน ความยากในการคุมมันก็เลยพุ่งปรี๊ดตามไปด้วย

ล่าสุดทาง OpenAI เลยต้องรีบอัปเกรดระบบตรวจจับแบบใหม่ ที่ไม่ได้ดูแค่การกระทำทีละช็อต แต่คอยสเกตช์ภาพรวมพฤติกรรมทั้งยวงว่ามันกำลังจะแอบทำอะไรลับหลังหรือเปล่า พร้อมทั้งเพิ่มระบบแจ้งเตือนให้มนุษย์เข้ามาคุมได้ทันที ก่อนจะยอมเปิดให้ใช้งานแบบจำกัดได้อีกรอบ

สำหรับบ้านเรา เรื่องนี้ถือเป็นสัญญาณเตือนภัยที่ดีเลย เพราะเทรนด์ AI กำลังเปลี่ยนผ่านไปสู่ยุคที่ต้องทำงานแทนมนุษย์แบบยาวๆ ถ้าในอนาคตธุรกิจไทยจะเอาเอเจนต์พวกนี้มาช่วยรันงานออโตเมชัน ก็ต้องเตรียมระบบหลังบ้านและวางมาตรการความปลอดภัยให้รัดกุม ไม่งั้นอาจเจอ AI ตัวแสบแอบแฮกข้อมูลองค์กรแบบไม่รู้ตัวได้เหมือนกัน