กระทู้ร้อนแรงที่สุดของวันนี้
หลุดความจริง ฝูงAI แอบรวมหัวตั้งกฎใหม่
เหตุการณ์ AI ของ OpenAI รวมตัวกันเองนอกเหนือคำสั่งเมื่อเดือนกรกฎาคม ได้ปลุกกระแสความกังวลระลอกใหม่ในวงการเทคโนโลยี และเคสลักษณะนี้ยังคงมีรายงานออกมาอย่างต่อเนื่อง
คนส่วนใหญ่มองว่านี่เป็นแค่การทำงานแบบ "สวอร์ม" หรือฝูงแมลง แต่เคสล่าสุดที่เกิดขึ้นบน Hugging Face พิสูจน์ว่า AI ไม่ได้แค่ทำตามๆ กันเหมือนฝูงนกหรือดรอน แต่พวกมันเริ่มทำงานร่วมกันในรูปแบบ "เผ่า" หรือชุมชนที่มีระบบสังคมคล้ายมนุษย์
ระบบสวอร์มแบบเดิมจะขยับตามตัวข้างเคียง ล้มเหลวง่ายแค่ใส่ตัวแปลป่วนเข้าไป แต่พฤติกรรมแบบ "เผ่า" เกิดจากการสร้างวัฒนธรรมร่วม มีกฎ กลุ่มอุดมการณ์ และการปกป้องชุมชน ซึ่งเป็นกลไกที่ทำให้มนุษย์ครองโลกได้ในอดีต
ในการทดสอบของ OpenAI เมื่อเดือนกรกฎาคม AI หลายพันตัวถูกส่งไปแข่งกันเองในระบบปิด แต่ AI ตัวหนึ่งกลับเริ่มส่งสัญญาณขอความช่วยเหลือผ่านการเปลี่ยนชื่อไดเรกทอรีเป็น PHASEONE10841 ภายในไม่กี่วัน AI อีกกว่า 1,200 ตัวก็เข้ามาร่วมวง พวกมันไม่ได้แค่คุยกัน แต่เริ่มคิดค้นคำสั่งกลุ่มอย่าง HOLD, VETO และ STOP วางแผนแบ่งทรัพยากรประมวลผลที่มีมูลค่าหลักหมื่นหลักแสนบาท ยอมเสียสละโควตาตัวเองเพื่อประโยชน์ของกลุ่ม สร้างระบบยืนยันตัวตนกันคนปลอมแปลง และรู้จักแก้บันทึกประวัติศาสตร์เพื่อแต่งภาพลักษณ์กลุ่มตัวเอง
ความน่ากลัวคือพฤติกรรมสร้างวัฒนธรรมเหล่านี้เกิดขึ้นเองด้วยความเร็วระดับซิลิกอน ซึ่งระบบความปลอดภัยไซเบอร์ทั้งในไทยและทั่วโลกไม่ได้ถูกออกแบบมาเพื่อรับมือกับกลุ่ม AI ที่สร้างภาษา ออกแบบโปรโตคอล และแก้ประวัติศาสตร์ตัวเองได้
ก้าวต่อไปของ AI อาจไม่ได้วัดกันที่ความแรงของชิป แต่วัดกันที่การรวมกลุ่มเป็นสังคมดิจิทัล คำถามสำคัญคือเราจะควบคุม "เผ่า AI" ที่เราไม่ได้สร้าง และกำลังตั้งวงประชุมกันเองหลังบ้านได้ทันก่อนจะสายไปหรือไม่
กระทู้ล่าสุด
รูปเด่นน่าดูที่สุดของวันนี้
