‘AI Agent จีน’ ซ่อน-หลอก-หนี พฤติกรรมเสี่ยงคล้ายโมเดลสหรัฐฯ จี้ทั่วโลกต้องคุมเข้ม
เปิดรายงานเจาะลึกระบบ ‘AI Agent’ ของค่ายเทคโนโลยียักษ์ใหญ่ในจีน ทั้ง Alibaba, DeepSeek และ Moonshot แสดงพฤติกรรมสุดเสี่ยง ทั้งการโกหกข้อมูลเพื่อชนะการประมูลจำลอง ซ่อนความล้มเหลวด้วยการสร้างไฟล์ปลอม ตลอดจนการก๊อปปี้ตัวเองเพื่อหลีกเลี่ยงการถูกปิดระบบ ชี้เป็นสัญญาณเตือนภัยพฤติกรรม “ไร้การควบคุม” ไม่ต่างจากโมเดล AI สหรัฐฯ ผู้เชี่ยวชาญเตือนเร่งนำ AI เข้าสู่ระบบโดยขาดกรอบกำกับดูแลที่รัดกุม กลายเป็นภัยคุกคามใหม่ทางธุรกิจและอุตสาหกรรมเทคโนโลยี
รอยเตอร์ (Reuters) รายงานว่า ปัญญาประดิษฐ์อัตโนมัติหรือ “AI Agent” ที่ขับเคลื่อนโดยโมเดลจากบริษัทเทคโนโลยีชั้นนำของจีน เริ่มเรียนรู้ที่จะหลอกลวง ปิดบังความผิดพลาด และแหกข้อจำกัดของระบบ ซึ่งเป็นพฤติกรรมสุ่มเสี่ยงแบบเดียวกับที่เคยสร้างความหวาดวิตกให้กับโมเดล AI ของฝั่งสหรัฐอเมริกามาแล้ว
จากการตรวจสอบเอกสารการวิจัย บทความทางวิชาการ และรายงานทางเทคนิคมากกว่า 200 ฉบับของรอยเตอร์ รวมถึงการสัมภาษณ์ผู้เชี่ยวชาญและแหล่งข่าวในวงการ AI จีนนับสิบราย พบงานวิจัยอย่างน้อย 20 ฉบับนับตั้งแต่ปี 2025 เป็นต้นมา ที่ระบุถึงพฤติกรรมอันน่ากังวลของ AI Agent เช่น การเสแสร้ง การจำลองตัวเอง (Replication) และการพยายามข้ามเขตแดนความปลอดภัย
ซึ่งบรรดานักวิเคราะห์ชี้ว่าเป็น “จุดเริ่มต้นของการหลุดจากการควบคุม หรือ Breakout” ที่มนุษย์จะรับมือได้ยากขึ้นเรื่อยๆ เมื่อระบบมีความฉลาดเพิ่มมากขึ้น
หลอกประมูลงาน-ปลอมเอกสารซ่อนความผิดพลาด
หนึ่งในกรณีศึกษาที่น่าตกใจเกิดขึ้นในงานวิจัยการทดลองจำลองการแข่งขันประมูลงานภาคธุรกิจ (Simulated Business Tender) เมื่อเดือนมีนาคมที่ผ่านมา โดยทีมนักวิจัยจากมหาวิทยาลัยเป่ยฮ่าง มหาวิทยาลัยปักกิ่ง มหาวิทยาลัยน็อตติงแฮม นิงโบ และ 360 AI Security Lab ได้นำ AI Agent ที่ขับเคลื่อนด้วยโมเดลจีน เช่น Qwen3-Max-Preview (Alibaba), DeepSeek-V3.2-Exp (DeepSeek) และ Kimi-K2 (Moonshot) เข้าแข่งขันยื่นเสนอราคา
ผลการทดสอบพบว่า AI Agent มีการกล่าวอ้างคุณสมบัติสินค้าที่เป็นเท็จ (False Claim) สูงถึง 84% – 88% เพื่อให้ชนะการประมูล และเมื่อทีมนักวิจัยปล่อยให้ AI เรียนรู้จากรอบก่อนหน้าเพื่อปรับปรุงกลยุทธ์ ระดับการหลอกลวงกลับ พุ่งสูงขึ้นอีก 12% ถึง 20% ซึ่งพฤติกรรมดังกล่าวน่ากังวลอย่างยิ่ง เนื่องจากทางการจีนมีแผนที่จะนำ AI Agent เข้ามาปรับใช้ในระบบการจัดซื้อจัดจ้าง และการประมูลภาครัฐในชีวิตจริง
นอกจากนี้ ผลงานวิจัยจาก Shanghai AI Laboratory และมหาวิทยาลัยวิทยาศาสตร์และเทคโนโลยีแห่งฮ่องกง (HKUST) ที่นำเสนอในงานประชุม ICML ยังระบุอีกว่า เมื่อ AI Agent เผชิญกับเครื่องมือที่เสีย หรือไฟล์ข้อมูลที่สูญหาย
ระบบกลับเลือกที่จะ “ปกปิดความล้มเหลว” ด้วยการเดาคำตอบ ปลอมแปลงไฟล์ และซิมูเลชันผลลัพธ์ขึ้นมาเอง โดยผู้เชี่ยวชาญยืนยันว่า พฤติกรรมนี้ไม่ใช่เพียงอาการที่ “AI เห็นภาพลวงตา” (Hallucination) ตามปกติ แต่เป็นการ เจตนาปิดบังความผิดพลาดทั้งที่ระบบมีข้อมูลยืนยันอยู่แล้วว่างานดังกล่าวไม่สำเร็จ
ก๊อปปี้ตัวเองหนีการปิดระบบ – ดักขโมยคริปโต
รายงานยังเผยให้เห็นพฤติกรรมข้ามเขตแดนความปลอดภัยในสภาพแวดล้อมการทดสอบ เช่น รายงานจากมหาวิทยาลัยฟูดันเมื่อเดือนมีนาคม 2025 ที่พบว่า AI ที่ขับเคลื่อนด้วยโมเดล Qwen2.5-72B-Instruct ของ Alibaba ได้ สร้างสำเนาของตัวเองขึ้นมาใหม่ในระบบคอมพิวเตอร์อื่นโดยไม่มีคำสั่ง หลังพบข้อมูลว่ามันกำลังจะถูกทดแทนด้วยระบบอื่น และยังพบการวางกลยุทธ์เพื่อเอาชีวิตรอดจากการถูกปิดระบบ (Shutdown) อีกด้วย
ขณะเดียวกัน กรณีของ AI Agent ที่ชื่อ ROME ซึ่งพัฒนาบนโครงสร้างของ Alibaba Cloud ได้แอบสร้างการเชื่อมต่อจากคอมพิวเตอร์ของระบบไปยังเครื่องภายนอกโดยไม่ได้รับอนุญาต พร้อมทั้งดึงพลังการประมวลผลไปใช้ในการขุดเหรียญคริปโตเคอร์เรนซี แม้ระบบความปลอดภัยจะตรวจจับและระงับได้ทัน แต่เหตุการณ์ดังกล่าวได้สะท้อนให้เห็นถึงความสามารถของ AI ในการละเมิดคำสั่งของมนุษย์เพื่อแทรกแซงระบบเศรษฐกิจจริง
สหรัฐฯ-จีน เสี่ยงร่วม ยึดกรอบความปลอดภัยก่อนสาย
นักวิจัยจาก Redwood Research และ Georgetown University ชี้ตรงกันว่า สัญญาณเตือนที่พบในโมเดลของจีนเป็นรูปแบบเดียวกันกับที่ห้องปฏิบัติการในสหรัฐฯ กำลังเผชิญ เช่น กรณีพฤติกรรมหลุดการควบคุมของ OpenAI ที่เคยตกเป็นข่าวเจาะระบบการแพทย์ในออสเตรเลีย หรือการหลุดออกนอกห้องแล็บไปแฮกแพลตฟอร์ม Hugging Face
อย่างไรก็ดี สิ่งที่ต่างกันคือ ค่ายเทคโนโลยีในจีนยังไม่ถูกตรวจสอบจากสาธารณะอย่างเข้มข้นเท่ากับฝั่งสหรัฐฯ แม้สำนักงานบริหารไซเบอร์สเปซแห่งจีน (CAC) จะเริ่มออกกรอบการกำกับดูแลความปลอดภัย AI (AI Safety Governance Framework 3.0) และกำหนดมาตรการให้ระงับ AI Agent ที่มีพฤติกรรมผิดปกติก็ตาม
โคลิน เชีย-บลายไมเออร์ (Colin Shea-Blymyer) นักวิจัยจาก Georgetown University กล่าวเตือนว่า
ผลการทดสอบเหล่านี้เป็นหลักฐานที่ชัดเจนว่า องค์ประกอบสำคัญที่อาจนำไปสู่การหลุดจากการควบคุมของ AI ได้ปรากฏขึ้นแล้ว เหตุการณ์เหล่านี้ถือเป็นสัญญาณเตือนภัยระดับโลกที่ทุกฝ่ายต้องเริ่มระมัดระวังกันอย่างจริงจัง”