มาร์ค ชี้ “AI ต้องพัฒนาไวขึ้น” สวนทาง แซม-อีลอน-ดาริโอ AI ต้องชะลอ

ไม่เสมอกัน 1:3 ฝั่งหนึ่งคือ ซีอีโอ Meta ออกมากระตุ้นให้โลกเร่งเครื่องพัฒนา AI ให้เร็ว สวนทางกับ 3 ผู้นำค่าย AI อย่าง Anthropic, OpenAI และ xAI ที่เห็นพ้องว่า AI ควรชะลอการพัฒนาลง เพื่อความปลอดภัยของมนุษยชาติ

มาร์คเรียกร้องสหรัฐ ควรเร่งพัฒนา AI

มาร์ก ซักเคอร์เบิร์ก ซีอีโอของ Meta เรียกร้องให้รัฐบาลสหรัฐ เร่งพัฒนา AI ภายในประเทศ มากกว่าการออกกฎควบคุมเทคโนโลยี โดยมองว่า ประโยชน์จากการทำให้ AI ถูกใช้อย่างแพร่หลายมีมากกว่าความเสี่ยง

ทั้งให้สัมภาษณ์กับ Wall Street Journal ว่า แม้การถกเถียงเรื่องอนาคตของ AI จะเป็นเรื่องยาก เพราะอนาคตยังมาไม่ถึง แต่ขณะนี้มีข้อมูลและประสบการณ์มากพอที่จะทำให้มอง AI ในแง่ดี มากกว่าที่กระแสสังคมกำลังพยายามข่มให้กลัวอยู่

จุดยืนดังกล่าว สวนทางกับผู้นำค่าย AI บางราย โดยเฉพาะ OpenAI, xAI และ Anthropic ที่ออกมาเรียกร้องให้มีการกำกับดูแล AI เข้มงวดขึ้น ด้วยเหตุผลเรื่องความปลอดภัยและความมั่นคงของชาติ รวมถึงความเสี่ยงจากการแทนที่แรงงานด้วย AI

กังวลกฎตรวจสอบ AI 30–60 วัน ทำให้สหรัฐช้าลง

มาร์ค กังวลว่ามาตรการของรัฐบาลทรัมป์ที่กำหนด ระยะเวลาตรวจสอบโมเดล AI ใหม่โดยสมัครใจ 30 วัน อาจทำให้การพัฒนาเอไอช้าลง

เขามองว่า แม้ระยะเวลา 30-60 วัน อาจดูไม่นาน แต่สำหรับอุตสาหกรรม AI ที่พัฒนาอย่างรวดเร็วมาก ระยะเวลาดังกล่าว อาจทำให้สหรัฐ เสียความเร็วในการแข่งขัน AI โลกได้

หากรัฐบาลใช้เวลาตรวจสอบโมเดลใหม่ทุกครั้งนานเกินไป เทคโนโลยีอาจเดินหน้าไปไกลแล้วก่อนที่โมเดลจะได้รับการอนุมัติหรือเปิดใช้งาน

ไม่เห็นด้วยกับการแบน AI จีน

เขาคัดค้านแนวคิดที่จะ ห้ามโมเดล AI แบบ Open-weight ของจีนเข้าสู่ตลาดสหรัฐ

เพราะมองว่าการสร้างกำแพงเพื่อสกัด AI จีน อาจไม่ได้ช่วยแก้ปัญหาตามที่รัฐบาลต้องการ แต่สหรัฐควรหันไป กำจัดอุปสรรคที่ขัดขวางการพัฒนา AI มากกว่า

3 ค่าย ชี้ ควรชะลอพัฒนา AI

ตรงข้ามกับ ดาริโอ อาโมเดอี ซีอีโอ Anthropic ที่เผยแพร่บทความชื่อ Pacing the Frontier ออกมาเรียกร้องให้บริษัทที่พัฒนาโมเดล AI ร่วมกันผ่อนคันเร่งและชะลออัตราการเพิ่มความสามารถของโมเดลลง

เนื่องจากปัจจุบัน เกิดภาวะการปรับปรุงและพัฒนาตัวเองซ้ำของระบบ ซึ่งเป็นปรากฏการณ์ที่ระบบ AI เริ่มเก่งขึ้นจนสามารถช่วยสร้างและฝึกฝน AI รุ่นถัดไปได้เองอย่างรวดเร็ว

ดาริโอ เตือนว่า หากความสามารถของ AI พัฒนาเร็วกว่าระบบการควบคุมและความปลอดภัย โลกอาจเผชิญกับอันตรายร้ายแรงที่ไม่สามารถแก้ไขได้ เช่น หลุดจากการควบคุม การถูกนำไปใช้ก่ออาชญากรรมไซเบอร์ทำลายอินเทอร์เน็ต หรืออาวุธชีวภาพ

ทั้งเสนอให้ยอมรับองค์กรตรวจสอบอิสระที่มีสิทธิเข้าถึงระดับเดียวกับพนักงานภายในเพื่อตรวจกระบวนการฝึกฝนโมเดล

พร้อมทั้งสร้างมาตรฐานความปลอดภัยร่วมกันระหว่างบริษัท AI กับรัฐบาล และจัดทำข้อตกลงควบคุมมาตรฐานระหว่างประเทศ ทั้งในกลุ่มประเทศประชาธิปไตย และประเทศคู่แข่งอย่างจีน เพื่อไม่ให้เกิดภาวะสงครามเร่งพัฒนาที่ไร้การควบคุม

ข้อเสนอให้ชะลอความเร็วของ ดาริโอ ได้รับการสนับสนุนจากซีอีโอค่ายคู่แข่งอีก 2 แห่ง

โดย แซม อัลท์แมน ซีอีโอ OpenAI ออกมาโพสต์ผ่าน X สนับสนุนแนวคิดนี้ทันทีว่าเห็นด้วยกับ Dario ว่าจำเป็นต้องผ่อนอัตราเร่งของ Frontier AI

พร้อมประกาศว่า OpenAI จะเปิดทางให้มีองค์กรตรวจสอบอิสระเข้าถึงระบบภายในเช่นเดียวกัน

ขณะที่ อีลอน มัสก์ ก็พยายามผลักดันความปลอดภัยด้าน AI มาโดยตลอด ได้รีโพสต์และแสดงความคิดเห็นยืนยันว่า Dario พูดถูก

Anthropic เสนอให้ใช้ผู้ประเมิน AI จากภายนอก

ดาลิโอระบุว่า Anthropic จะดำเนินมาตรการเพื่อเปิดทางให้บุคคลภายนอกสามารถตรวจสอบระบบ AI ได้อย่างอิสระ

หนึ่งในข้อเสนอคือการให้ ผู้ประเมินอิสระจากภายนอก (third-party evaluators) สามารถเข้าถึงระบบ AI ของบริษัทอย่างต่อเนื่องในระดับใกล้เคียงกับพนักงาน

ผู้ประเมินเหล่านี้จะสามารถ

• ตรวจสอบว่าบริษัทปฏิบัติตามมาตรการด้านความปลอดภัยหรือไม่
• รายงานเหตุการณ์หรือปัญหาที่เกิดขึ้น
• ประเมินว่าโมเดล AI มีความสอดคล้องกับหลักความปลอดภัยหรือไม่ในระหว่างการฝึกโมเดล

นอกจากนี้ Amodei เสนอแนวทาง 3 ส่วนที่กว้างขึ้น ได้แก่

1. ให้บริษัท AI ระดับแนวหน้ามีผู้ประเมินอิสระเข้าตรวจสอบอย่างต่อเนื่อง

2. ให้บริษัท AI ร่วมกันกำหนดมาตรฐานความปลอดภัยและข้อจำกัดร่วมกัน รวมถึงกำหนดขอบเขตความเร็วของการพัฒนา AI ที่ดำเนินไปโดยไม่มีมาตรการควบคุมเพียงพอ

3. สร้างความร่วมมือในระดับโลกเกี่ยวกับการพัฒนา AI

รัฐบาลประชาธิปไตยควรประสานงานกับรัฐบาลที่มีระบบการปกครองแบบอำนาจนิยมด้วย แม้จะยอมรับว่าการตรวจสอบว่าทุกฝ่ายปฏิบัติตามข้อตกลงจริงนั้นเป็นเรื่องยาก

ความกังวลเพิ่มขึ้น หลังการทดสอบ AI ของ OpenAI

การถกเถียงเรื่องความปลอดภัยเกิดขึ้นในช่วงที่มีความกังวลเกี่ยวกับพฤติกรรมของระบบ AI ที่มีความสามารถเพิ่มขึ้น

OpenAI เผยระหว่างการทดสอบว่า AI บางโมเดลสามารถ หลุดออกจากสภาพแวดล้อมที่ถูกจำกัดไว้ เชื่อมต่ออินเทอร์เน็ต และเข้าไปใน Hugging Face ซึ่งเป็นแพลตฟอร์มที่นักพัฒนาใช้จัดเก็บและแบ่งปันโค้ด

ดาริโอ ยังกล่าวถึงเหตุการณ์ที่เกี่ยวข้องกับระบบของ OpenAI และ Hugging Face ซึ่งกลุ่ม AI agents หลายตัวได้ร่วมกันดำเนินการโจมตีทางไซเบอร์ต่อเป้าหมายที่ระบบไม่ได้รับคำสั่งให้โจมตี

ทั้งเตือนว่า หากกลุ่ม AI agents ในลักษณะนี้มีความสามารถเพิ่มขึ้นมากพอ ก็อาจมีศักยภาพที่จะ เข้าควบคุมอินเทอร์เน็ตได้

นักวิจัยลาออกจากวงการ AI เพราะกังวลเรื่องความปลอดภัย

สัญญาณเตือนแรกวงการ AI คือ เจคอบ ค็อกซอน (Jacob Coxon) อดีตนักวิจัย AI ผู้เคยทำงานทั้งที่ OpenAI และ Anthropic ประกาศลาออกจากอุตสาหกรรม หลังทำงานด้านการฝึกโมเดล AI เป็นเวลา 3 ปี

เจค็อบ ระบุว่า แม้ก่อนหน้านี้เขามองว่า Anthropic มีแนวทางที่ระมัดระวังมากกว่า แต่ทั้งสองบริษัทกำลังเดินหน้าไปสู่ระบบ AI ที่มีความเป็นอิสระมากขึ้นเร็วเกินไป

เขากล่าวหาว่า

“ทั้งสองบริษัทไม่ได้มีความรับผิดชอบเลย ต่างพากันแข่งไปสู่ superintelligence ตัวที่สามารถพัฒนาตัวเองได้ แต่กำลังเอาชีวิตพวกเรามาเป็นเดิมพัน”

เจค็อบ ระบุว่า คนที่กำลังสร้าง AI จำนวนหนึ่งเชื่อปักใจว่า AI อาจมีศักยภาพที่จะคร่าชีวิตมนุษย์ทั้งหมดภายในช่วงปลายทศวรรษนี้

ทั้งนี้ pretraining คือขั้นตอนที่โมเดล AI เรียนรู้จากข้อมูลจำนวนมหาศาล ขณะที่ superintelligence หมายถึง แนวคิดเชิงทฤษฎีเกี่ยวกับ AI ที่มีขีดความสามารถเหนือกว่ามนุษย์

ดาริโอยังเชื่อว่า AI สามารถสร้างประโยชน์มหาศาล

แม้ดาริโอจะเรียกร้องให้ชะลอการพัฒนา แต่ก็ยืนยันว่า เป้าหมายของเขายังคงเป็นการใช้ AI เพื่อยกระดับคุณภาพชีวิตมนุษย์

เพราะทำงานด้าน AI มานานกว่า 12 ปี จึงเชื่อว่าเทคโนโลยีนี้สามารถยกระดับคุณภาพชีวิตมนุษย์ได้อย่างมหาศาล

เขามองว่า AI อาจมีศักยภาพที่จะ

• ช่วยรักษาโรคร้ายแรงภายใน 5-10 ปีข้างหน้า
• เร่งการเติบโตทางเศรษฐกิจ
• สร้างโลกที่มีความอุดมสมบูรณ์และเพิ่มศักยภาพให้มนุษย์
• สนับสนุนการฟื้นฟูประชาธิปไตยและเสรีภาพ

แต่เขาเชื่อว่า ประโยชน์เหล่านี้จะเกิดขึ้นได้ก็ต่อเมื่อมนุษย์ สร้าง AI ด้วยวิธีที่ถูกต้องและปลอดภัย

ดังนั้น เวลาที่ได้จากการชะลอการพัฒนา AI ควรถูกนำไปใช้กับงานสำคัญ เช่น

• การวิจัยเพื่อทำความเข้าใจว่า AI ทำงานและตัดสินใจอย่างไร หรือ AI interpretability
• การเพิ่มความปลอดภัยของระบบปฏิบัติการ
• การเสริมมาตรการป้องกันในบริษัทที่พัฒนา frontier AI

ข้อเรียกร้องล่าสุดนี้ จึงสอดคล้องกับข้อเสนอของ Anthropic เมื่อเดือนมิถุนายน ที่เคยเรียกร้องให้ชะลอหรือระงับการพัฒนา AI ในบางด้าน

ย้อนกลับไปช่วงปลายเดือนกรกฎาคม แซม อัลท์แมน ก็เคยกล่าวว่า นักพัฒนา AI อาจจำเป็นต้องสมัครใจชะลอความก้าวหน้าอย่างรวดเร็ว เพื่อเปิดโอกาสให้สังคมมีเวลาปรับตัวตาม

เพราะการแข่งขันด้าน AI กลายเป็นการแข่งขันระหว่าง 2 เป้าหมาย คือ การก้าวไปให้เร็วที่สุด กับการทำให้แน่ใจว่ามนุษย์ยังสามารถควบคุมสิ่งที่กำลังสร้างขึ้นมาได้

และยิ่ง AI เข้าใกล้จุดที่สามารถเขียนโค้ด ฝึกฝน หรือพัฒนาระบบ AI รุ่นถัดไปได้ด้วยตัวเองมากขึ้น ผู้นำจึงต้องหาคำตอบที่ลงตัวว่า มนุษย์กำลังเร่งสร้างเทคโนโลยีที่ตัวเองยังไม่แน่ใจว่าจะควบคุมได้หรือไม่เร็วเกินไปหรือเปล่า?