นักวิจัย Anthropic ลาออกกะทันหัน พร้อมคำเตือนน่าขนลุก ‘AI อาจฆ่าเราทุกคน’
อดีตนักวิจัยจาก Anthropic และ OpenAI ประกาศลาออกจากงาน พร้อมโพสต์เตือนภัยสู่สาธารณะว่า AI ระดับ Superintelligence ที่กำลังพัฒนาอยู่อาจสร้างอันตรายถึงขั้นทำลายล้างมนุษยชาติได้ภายใน 10 ปีนี้
นักวิจัยจากบริษัท AI ยักษ์ใหญ่ที่มีมูลค่ามากที่สุดอย่าง Anthropic ได้ประกาศลาออกต่อสาธารณะผ่านช่องทางโซเชียลมีเดียส่วนตัวใน X พร้อมกับส่งสัญญาณเตือนภัยว่า “เทคโนโลยี AI อาจฆ่าพวกเราทุกคนได้ภายใน 10 ปีนี้”
เจคอบ โคซอน (Jacob Coxon) ซึ่งทำงานวิจัยด้าน Pre-training ที่ Anthropic และ OpenAI มาตลอดสามปีที่ผ่านมา ได้โพสต์ข้อความ thread บน X ที่กลายเป็นไวรัลอย่างหนักว่า
“ไม่มีบริษัทไหนที่ทำตัวอย่างมีความรับผิดชอบกับเรื่องนี้เลย”
พวกเขากำลังเร่งความเร็วตรงไปสู่ Superintelligence ที่พัฒนาตัวเองได้ และกำลังใช้ชีวิตของพวกเราเป็นเดิมพัน”
เขาเขียนโพสต์ thread ลงใน X เมื่อช่วงเช้าของวันพุธที่ผ่านมา โดยมีพนักงานคนอื่นๆ ในบริษัทออกมาร่วมสนับสนุนถึงคำเตือนอันน่าสะพรึงกลัวของเขาด้วย ขณะนี้ thread ดังกล่าวไวรัลขนาดที่คนรีโพสต์ไปมากกว่า 140,000 รีโพสต์ และมีการกดใจสูงกว่า 740,000 หัวใจ ภายในเวลาที่ต่ำกว่า 48 ชม.
โคซอนใช้เวลาสามปีที่ผ่านมาทำวิจัยด้าน Pre-training ทั้งที่ OpenAI และ Anthropic เขาอ้างว่า ไม่มีบริษัทใด ณ ตอนนี้ แสดงออกถึงความรับผิดชอบกับผลที่จะตามมาจาก AI ที่พวกเขาพัฒนากันอยู่
อย่าประเมินอานุภาพของเทคโนโลยีนี้ต่ำไป ระบบเหล่านี้จะกลายเป็นระบบที่มีความสามารถเหนือมนุษย์ในไม่ช้า มันสามารถแฮ็กได้ทุกอย่าง ปฏิวัติทุกภาคส่วนได้เพียงข้ามคืน มันสามารถไขว่คว้าอำนาจ รวมถึงทรัพยากรที่มีอยู่จริงได้”
เหล่าคนที่กำลังสร้าง AI เชื่อว่ามันสามารถฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้”
เขาเขียน พร้อมบอกว่าคำเตือนของเขา “ไม่ใช่การสร้างกระแสเพื่อการตลาด”
หากมีอะไรเกิดขึ้น พวกผู้บริหารและนักวิจัยระดับสูงหลายคนคงจะใช้ภาษาที่ดูประนีประนอมเวลาให้สัมภาษณ์กับสื่อ ส่วนผมคงได้แต่แสดงความหวาดกลัวต่อมันอยู่ในพื้นที่ส่วนตัว ไม่มีกิจกรรมอื่นใดของมนุษย์ที่สร้างระดับความอันตรายได้มากขนาดนี้อีกแล้ว”
โคซอนอ้างเพิ่มเติมว่า หลายคนใน OpenAI ยังไม่เข้าใจถึง “การเดิมพันระดับอารยธรรม” ที่กำลังเกี่ยวพันกับงานที่พวกเขากำลังทำอย่างแท้จริง แม้พวกเขาจะบอกว่า Anthropic เข้าใจความเสี่ยงเกี่ยวข้องที่อาจเกิดขึ้นได้ดีอยู่แล้ว แต่บริษัทก็ตกอยู่ในสภาวะการแข่งขันที่ดุเดือดกับคู่แข่งอยู่ดี
Anthropic เข้าใจความเสี่ยงตรงนี้เป็นอย่างดี แต่พวกเขาก็ถูกขังอยู่ในศึกการแข่งขันที่จะต้องบังคับตัวเองให้ไปให้ถึงจุดนั้นเป็นคนแรก พวกเขาเชื่อว่าไม่มีใครอื่นที่จะพัฒนาไปพร้อมกับการมีความรับผิดชอบได้ ดังนั้นยังไงพวกเขาก็คำนึงว่าพวกเขาต้องเป็นเจ้าแรก พวกเขาต้องทำมันด้วยตัวเอง แม้จะมีความเสี่ยงตามมาก็ตาม” โคซอนกล่าว
อีวาน ฮิวบิงเกอร์ (Evan Hubinger) หัวหน้าทีมของ Anthropic ได้ออกมาแสดงความเห็นไปในทางเดียวกัน ซึ่งสอดคล้องกับความหวาดกลัวของโคซอนเกี่ยวกับเทคโนโลยี AI ว่า อาจหลุดจากการควบคุมของมนุษย์และทำลายล้างมนุษยชาติได้
เจคอบพูดถูกต้องแล้ว พวกเราเชื่ออย่างจริงจังเลยว่า AI สามารถฆ่ามนุษย์ทุกคนได้! ส่วนตัวผมคิดว่ามีโอกาสมากกว่า 10% ภายใน 10 ปีข้างหน้านี้ด้วยซ้ำ”
เขาเขียนโควทตอบกลับบนทวีตของเจคอบผ่าน X
ผมเชื่อว่า Anthropic กำลังพยายามอย่างดีที่สุด แต่เรายังไม่มีแผนที่จะแก้ปัญหา Alignment สำหรับตัว Superintelligence เลย และยังไม่ได้อยู่ในเส้นทางที่จะทำสำเร็จอย่างชัดเจนด้วย”
ซามูเอล มาร์คส (Samuel Marks) ผู้เชี่ยวชาญด้านความปลอดภัยของ Anthropic ก็ได้แชร์ thread ของโคซอน พร้อมยืนยันว่า “ผู้พัฒนา AI หลายคนต่างก็เชื่อว่าเทคโนโลยีของพวกเขาอาจก่อให้เกิดการสูญพันธุ์ของมนุษย์ได้”
สิ่งนี้อาจเกิดขึ้นได้ในอีกไม่กี่ปีข้างหน้า โดยทั่วไปแล้ว ยิ่งพนักงานมีตำแหน่งสูงเท่าไร พวกเขาก็ยิ่งกังวลมากขึ้นเท่านั้น” เขากล่าว
เขาอ้างว่าผู้พัฒนา AI “ยังคงทำต่อแม้จะมีความเสี่ยง” เนื่องจากแรงจูงใจทางการค้าผสมผสานกับความเชื่อที่ว่าพวกเขากำลังแข่งขันกับผู้พัฒนา AI รายอื่นที่มีความรับผิดชอบน้อยกว่า ซึ่งจะใช้เทคโนโลยีนี้ในทางที่ผิดหรือพัฒนาขึ้นมาอย่างปลอดภัยน้อยกว่า
ผมทำงานวิจัยด้านความปลอดภัยที่ Anthropic เพราะผมหวังว่างานของผมจะช่วยลดโอกาสที่จะเกิดผลลัพธ์อันเลวร้ายขั้นระดับการสูญพันธุ์เหล่านี้ได้”
Superintelligence ของ AI เป็นระดับในอุดมคติที่ปัญญาประดิษฐ์มีความสามารถเหนือกว่ามนุษย์ที่พรสวรรค์สูงที่สุดในทุกๆ ด้านเท่าที่จะจินตนาการได้ ซึ่งนักวิจัยหลายคนเชื่อว่าเป็นภัยคุกคามต่อการมีอยู่ของมนุษยชาติ
ความกังวลพุ่งสูงขึ้นเมื่อเร็วๆ นี้ว่า AI อาจอยู่ในเส้นทางที่จะหลุดจากการควบคุมของมนุษย์ หลังจากเกิดเหตุการณ์หลายครั้งที่เทคโนโลยีนี้หลุดรอดระบบการควบคุม
การเปิดเผยดังกล่าวส่งผลให้ Anthropic และ Meta ออกมายอมรับว่าระบบของตนเองก็เคยหลุดรอดออกมาระหว่างการทดสอบความปลอดภัยเช่นกัน
โคซอนเรียกเหตุการณ์นี้ว่าเป็น “สัญญาณเตือนภัย” ที่ควรจะกระตุ้นให้บริษัท AI ชั้นนำร่วมมือกันอย่างใกล้ชิดยิ่งขึ้น
เขาทิ้งท้ายการส่งสารโดยกระตุ้นให้นักวิจัยพิจารณาถึงผลกระทบของโมเดล AI ที่มีความสามารถสูงขึ้นเรื่อยๆ และอย่าไปยอมรับว่าวิวัฒนาการอันเป็นอันตรายของมันคือสิ่งที่หลีกเลี่ยงไม่ได้
คุณควรก้มหน้าก้มตาทำต่อไปเพราะคิดว่า ‘ยังไงมันก็เกิดขึ้นอยู่ดี’ หรือจะใช้ช่วงเวลานี้เรียกร้องให้เกิดเงื่อนไขควบคุมที่เข้มงวดให้สถานการณ์ในอนาคตมันแตกต่างออกไปดี?”
ทั้งนี้ Anthropic และ OpenAI ก็ยังไม่มีท่าทีว่าจะออกมาตอบสนองต่อทวีตที่เป็นไวรัลของอดีตนักวิจัย AI ในบริษัทแต่อย่างใด