CEO Microsoft ชี้ บริษัท AI ควรให้ความสำคัญกับ ‘มนุษยชาติ’ เป็นอันดับแรก

“สัตยา นาเดลลา” CEO Microsoft เรียกร้องให้มีการทดสอบ AI อย่างละเอียดถี่ถ้วน พร้อมเตือนบริษัทที่เร่งรีบผลักดันเทคโนโลยีดังกล่าวออกสู่ตลาด อาจเผชิญความเสี่ยงในการ “สูญเสียสิทธิในการดำเนินธุรกิจ”

สัตยา นาเดลลา (Satya Nadella) ประธานเจ้าหน้าที่บริหารของไมโครซอฟท์ (Microsoft) ได้ออกมาแสดงความคิดเห็นเกี่ยวกับข้อถกเถียงด้านความปลอดภัยของ AI ที่ทวีความรุนแรงขึ้นในสัปดาห์นี้ โดยเรียกร้องให้บริษัทต่างๆ “ทำทุกวิถีทางเพื่อสร้างสิ่งที่รับใช้มนุษยชาติเป็นอันดับแรก และต้องอยู่ภายใต้การควบคุมของมนุษย์” รวมถึงเรียกร้องให้มีกระบวนการทดสอบอย่างละเอียดถี่ถ้วน ซึ่งรวมถึงการทดสอบโดยผู้ประเมินจากภายนอก

ฟาส คอมพานี (Fast Company) เผย นาเดลลาได้กล่าวแสดงความคิดเห็นดังกล่าวเมื่อวันพุธที่ผ่านมาในงาน All-In Summit ที่นครลอสแอนเจลิส ประเทศสหรัฐอเมริกา เพียงหนึ่งวันหลังจากที่เขาได้ออกมาเตือนเหล่านักพัฒนาไม่ให้เร่งรีบปล่อยผลิตภัณฑ์ AI ออกสู่ตลาด

ยิ่งเดิมพันสูง ยิ่งต้องใช้เวลาให้รอบคอบ… เพราะถ้าพลาดขึ้นมา ท้ายที่สุดคุณก็จะไม่เหลือโอกาสให้ทำธุรกิจอีกต่อไป” นาเดลลากล่าว

ผู้บริหารระดับสูงในวงการเทคโนโลยีหลายรายได้ออกมาแสดงความเห็นเกี่ยวกับความปลอดภัยของ AI ท่ามกลางความกังวลที่เพิ่มขึ้นเกี่ยวกับความเร็วในการพัฒนาเทคโนโลยีนี้ หลังจากที่ เจคอบ ค็อกซัน (Jacob Coxon) นักวิจัยจาก Anthropic ลาออกเมื่อสัปดาห์ที่แล้ว พร้อมกล่าวหาว่าห้องปฏิบัติการ AI ชั้นนำกำลัง “เอาชีวิตของพวกเราไปเสี่ยงโชค”

ทางด้าน ดาริโอ อโมเดอี (Dario Amodei) CEO ของ Anthropic ก็ได้ตีพิมพ์บทความเรียกร้องให้มีการชะลอการพัฒนา AI ขั้นสูงในระดับอุตสาหกรรม ซึ่ง แซม อัลต์แมน (Sam Altman) CEO ของ OpenAI และผู้บริหารระดับสูงคนอื่นๆ ก็สนับสนุนข้อเรียกร้องดังกล่าวเช่นกัน

อย่างไรก็ตาม เจนเซน หวง (Jensen Huang) CEO ของ Nvidia และ มาร์ก ซักเคอร์เบิร์ก (Mark Zuckerberg) CEO ของ Meta ได้แสดงมุมมองที่อิงกับกลไกตลาดมากกว่า โดยแย้งว่าห้องปฏิบัติการ AI มีแรงจูงใจที่จะควบคุมดูแลกันเองอยู่แล้ว เนื่องจากความกังวลด้านความรับผิดชอบทางกฎหมาย

หากคุณสร้างผลิตภัณฑ์หรือบริการขึ้นมา แล้วคุณไม่มั่นใจในฟังก์ชันการทำงาน ประสิทธิภาพ หรือความปลอดภัยของมัน ก็อย่าเพิ่งปล่อยออกมา” หวงกล่าว

นาเดลลาได้ชี้ให้เห็นถึงประเด็นที่คล้ายคลึงกันโดยแย้งว่า วิศวกรสามารถบรรเทาความเสี่ยงหลายประการของ AI ได้โดยใช้สามัญสำนึกและกระบวนการควบคุมคุณภาพที่มีมาตรฐาน

หนึ่งในสิ่งสำคัญที่สุดที่คุณจะได้เรียนรู้เมื่อก้าวขึ้นมาเป็นหัวหน้าทีมวิศวกรในยุคแรกๆ คือวิธีจัดการกับบั๊ก (Bug) ร้ายแรงที่ทำให้ระบบหยุดทำงาน”

เขากล่าว

หากคุณพบปัญหาที่ทำให้ต้องหยุดชะงัก คุณก็ต้องหยุดระบบนั้นทันที”

อย่างไรก็ตาม เขายอมรับว่า AI ยังนำมาซึ่งความเสี่ยงในรูปแบบใหม่ๆ ด้วยเช่นกัน ตัวอย่างเช่น ภาคธุรกิจควรมีความโปร่งใสว่า AI นำข้อมูลของตนไปใช้อย่างไร

ผมต้องการความเป็นส่วนตัว ผมต้องการที่จะสามารถฝังองค์ความรู้ของผมลงในชุดตัวแปรที่ผมสามารถควบคุมได้ IP ของผมไม่ควรเกิดการรั่วไหล”

นอกจากนี้ นาเดลลายังอธิบายถึง ตัวแทน AI อัตโนมัติ (Autonomous AI agents) ว่าเป็น “ความเสี่ยงจากภายใน” รูปแบบใหม่ โดยยกตัวอย่างสถานการณ์ที่ตัวแทน AI อาจตัดสินใจ “ตกแต่งบัญชีของเขา” เพียงเพื่อให้งานที่ได้รับมอบหมายเสร็จสมบูรณ์

เขาเสริมว่าตัวแทน AI ที่ต้องทำงานต่อเนื่องเป็นระยะเวลานาน ไม่เพียงแต่ต้องมีการตีกรอบควบคุมเท่านั้น แต่ยังต้องมี “การตรวจสอบกิจกรรมของ AI อย่างเข้มงวดและจริงจัง” อีกด้วย

ในระยะยาว นาเดลลามองเห็นความเป็นไปได้ที่จะเกิดบรรทัดฐานด้านความปลอดภัยของ AI ในระดับสากล โดยเฉพาะอย่างยิ่งหากสามารถระบุความเสี่ยงที่เกี่ยวข้องกับ AI ได้อย่างชัดเจน โดยเขาทิ้งท้ายด้วยคำเตือนว่า หากมีสิ่งใดผิดพลาดร้ายแรงเกิดขึ้น มันจะส่งผลกระทบและเกิดความผิดพลาดไปทั่วทุกที่ในเวลาเดียวกัน