ซีอีโอ AI ควรรับผิด หากปล่อยโมเดลทั้งที่รู้ว่าเสี่ยงอันตราย

ศาสตราจารย์กฎหมายมหาวิทยาลัยโคลัมเบีย เสนอทบทวนหลักจำกัดความรับผิดของบริษัท ชี้ซีอีโอเจ้าของ AI ต้องไม่พ้นความรับผิดชอบ หากตัดสินใจเปิดตัวโมเดลทั้งที่รู้ว่าอาจก่ออันตรายร้ายแรง พร้อมตั้งคำถามถึงอำนาจของบริษัทเทคโนโลยีที่ใช้สัญญาฉบับเดียวกำหนดเงื่อนไขกับผู้ใช้งานหลายพันล้านคน

แคทารินา พิสเตอร์ (Katharina Pistor) ศาสตราจารย์ด้านกฎหมายจาก Columbia Law School มหาวิทยาลัยโคลัมเบีย สหรัฐอเมริกา และผู้เขียนหนังสือ The Code of Capital เสนอให้ทบทวนความรับผิดทางกฎหมายของผู้บริหารบริษัทเทคโนโลยี โดยเฉพาะผู้พัฒนาปัญญาประดิษฐ์ (AI) ที่ตัดสินใจนำโมเดลออกใช้งานทั้งที่ทราบถึงความเสี่ยงร้ายแรงที่อาจเกิดขึ้น

พิสเตอร์กล่าวระหว่างการเสวนาหัวข้อ Law as the Code of Capitalism: Transforming the World Order in the Time of Disruption ว่า กฎหมายบริษัทในปัจจุบันให้ความคุ้มครองผู้ถือหุ้นผ่านหลักจำกัดความรับผิด (Limited Liability) ซึ่งช่วยป้องกันไม่ให้ผู้ลงทุนต้องรับผิดชอบต่อหนี้สินและความเสียหายของบริษัทเกินขอบเขตที่กฎหมายกำหนด แต่หลักการดังกล่าวควรถูกนำกลับมาพิจารณาอีกครั้งเมื่อเทคโนโลยีที่บริษัทพัฒนาขึ้นอาจสร้างความเสียหายต่อคนจำนวนมาก

ระหว่างช่วงถามตอบ ผู้เข้าร่วมงานตั้งคำถามว่า หาก AI ที่บริษัทพัฒนาขึ้น ก่อความเสียหาย ผู้ถือหุ้นและผู้บริหารควรได้รับความคุ้มครองทางกฎหมายที่ช่วยจำกัดความรับผิดเช่นเดียวกับธุรกิจทั่วไปหรือไม่ หรือควรปรับกฎหมายเพื่อให้ผู้ที่เกี่ยวข้องต้องรับผิดชอบต่อความเสียหายมากขึ้นด้วย

พิสเตอร์ตอบว่า ถึงเวลาที่ต้องทบทวนแล้ว โดยยกกรณีผู้บริหารบริษัท AI (Anthropic) ที่ออกมาเตือนว่า โมเดลที่ตนเองพัฒนาอาจนำไปสู่การสูญพันธุ์ของมนุษยชาติภายในเวลาไม่กี่ปี

“เมื่อซีอีโอของบริษัท AI พูดเองว่า โมเดลที่พวกเขานำออกมาใช้อาจทำให้มนุษยชาติสูญพันธุ์ได้ภายในไม่กี่ปี ฉันคิดว่าซีอีโอเหล่านั้นควรต้องรับผิดชอบด้วยตัวเอง”

การเอาผิดไม่ควรจำกัดอยู่เฉพาะนักลงทุน แต่ควรพิจารณาถึงผู้บริหารที่มีอำนาจตัดสินใจเปิดตัวเทคโนโลยีด้วย โดยเฉพาะกรณีที่ผู้บริหารทราบอยู่แล้วว่าโมเดล AI อาจสร้างอันตรายร้ายแรงต่อผู้อื่น แต่ยังตัดสินใจนำออกใช้งาน

พิสเตอร์กล่าวว่า การตัดสินใจเช่นนี้เป็นการกระทำที่ขาดความรับผิดชอบ และผู้มีอำนาจตัดสินใจไม่ควรได้รับความคุ้มครองจนสามารถหลีกเลี่ยงผลจากการกระทำของตนเองได้

ใครต้องจ่าย เมื่อบริษัทสร้างความเสียหาย

พิสเตอร์อธิบายว่า ตามหลักเศรษฐศาสตร์ เจ้าของทรัพยากรควรเป็นผู้รับภาระต้นทุนที่เกิดจากการใช้ทรัพยากรนั้น แต่เมื่อการดำเนินธุรกิจอยู่ภายใต้โครงสร้างบริษัท หลักจำกัดความรับผิดกลับเปิดโอกาสให้ต้นทุนบางส่วนถูกผลักไปยังบุคคลภายนอก

ปัญหานี้ไม่ได้เกิดขึ้นเฉพาะกับ AI แต่เป็นข้อจำกัดของกฎหมายบริษัทที่มีมานานแล้ว เพราะผู้ถือหุ้นและผู้บริหารอาจได้รับผลประโยชน์จากกิจการ ขณะที่ผู้ได้รับความเสียหายจากการดำเนินธุรกิจต้องแบกรับผลกระทบซึ่งไม่ได้เกิดจากการตัดสินใจของตนเอง

กดยอมรับสัญญา แต่ไม่มีสิทธิแก้เงื่อนไข

นอกจากความรับผิดของผู้บริหาร AI พิสเตอร์ยังวิจารณ์อำนาจของบริษัทเทคโนโลยีขนาดใหญ่ในการกำหนดเงื่อนไขสัญญากับผู้บริโภค

เธออธิบายว่า กฎหมายสัญญาตั้งอยู่บนหลักเสรีภาพในการทำสัญญา โดยถือว่าคู่สัญญามีสิทธิเลือกว่าจะยอมรับข้อตกลงหรือไม่ แต่ในทางปฏิบัติ ผู้บริโภคจำนวนมากแทบไม่มีโอกาสเจรจาเงื่อนไขกับบริษัท

ต่างจากสัญญาธุรกิจขนาดใหญ่ที่คู่สัญญาสามารถต่อรองกันได้ ผู้ใช้งานแพลตฟอร์มดิจิทัลส่วนใหญ่มีทางเลือกเพียงกดยอมรับเงื่อนไขที่บริษัทกำหนดไว้ล่วงหน้า หรือไม่ใช้บริการนั้นเลย

“แน่นอนว่าคุณเป็นคนลงนามเอง หรือกดปุ่มยอมรับด้วยตัวเอง แต่นั่นไม่ได้หมายความว่าคุณสมัครใจอย่างแท้จริง เพราะคุณไม่มีทางเลือกอื่นที่ใช้ได้จริง”

พิสเตอร์ระบุว่า สัญญามาตรฐานมีใช้มาตั้งแต่ศตวรรษที่ 18 แต่เทคโนโลยีสารสนเทศทำให้บริษัทเพียงไม่กี่แห่งสามารถใช้เงื่อนไขชุดเดียวกันกับผู้ใช้งานหลายพันล้านคนได้

สัญญาเหล่านี้ยังอาจกำหนดให้ผู้ใช้ต้องยอมรับนโยบายอื่นของบริษัทเพิ่มเติม ทั้งที่ไม่มีเวลาอ่านรายละเอียดทั้งหมด และบางครั้งเข้าถึงเอกสารที่เกี่ยวข้องได้ยาก

เธอจึงตั้งคำถามว่า การกดยอมรับเงื่อนไขโดยไม่มีทางเลือกอื่นที่เหมาะสม จะถือเป็นการทำสัญญาโดยสมัครใจได้มากน้อยเพียงใด

กฎหมายผูกขาดตามบริษัทเทคโนโลยีไม่ทัน

พิสเตอร์เห็นว่า กฎหมายแข่งขันทางการค้าเพียงอย่างเดียวอาจไม่เพียงพอที่จะควบคุมอำนาจของบริษัทเทคโนโลยีขนาดใหญ่ โดยเฉพาะเมื่อบริษัทเหล่านี้สามารถกำหนดเงื่อนไขการใช้บริการและขยายธุรกิจได้รวดเร็วกว่าการบังคับใช้กฎหมาย

เธอย้อนถึงการบังคับใช้กฎหมายต่อต้านการผูกขาดในสหรัฐอเมริกา ซึ่งมีความเข้มงวดลดลงตั้งแต่สมัยประธานาธิบดีโรนัลด์ เรแกน และมองว่าการกำกับดูแลบริษัทเทคโนโลยีในปัจจุบันเผชิญข้อจำกัดจากอำนาจทางเศรษฐกิจที่บริษัทสะสมไว้แล้ว

ปัญหาจึงไม่ได้อยู่ที่ขนาดของบริษัทเพียงอย่างเดียว แต่รวมถึงสิทธิทางกฎหมายที่บริษัทใช้กำหนดความสัมพันธ์กับลูกค้า พนักงาน และคู่ค้าด้วย

พิสเตอร์เสนอว่า หากต้องการจำกัดอำนาจของบริษัทขนาดใหญ่ จำเป็นต้องพิจารณากฎหมายสัญญา กฎหมายบริษัท และกฎหมายคุ้มครองผู้บริโภคควบคู่กัน ไม่ใช่รอให้กฎหมายแข่งขันทางการค้าแก้ปัญหาทั้งหมด

ยก Boeing ชี้บริษัทต้องรับผิดชอบต่อสินค้าที่ผลิต

พิสเตอร์ยกกรณีเครื่องบิน Boeing 737 MAX ตกสองครั้งในปี 2018 และ 2019 ซึ่งมีผู้เสียชีวิตรวม 346 คน มาอธิบายข้อจำกัดของแนวคิดที่ว่าบริษัทมีหน้าที่สร้างผลตอบแทนสูงสุดให้ผู้ถือหุ้น

หลังเกิดอุบัติเหตุ ผู้ถือหุ้น Boeing ได้ดำเนินคดีในนามบริษัทต่อกรรมการและผู้บริหาร โดยกล่าวหาว่ามีข้อบกพร่องในการกำกับดูแลความปลอดภัย ส่งผลให้บริษัทต้องเผชิญความเสียหายและค่าใช้จ่ายจำนวนมาก

พิสเตอร์กล่าวถึงคำวินิจฉัยของศาลเดลาแวร์ในคดีที่เกี่ยวข้อง โดยสรุปใจความว่า บริษัทที่ผลิตเครื่องบินต้องให้ความสำคัญกับความปลอดภัยของเครื่องบิน ไม่ใช่มุ่งลดต้นทุนหรือเพิ่มผลตอบแทนให้ผู้ถือหุ้นจนละเลยหน้าที่ดังกล่าว

บริษัทไม่สามารถอ้างเป้าหมายการสร้างกำไรเป็นเหตุผลในการละเลยความปลอดภัยของสินค้าได้ เพราะนอกจากผู้ถือหุ้นแล้ว บริษัทยังมีลูกค้า พนักงาน และชุมชนที่ได้รับผลกระทบจากการดำเนินงาน

พิสเตอร์กล่าวว่า แนวคิดที่ให้การสร้างมูลค่าสูงสุดแก่ผู้ถือหุ้นเป็นเป้าหมายหลักของบริษัทได้รับการผลักดันอย่างมากตั้งแต่ทศวรรษ 1970 แต่ไม่ได้เป็นหลักการที่มีอยู่ในกฎหมายบริษัทมาตลอด

ไม่ต้องรอกฎหมายใหม่ทุกเรื่อง

สำหรับแนวทางแก้ปัญหา พิสเตอร์เสนอให้ใช้กฎหมายเอกชนที่มีอยู่สร้างรูปแบบธุรกิจและข้อตกลงใหม่ โดยไม่จำเป็นต้องรอให้รัฐออกกฎหมายหรือฟ้องร้องต่อศาลทุกกรณี

ยกตัวอย่างสหกรณ์แพลตฟอร์มดิจิทัล ซึ่งเปิดโอกาสให้ผู้ให้บริการ เช่น คนขับรถรับจ้าง รวมตัวกันจัดตั้งแพลตฟอร์มของตนเอง แทนการทำงานภายใต้บริษัทเทคโนโลยีรายใหญ่เพียงอย่างเดียว

ในสหรัฐอเมริกา มีการนำกฎหมายบริษัทจำกัดความรับผิดของรัฐเดลาแวร์มาใช้จัดตั้งสหกรณ์รูปแบบใหม่ เนื่องจากกฎหมายดังกล่าวมีความยืดหยุ่นมากกว่ากฎหมายสหกรณ์ดั้งเดิมบางประเภท

นักกฎหมายสามารถช่วยออกแบบสัญญาและโครงสร้างธุรกิจที่กระจายอำนาจให้ผู้มีส่วนเกี่ยวข้องได้มากขึ้น ขณะที่ศาลและฝ่ายนิติบัญญัติก็ยังมีบทบาทในการเปลี่ยนแปลงกติกาทางเศรษฐกิจ