AI สกัดคอนเทนต์ร้าย นโยบายปกป้องผู้ใช้เฟซบุ๊ก

เมื่อโซเชียลมีเดียกลายเป็นส่วนหนึ่งในชีวิตประจำวัน โดยเฉพาะเฟซบุ๊กที่มีผู้ใช้งานกว่า 2,000 ล้านคนทั่วโลก จึงเป็นอีกช่องทางหนึ่งในการเผยแพร่เนื้อหาที่ไม่เหมาะสม “ไซมอน ฮารารี” ผู้จัดการฝ่ายนโยบายด้านเนื้อหา ประจำภูมิภาคเอเชีย-แปซิฟิก เฟซบุ๊ก ยืนยันว่า การป้องกันผู้ใช้จากเนื้อหาที่ไม่เหมาะสม เป็นส่วนหนึ่งในพันธกิจที่จะช่วยเหลือผู้คนในการสร้างชุมชนและเชื่อมต่อคนทั่วโลก

แต่ต้องยืนอยู่บน 3 หลักการสำคัญคือ ให้ผู้ใช้รู้สึกปลอดภัย เปิดโอกาสให้มีอิสระในการแสดงความคิดเห็น และ “เท่าเทียม” ไม่นำความต่างด้านวัฒนธรรมและชาติพันธุ์มาเป็นข้อจำกัดในการเข้าถึงแพลตฟอร์ม

โดยเนื้อหาที่ถูกจับตาคือ เนื้อหาโป๊เปลือย และกิจกรรมทางเพศ เนื้อหาความรุนแรง โฆษณาชวนเชื่อของผู้ก่อการร้าย เนื้อหาที่ใช้วาจาสร้างความเกลียดชัง บัญชีผู้ใช้ปลอม สแปม มีความรุนแรง และลามกอนาจาร

“ความท้าทายคือ เขียนนโยบายให้เข้ากับคนทั่วโลก ซึ่งมีวัฒนธรรมแตกต่างกัน จึงมีทีมกฎหมายทั่วโลก และปรับกฎหมายทุก 2 อาทิตย์ หรือเมื่อเจอช่องโหว่ มอนิเตอร์ตลอด 7 วัน 24 ชั่วโมง ครอบคลุม 50 ภาษา เพิ่มทีมงานจาก 1 หมื่น เป็น 2 หมื่นคน และยังใช้ AI รวมถึงการรายงานจากผู้ใช้ เพื่อดูเนื้อหาที่ผิดข้อกำหนด”

ที่ผ่านมาเฟซบุ๊กได้ลบแอ็กเคานต์บัญชีผู้ใช้ปลอมถึง 583 ล้านราย ซึ่ง 99% ตรวจสอบพบหลังลงทะเบียน 1 นาที ถอดสแปมออกไปกว่า 837 ล้านสแปม กำจัดเนื้อหาลามกกว่า 21 ล้านชิ้น ซึ่งเกือบ 100% ตรวจเจอโดย AI และลบคอนเทนต์ที่มีเนื้อหาเชิงปลุกปั่นกว่า 1.9 ล้านเนื้อหา โดย 99.5% AI ตรวจพบก่อนจะมีการแจ้งรายงาน ทั้งยังกำจัดคำพูดสร้างความเกลียดชังกว่า 2.5 ล้านข้อความ ซึ่ง 38% พบโดย AI

“แคลร์ ดีวีย์” ผู้อำนวยการฝ่ายโครงการนโยบาย ประจำภูมิภาคเอเชีย-แปซิฟิก กล่าวเสริมว่า มีนโยบายป้องกันการถูกกลั่นแกล้งทางอินเทอร์เน็ต (bully) สำหรับผู้ใช้งานกลุ่มอายุ 13-18 ปี รวมทั้งบุคคลสาธารณะ โดยจะมีฟีเจอร์บล็อกคอมเมนต์จากบางคน เลือกซ่อนคอมเมนต์หรือบางคำที่ไม่สุภาพ

ส่วนปัญหาใช้ฟีเจอร์ “Live” ฆ่าตัวตายได้พัฒนา AI ช่วยวิเคราะห์พฤติกรรมที่สุ่มเสี่ยงจากการโพสต์ข้อความต่าง ๆ ทั้งยังมีข้อแนะนำและวิธีการช่วยเหลือที่จะโน้มน้าวผู้ที่กำลังจะฆ่าตัวตาย รวมถึงทำงานร่วมกับนักจิตวิทยา เพื่อให้คำปรึกษาผู้ที่กำลังประสบปัญหาได้ดีขึ้น

“ผู้เชี่ยวชาญแนะนำว่า หากปิด Live ผู้ที่กำลังฆ่าตัวตายยิ่งรู้สึกโดดเดี่ยว การเปิดอาจทำให้เพื่อน ๆ ให้กำลังใจเกลี้ยกล่อม และทีมงานหาทางช่วยเหลือได้”