L1ght แสงสว่างในมุมมืด แห่งโลกออนไลน์

คอลัมน์ สตาร์ตอัพ ปัญหาทำเงิน

โลกออนไลน์น่ากลัวขึ้นทุกวันโดยเฉพาะสำหรับเด็ก ๆ จากการศึกษาของ Ofcom ผู้คุมกฎการใช้สื่อของอังกฤษ พบว่า หนึ่งปีที่ผ่านมามีเด็กอายุ 12-15 ปี ถึง 80% ที่มีประสบการณ์ที่อาจก่อให้เกิดอันตรายได้บนโลกออนไลน์

เอ็นจีโอในอังกฤษ Ditch The Label ยังพบว่า 42% ของ cyberbullies ในกลุ่มเยาวชนเกิดขึ้นบน instagram ตามด้วย Facebook และ snapchat

เพื่อเพิ่มความปลอดภัยบนโลกไซเบอร์ให้กับเด็กและเยาวชน รอน โพแรท ผู้เชี่ยวชาญด้าน cybersecurity และ โซฮาร์ เลฟโควิทซ์ นักธุรกิจชาวอิสราเอล จึงก่อตั้ง AntiToxin Technologies (ปัจจุบันเปลี่ยนชื่อเป็น L1ght) เมื่อปีก่อนเพื่อพัฒนาซอฟต์แวร์ที่ดักสกัดภัยคุกคามไซเบอร์

รอนทุ่มเทกับการพัฒนาซอฟต์แวร์ตัวนี้มาก หลังพบว่า ลูกชายเคยตกเป็นเหยื่อบูลลี่อย่างหนักบนแพลตฟอร์มเกมออนไลน์ดังอย่าง Minecraft ซึ่งทำให้ตระหนักว่าปัญหานี้น่ากลัวกว่าที่คิด

ซอฟต์แวร์นี้จะเชื่อมต่อกับ “ระบบหลังบ้าน” ของแหล่งกระจายคอนเทนต์ทั้งแอปและแพลตฟอร์มออนไลน์ เพื่อดักจับเนื้อหา คำพูด ภาพนิ่ง แอนิเมชั่น คลิปเสียง และวิดีโอ ที่ผิดกฎหมายหรือส่อแววอันตราย รายงานให้เจ้าของแพลตฟอร์มดำเนินการต่อไป

มี AI วิเคราะห์เนื้อหาโดยดูจาก “บริบท” รอบข้าง จึงประมวลผลได้แม่นยำกว่าคัดกรองด้วยลิสต์ “คำศัพท์ต้องห้าม” อย่างเดียว และทำให้ฉลาดถึงขั้นรู้ว่าอะไรคือการแลกรูป “เซ็กซี่” อย่าง “สมยอม” ระหว่างคู่รักที่เป็นผู้ใหญ่ และอะไรคือการแชร์รูปอนาจารเด็กในกลุ่มแชตลามกผิดกฎหมาย อะไรคือการ “สบถด่าทอ” ตามประสาเพื่อนฝูง อะไรคือ “บูลลี่” hate speech

หลังให้บริการไตรมาสเดียว L1ght สร้างชื่อ ด้วยการเผยมุมมืดบนแพลตฟอร์มออนไลน์ยอดนิยมหลายแห่ง เช่น รวบรวมรายชื่อ “พวกใคร่เด็ก” ได้ถึง 1.3 แสนรายบนกลุ่มแชตสาธารณะของ WhatsApp พบแอปหาเงินจากการแชร์ลิงก์ไปยังกลุ่ม “แชตลับ” บนเฟซบุ๊กและกูเกิล แถมพบว่าพิมพ์ “คำบางคำ” บน search engine ระบบจะรีบ “เสนอ” ลิงก์ไปเว็บลามก รูปอนาจารเด็กโดยอัตโนมัติ

ล่าสุด L1ght ตรวจเจอการแชร์รูปลามก คลิปข่มขืนเด็ก การใช้ hate speech บนเครือข่ายของ Giphy แพลตฟอร์มที่วัยรุ่นนิยมใช้เพื่อค้นหาภาพเคลื่อนไหว “ดุกดิก” “น่ารัก”

แม้เฟซบุ๊กจะลงทุนจ้างคนเพิ่มขึ้น 3 เท่าเพื่อสอดส่องและกวาดล้างก็ดูจะทำอะไรไม่ได้มาก ขาใหญ่รายอื่น เช่น YouTube Twitter ก็ยังแก้ไขปัญหานี้ไม่ได้เบ็ดเสร็จเด็ดขาด ทำให้สตาร์ตอัพที่ให้บริการ “Safety as a service” อย่าง L1ght กลายเป็นแสงสว่างในอุโมงค์อันมืดมิด

L1ght ไม่สามารถบอกชื่อลูกค้าว่ามีใครบ้างเพราะติดเงื่อนไขห้ามเปิดเผยข้อมูล แต่ก็แง้มให้สื่อรู้ว่าบริษัทได้รับความสนใจจากแพลตฟอร์มและแอปต่าง ๆ พอสมควร โดยเฉพาะเมื่อรัฐบาลเริ่มออกกฎเข้มให้ “เก็บกวาด” แพลตฟอร์มตัวเองมากขึ้น

L1ght หวังว่าวันหนึ่งจะ “คาดการณ์”เหตุร้ายได้แม่นยำขึ้น เช่น ระบุตัวคนที่มีพฤติกรรม “น่าเป็นห่วง” เพื่อจับตามองเป็นพิเศษก่อนพวกนี้จะลงมือทำอะไร ทั้งยังกำลังพัฒนาเครื่องมือที่ช่วยชี้ตัว “bad actors” ที่มี accounts หลายแพลตฟอร์มจะได้กำจัดออกทั้งหมดในครั้งเดียว

ในวันที่แพลตฟอร์มทั้งโซเชียล แอป และเกม พากันร่ำรวยด้วยการหากินกับเด็กและเยาวชน พวกเขาก็ควรมี “หน้าที่” ดูแลความปลอดภัยให้กับลูกค้าตัวเองบ้าง และหากทำไม่ได้การลงทุนซื้อซอฟต์แวร์จากผู้ที่พร้อม ก็เป็นทางออกที่ไม่เลว ดีกว่าปล่อยให้ปัญหาลุกลามแล้วค่อยลุกขึ้นมาเทกแอ็กชั่นเฉพาะช่วงที่เป็นข่าว