ใน รายงานการบังคับใช้มาตรฐานชุมชน ฉบับล่าสุดที่เผยแพร่ในวันนี้ Facebook ได้ให้รายละเอียดเกี่ยวกับการอัปเดตที่ได้ทำกับระบบ AI เพื่อตรวจจับคำพูดที่แสดงความเกลียดชังและข้อมูลเท็จ โดยยักษ์ใหญ่ด้านเทคโนโลยีรายนี้ระบุว่า AI สามารถตรวจจับคำพูดที่แสดงความเกลียดชังทั้งหมดได้ 88.8% ในไตรมาสนี้ ซึ่งเพิ่มขึ้นจาก 80.2% ในไตรมาสก่อนหน้า AI สามารถลบเนื้อหา โดยอัตโนมัติได้ หากระบบมีความมั่นใจสูงว่าเป็นคำพูดที่แสดงความเกลียดชัง แต่ส่วนใหญ่ยังคงต้องได้รับการตรวจสอบโดยมนุษย์ก่อน
เบื้องหลัง: การปรับปรุงนี้ขับเคลื่อนโดยการอัปเดตสองรายการของระบบ AI ของ Facebook เป็นหลัก ประการแรก บริษัทกำลังใช้โมเดลภาษาธรรมชาติขนาดใหญ่ที่สามารถถอดรหัสความแตกต่างและความหมายของโพสต์ได้ดีขึ้น โมเดลเหล่านี้สร้างขึ้นจาก ความก้าวหน้าในการวิจัย AI ในช่วงสองปีที่ผ่านมา ซึ่งช่วยให้เครือข่ายประสาทได้รับการฝึกเกี่ยวกับภาษาโดยไม่ต้องมีการควบคุมจากมนุษย์ ทำให้ขจัดปัญหาคอขวดที่เกิดจากการจัดการข้อมูลด้วยตนเองได้ การอัปเดตรายการที่สองคือ ตอนนี้ระบบของ Facebook สามารถวิเคราะห์เนื้อหาที่ประกอบด้วยรูปภาพและข้อความรวมกัน เช่น มีมที่สร้างความเกลียดชัง AI ยังมีข้อจำกัดในความสามารถในการตีความเนื้อหาสื่อผสมดังกล่าว แต่ Facebook ได้ เปิดตัวชุดข้อมูลใหม่ของมีมที่สร้างความเกลียดชัง และเปิดตัวการแข่งขันเพื่อช่วยระดมอัลกอริทึมที่ดีกว่าสำหรับการตรวจจับมีมเหล่านี้ คำโกหกเกี่ยวกับโควิด: แม้จะมีการอัปเดตเหล่านี้ แต่ AI ก็ไม่ได้มีบทบาทสำคัญในการจัดการกับข้อมูลที่ผิดพลาดเกี่ยวกับไวรัสโคโรนาที่เพิ่มขึ้น เช่น ทฤษฎีสมคบคิดเกี่ยวกับต้นกำเนิดของไวรัสและข่าวปลอมเกี่ยวกับการรักษา Facebook พึ่งพาผู้ตรวจสอบที่เป็นมนุษย์เป็นหลักจาก องค์กรตรวจสอบข้อเท็จจริงที่เป็นพันธมิตรมากกว่า 60 แห่ง ระบบ AI จะเข้ามาทำหน้าที่ค้นหาสิ่งที่เหมือนกันหรือคล้ายกัน และเพิ่มป้ายเตือนหรือลบรายการเหล่านั้นโดยอัตโนมัติก็ต่อเมื่อมีคนทำเครื่องหมายบางอย่างไว้แล้วเท่านั้น ทีมงานยังไม่สามารถฝึกโมเดลการเรียนรู้ของเครื่องให้ค้นหาตัวอย่างใหม่ๆ ของข้อมูลเท็จได้ Mike Schroepfer ซึ่งเป็น CTO ของ Facebook กล่าวในการแถลงข่าวว่า “การสร้างตัวจำแนกประเภทใหม่สำหรับสิ่งที่เข้าใจเนื้อหาที่ไม่เคยเห็นมาก่อนนั้นต้องใช้เวลาและข้อมูลจำนวนมาก” เหตุใดจึงมีความสำคัญ: ความท้าทายนี้เผยให้เห็นข้อจำกัดของการควบคุมเนื้อหาที่ใช้ AI ระบบดังกล่าวสามารถตรวจจับเนื้อหาที่คล้ายกับสิ่งที่เคยเห็นมาก่อนได้ แต่ล้มเหลวเมื่อมีข้อมูลเท็จประเภทใหม่ๆ ปรากฏขึ้น ในช่วงไม่กี่ปีที่ผ่านมา Facebook ได้ลงทุนอย่างหนักในการพัฒนา ระบบ AI ที่สามารถปรับตัวได้เร็วขึ้น แต่ปัญหาไม่ได้อยู่ที่บริษัทเท่านั้น แต่ยังเป็นหนึ่งในความท้าทายด้านการวิจัยที่ใหญ่ที่สุดในสาขานี้