Meta disebut tengah menyiapkan pergeseran besar dalam sistem moderasi kontennya dengan memberi porsi lebih besar kepada kecerdasan buatan dan mengurangi ketergantungan pada moderator manusia. Langkah ini menandai perubahan strategis dalam cara perusahaan memantau konten di platform-platform utamanya.
Perubahan tersebut tidak terjadi secara mendadak, melainkan menjadi kelanjutan dari arah kebijakan yang sudah terlihat sebelumnya. Setelah mengurangi moderasi proaktif dan meninggalkan model pengecekan fakta pihak ketiga lebih dari setahun lalu, Meta kini bergerak lebih jauh dengan mempercepat otomasi berbasis AI.
Tujuan utama dari transisi ini adalah meningkatkan kecepatan identifikasi konten bermasalah. Perusahaan meyakini sistem kecerdasan buatan mampu membaca skala persoalan yang jauh lebih besar dibanding model lama. Dalam bahasa sederhana, AI diposisikan sebagai mesin yang bisa bekerja tanpa ngopi, tanpa cuti, dan tanpa tidur.
Meski begitu, Meta menyatakan manusia belum sepenuhnya dikeluarkan dari proses. Peran mereka tetap dipertahankan pada keputusan yang dianggap sensitif dan berdampak tinggi, seperti menangani banding penonaktifan akun, mengevaluasi peringatan ke otoritas, serta mengawasi pelatihan dan kinerja sistem AI.
Perusahaan juga disebut telah menguji model AI generatif tipe LLM secara internal untuk membantu moderasi. Salah satu klaim yang mencuat adalah kemampuan sistem baru memproses hampir 98 persen bahasa yang digunakan secara global di internet, jauh di atas cakupan sistem manusia yang disebut hanya sekitar 80 bahasa.
Kendati terdengar ambisius, perubahan ini memunculkan pertanyaan besar, terutama soal nasib ribuan pekerja outsourcing yang selama ini terlibat dalam proses moderasi. Belum ada rincian pasti mengenai dampak sosial dan jumlah tenaga kerja yang akan terpengaruh jika otomasi ini dijalankan secara luas.
Dari sisi pengguna, skeptisisme juga masih kuat. Banyak pihak menilai AI belum cukup akurat untuk menangani semua bentuk pelanggaran, terutama kasus yang membutuhkan konteks, nuansa, atau penilaian etis. Kekhawatirannya sederhana: jangan sampai keputusan penting diambil terlalu cepat, tetapi justru salah sasaran.
Meta sendiri mengklaim sistem barunya akan mengurangi kesalahan penegakan aturan yang berlebihan dan meningkatkan kemampuan mendeteksi pelanggaran serius. Selain itu, perusahaan telah mulai menghadirkan asisten AI di Facebook dan Instagram untuk membantu pelaporan konten, pemulihan akun, serta akses ke opsi administrasi tertentu.
Asisten tersebut saat ini disebut sudah tersedia bagi sebagian pengguna di Amerika Serikat dan Kanada. Kehadirannya menunjukkan bahwa AI di Meta tidak hanya diarahkan untuk mengawasi konten, tetapi juga untuk melayani pengguna secara langsung dalam urusan teknis di dalam aplikasi.
Jika rencana ini terus berjalan, Meta akan memasuki fase baru moderasi digital yang lebih otomatis, lebih cepat, tetapi juga lebih kontroversial. Di satu sisi ada janji efisiensi, di sisi lain ada kekhawatiran soal akurasi, akuntabilitas, dan ruang manusia dalam mengambil keputusan yang tidak selalu bisa dijawab oleh algoritma.
