TikTok dan YouTube gagal berkomitmen untuk melakukan perubahan berarti pada sistem rekomendasi mereka untuk mencegah anak-anak melihat konten berbahaya di platform mereka, menurut Ofcom, regulator keamanan online Inggris, yang pada hari Kamis menyatakan keprihatinannya atas kurangnya tindakan dari industri tersebut.
Regulator membuat pernyataan tersebut dalam siaran pers di samping bukti yang dipublikasikan menunjukkan bahwa hampir tiga perempat anak-anak berusia 11 hingga 17 tahun pernah melihat konten berbahaya secara online, dengan sedikit perubahan sejak Undang-Undang Keamanan Online (OSA) Inggris mulai berlaku.
OSA, yang setara dengan Undang-Undang Layanan Digital Eropa (DSA) secara nasional, diterapkan secara bertahap. Namun mekanisme keselamatan dimaksudkan untuk melindungi anak-anak dari berbagai bahaya, termasuk bahaya yang ditimbulkan oleh algoritma yang mendorong bahaya, konten, mulai berlaku musim panas lalu.
Ofcom mengatakan TikTok dan YouTube telah mengklaim feed konten mereka sudah aman untuk anak-anak dan tidak memerlukan perubahan apa pun. Namun, regulator menemukan bahwa halUmpan yang dipersonalisasi adalah alasan utama anak-anak terpapar konten berbahaya. Laporan tersebut juga menyatakan bahwa 35% anak-anak melaporkan melihat konten berbahaya saat menggulir.
Februari lalu, Komisi Eropa juga mengkritik fitur desain TikTok yang membuat ketagihan – termasuk sistem rekomendasinya yang sangat personal – meskipun temuan pelanggaran DSA masih bersifat awal dan aplikasi tersebut masih berjalan di UE.
Audit independen
Ofcom sebelumnya telah mengirimkan permintaan informasi yang mengikat secara hukum ke Meta, pemilik Facebook dan Instagram, serta TikTok dan YouTube, untuk menanyakan tentang umpan konten platform tersebut.
Pada hari Kamis, pihaknya mengatakan pihaknya terus menyelidiki tanggapannya dan sedang mempersiapkan rencana aksi baru untuk memperkuat keterlibatannya dengan platform tersebut.
Khususnya, regulator mengatakan mereka sedang “mengeksplorasi” kewenangan inspeksinya berdasarkan OSA, yang dapat berarti platform akan tunduk pada audit independen. Ofcom juga mengatakan pihaknya dapat mengeluarkan “pemberitahuan inspeksi jarak jauh” yang memungkinkannya mengamati cara kerja moderasi konten, deteksi, dan pemeriksaan usia dalam praktiknya.
Ketika ditanya tentang apa yang bisa dia lakukan untuk membuat TikTok dan YouTube patuh, CEO Ofcom Dame Melanie Dawes mengatakan kepada BBC Radio 4. Hari ini “Kita berbicara tentang budaya yang sudah berusia 20 tahun di Silicon Valley yang tidak menganggap serius keamanan. Anda tidak bisa mengubahnya dalam semalam.”
Ofcom memperingatkan bahwa jika platform ditemukan melanggar aturan, langkah selanjutnya adalah tindakan penegakan hukum. OSA memberikan sanksi hingga 10% dari keseluruhan omset perusahaan yang terkena sanksi jika terjadi pelanggaran yang terkonfirmasi.
Dalam temuan lain dari penelitiannya, Ofcom mengatakan tidak ada platform yang menetapkan usia minimum 13 tahun untuk menggunakan layanan mereka yang menerapkannya secara efektif. Studi tersebut mengungkapkan bahwa 84% anak usia 8 hingga 12 tahun masih menggunakan YouTube, Facebook, TikTok, Instagram, dan Snapchat.
Dalam temuan serupa pada bulan April, Komisi Eropa mengatakan Meta tidak mengambil tindakan yang cukup ketat untuk mencegah anak di bawah 13 tahun mengakses Facebook dan Instagram.
Langkah-langkah keamanan
Secara terpisah, Ofcom mengumumkan bahwa Snap, Meta, dan platform permainan video Roblox telah berkomitmen untuk meluncurkan langkah-langkah keamanan anti-perawatan yang bertujuan melindungi anak-anak dari bahaya orang asing, termasuk memperkuat pengaturan kontak default, menerapkan alat deteksi AI, dan kontrol obrolan langsung.
Meta juga berjanji untuk memperluas penggunaan lebih dari 13 klasifikasi konten “gaya film”, dari Instagram hingga Facebook di Inggris, meskipun Ofcom mengatakan masih terlalu dini untuk menentukan apakah langkah tersebut akan mengurangi dampak buruk dalam praktiknya.
(tidak, cm)
Natasha Lomas berkontribusi dalam pelaporan.
