Techverse.asia – Snapchat telah meluncurkan Kontrol Konten khusus orang tua untuk membantu mencegah anak di bawah umur terpapar konten yang berpotensi tidak pantas saat menggunakan aplikasi. Diumumkan pada Selasa (14/3/2023) kemarin, orang tua dan wali sekarang dapat mengakses kemampuan pemfilteran konten baru melalui alat pengawasan Pusat Keluarga Snapchat untuk memblokir konten "sensitif atau sugestif" agar tidak muncul di Cerita Snapchat atau umpan Sorotan anak mereka.

Untuk mengaktifkan fitur ini, orang tua dapat mengaktifkan filter "Batasi Konten Sensitif" di Pusat Keluarga Snapchat. Setelah diaktifkan, remaja tidak akan lagi melihat konten yang diblokir di Stories dan Spotlight — bagian video pendek platform. Teks di bawah menentukan bahwa mengaktifkan filter ini tidak akan berdampak pada konten yang dibagikan di Obrolan, Snaps, dan Pencarian.

Mendampingi perubahan ini, Snapchat juga menerbitkan panduan kontennya untuk pertama kalinya guna memberikan lebih banyak wawasan kepada kreator di Stories dan Spotlight tentang jenis postingan apa yang mungkin direkomendasikan di platformnya dan konten apa yang sekarang dianggap "sensitif" di bawah panduan komunitasnya. Platform tersebut mengatakan bahwa mereka telah membagikan pedoman ini dengan sekelompok pembuat konten di bawah program Snap Stars dan dengan mitra medianya, tetapi sekarang perusahaan membuatnya tersedia untuk semua orang melalui halaman di situs webnya.

Perusahaan sudah melarang konten seperti konten kebencian, terorisme, ekstremisme kekerasan, aktivitas ilegal, informasi berbahaya, palsu atau menipu, pelecehan dan intimidasi, ancaman kekerasan, dan lainnya muncul di platformnya. Namun sekarang, pedoman tersebut menentukan konten apa di bawah berbagai kategori yang akan dianggap "sensitif". Ini adalah konten yang mungkin memenuhi syarat untuk direkomendasikan, tetapi mungkin diblokir dari pengguna remaja di bawah kontrol baru ini, atau dari orang lain di aplikasi berdasarkan usia, lokasi, atau preferensi pribadi mereka.

Baca Juga: My AI: Chatbot yang Dirilis Snapchat dengan Dukungan dari ChatGPT

Misalnya, di bawah kategori konten seksual, Snapchat menjelaskan bahwa konten akan dianggap “sensitif” jika mencakup “semua ketelanjangan, serta semua penggambaran aktivitas seksual, meskipun berpakaian, dan meskipun citra tersebut tidak nyata” (seperti seperti dalam kasus gambar AI, serta "bahasa eksplisit" yang mendeskripsikan tindakan seks dan hal lain yang terkait dengan seks, seperti pekerjaan seks, tabu, alat kelamin, mainan seks, "citra yang terlalu sugestif", "konten seksual yang tidak sensitif atau merendahkan" dan "memanipulasi media."

Ini membahas apa yang akan dianggap sensitif dalam kategori lain juga, termasuk konten pelecehan, mengganggu atau kekerasan, info palsu atau menipu, kegiatan ilegal atau diatur, konten kebencian, terorisme dan ekstremisme kekerasan, dan konten komersial (permohonan terbuka untuk membeli dari non-pencipta yang disetujui). Ini termasuk berbagai konten, seperti penggambaran obat-obatan, umpan keterlibatan, menyakiti diri sendiri, modifikasi tubuh, darah kental, kekerasan dalam berita, gambar gamblang tentang penyakit fisik manusia, penderitaan hewan, liputan distribusi sensasional insiden, seperti kekerasan atau kejahatan seksual, perilaku berbahaya dan masih banyak lagi.

Perubahan tersebut terjadi lama setelah sidang kongres tahun 2021 di mana Snap dikritik tentang menampilkan konten terkait dewasa di feed Discover aplikasi seperti undangan ke video game seksual, dan artikel tentang pergi ke bar atau pornografi. Seperti yang ditunjukkan dengan tepat oleh para senator, aplikasi Snap terdaftar sebagai 12+ di App Store tetapi konten yang dibagikan jelas ditujukan untuk audiens yang lebih dewasa. Bahkan video game yang diiklankan, dalam beberapa kasus, dinilai ditujukan untuk pengguna yang lebih tua.

“Kami berharap alat dan pedoman baru ini membantu orang tua, pengasuh, orang dewasa tepercaya, dan remaja tidak hanya mempersonalisasi pengalaman Snapchat mereka, tetapi juga memberdayakan mereka untuk melakukan percakapan yang produktif tentang pengalaman online mereka,” ungkap Snapchat dalam sebuah posting blog, Jumat (17/3/2023).

Baca Juga: Fitur Refresh TikTok: Konten di For You Page Bakal Lebih Variatif

Namun, meskipun fitur baru ini mungkin sangat membatasi konten sensitif dari pemirsa remaja di beberapa area, fitur tersebut mengharuskan orang tua untuk mengambil tindakan dengan mengaktifkan sakelar yang mungkin tidak mereka ketahui.

Singkatnya, ini adalah contoh lain tentang bagaimana kurangnya undang-undang dan peraturan tentang perusahaan media sosial telah menyebabkan kebijakan mandiri, yang tidak cukup untuk melindungi pengguna muda dari bahaya.

Selain kontrol konten, Snap mengatakan sedang berupaya menambahkan alat untuk memberi orang tua lebih banyak "visibilitas dan kontrol" seputar penggunaan chatbot AI baru oleh remaja.

Bulan lalu, Snapchat meluncurkan chatbot ini yang didukung oleh teknologi GPT Open AI di bawah langganan Snapchat+. Kebetulan, pengumuman Snapchat muncul setelah chatbot menjadi nakal saat mengobrol dengan kolumnis Washington Post yang berpura-pura menjadi remaja.

Bot tersebut diduga menyarankan kolumnis untuk menyembunyikan bau ganja dan alkohol saat mengadakan pesta ulang tahun. Secara terpisah, para peneliti di Center for Humane Technology menemukan bahwa bot tersebut memberikan nasihat seks kepada pengguna yang berpura-pura berusia 13 tahun.