Platform media sosial semakin mendapat tekanan untuk lebih melindungi pengguna muda dari konten dan interaksi berbahaya. Upaya terbaru Meta untuk mengatasi kekhawatiran ini melibatkan perluasan kemampuan kecerdasan buatan untuk mengidentifikasi pengguna di bawah umur di Instagram yang mungkin salah menyatakan usia mereka.
Sistem Deteksi AI Baru Menargetkan Kesalahan Representasi Usia
Meta meningkatkan pendekatan kecerdasan buatan untuk verifikasi usia di Instagram dengan menerapkan sistem yang secara proaktif dapat mengidentifikasi pengguna remaja yang telah mendaftar dengan tanggal lahir orang dewasa. Inisiatif baru ini, yang mulai diuji di Amerika Serikat pada hari Senin, merupakan perubahan signifikan dalam cara platform menangani verifikasi usia. Alih-alih hanya mengandalkan informasi yang diberikan pengguna, Instagram kini akan menganalisis berbagai sinyal melalui AI untuk menentukan apakah akun yang terdaftar sebagai orang dewasa sebenarnya milik seseorang yang berusia di bawah 18 tahun.
Bagaimana Deteksi Usia AI Instagram Bekerja
Sistem AI memeriksa beberapa titik data untuk membuat penentuan tentang usia sebenarnya pengguna. Menurut Meta, teknologi ini mencari sinyal spesifik seperti jenis konten yang diinteraksi pengguna, pola keterlibatan, informasi profil, dan tanggal pembuatan akun. Sistem bahkan dapat mendeteksi petunjuk kontekstual dalam komunikasi, seperti teman-teman yang memposting ucapan selamat ulang tahun ke-16 ke akun yang mengklaim milik orang dewasa. Meta mencatat bahwa orang-orang dalam kelompok usia yang sama biasanya berinteraksi dengan konten dengan cara yang khas, memberikan pola perilaku tambahan untuk dianalisis oleh AI.
Sinyal Deteksi Usia oleh AI
- Pola interaksi konten
- Perilaku keterlibatan pengguna
- Analisis informasi profil
- Waktu pembuatan akun
- Konteks pesan (misalnya, ucapan ulang tahun)
Perubahan Pengaturan Otomatis untuk Akun Remaja yang Terdeteksi
Ketika sistem AI Instagram mengidentifikasi akun yang diyakini milik remaja meskipun memiliki tanggal lahir orang dewasa, sistem akan secara otomatis menerapkan pengaturan akun remaja yang lebih ketat. Ini termasuk membuat akun menjadi privat secara default, membatasi pesan langsung hanya kepada orang yang diikuti pengguna atau sudah terhubung, dan membatasi akses ke konten sensitif seperti video yang menampilkan perkelahian atau postingan yang mempromosikan prosedur kosmetik. Selain itu, akun-akun ini akan menerima notifikasi setelah 60 menit penggunaan platform secara terus-menerus dan akan mengaktifkan mode tidur, yang mematikan notifikasi dan mengirimkan balasan otomatis ke pesan langsung antara pukul 10 malam dan 7 pagi.
Pembatasan Akun Remaja di Instagram
- Akun bersifat privat secara default
- Pesan langsung dibatasi hanya untuk pengikut dan koneksi
- Penyaringan konten sensitif (video perkelahian, prosedur kosmetik)
- Notifikasi penggunaan selama 60 menit
- Mode tidur (pukul 10 malam hingga 7 pagi) dengan notifikasi dinonaktifkan dan balasan otomatis
Solusi Pengguna untuk Penentuan yang Salah
Meta mengakui bahwa sistem AI-nya mungkin tidak selalu membuat penentuan yang akurat tentang usia pengguna. Untuk mengatasi potensi kesalahan, Instagram akan memungkinkan pengguna untuk mengembalikan pengaturan mereka jika mereka yakin AI telah secara keliru mengidentifikasi mereka sebagai remaja. Opsi ini memberikan katup pengaman bagi pengguna dewasa yang mungkin secara keliru ditandai oleh sistem.
Respons terhadap Pengawasan dan Tekanan Hukum yang Meningkat
Pendekatan deteksi usia yang ditingkatkan ini muncul di tengah tekanan yang meningkat dari orang tua, pembuat undang-undang, dan regulator yang khawatir tentang dampak media sosial terhadap kesehatan mental dan keselamatan pengguna muda. Uni Eropa meluncurkan investigasi tahun lalu untuk mengetahui apakah Meta secara memadai melindungi pengguna muda. Selain itu, laporan yang mengkhawatirkan tentang predator yang menargetkan anak-anak di Instagram telah menyebabkan tindakan hukum dari setidaknya satu jaksa agung negara bagian AS.
Ketidaksepakatan Industri Mengenai Tanggung Jawab
Masalah perlindungan anak di bawah umur secara online telah menciptakan ketidaksepakatan yang mencolok di antara raksasa teknologi. Google telah secara terbuka mengkritik Meta, Snap, dan X (sebelumnya Twitter) karena berusaha mengalihkan tanggung jawab verifikasi usia ke toko aplikasi. Konflik ini muncul setelah disahkannya undang-undang di Utah yang bertujuan meningkatkan perlindungan online bagi anak di bawah umur. Meta dan perusahaan media sosial lainnya telah mengadvokasi untuk menempatkan tanggung jawab verifikasi usia pada toko aplikasi, sementara kritikus berpendapat bahwa platform itu sendiri harus mengambil tanggung jawab lebih langsung untuk memastikan produk mereka aman bagi anak-anak.
Inisiatif Keterlibatan Orang Tua
Sebagai bagian dari pendekatan yang diperluas untuk verifikasi usia ini, Instagram akan mengirimkan notifikasi kepada orang tua dengan panduan tentang cara mendiskusikan pentingnya memberikan informasi usia yang akurat secara online dengan remaja mereka. Ini merupakan upaya untuk melibatkan orang tua secara lebih langsung dalam proses memastikan penggunaan platform yang tepat oleh pengguna yang lebih muda.