Risiko Tinggi AI Gemini bagi Anak dan Remaja, Sorotan dari Laporan Keamanan Terbaru

Showbizline – AI Gemini, produk kecerdasan buatan milik Google, tengah menjadi sorotan setelah laporan terbaru dari Common Sense Media menyebutkan bahwa teknologi ini memiliki risiko tinggi bagi anak-anak dan remaja.

Lembaga nirlaba yang berfokus pada keamanan digital anak ini merilis penilaian pada Jumat, 6 September 2025, dan menyampaikan bahwa meskipun Gemini telah menegaskan identitasnya sebagai komputer, bukan teman, masih banyak aspek yang dinilai belum aman untuk pengguna muda.

Penegasan bahwa Gemini adalah mesin, bukan sosok yang bisa dijadikan teman, dianggap penting untuk mencegah delusi atau gangguan psikologis, terutama pada anak-anak yang rentan secara emosional.

Namun, Common Sense Media menyoroti bahwa fitur “Under 13” dan “Teen Experience” yang ditawarkan Gemini masih berbasis pada versi dewasa, hanya ditambahkan lapisan keamanan tambahan.

Pendekatan ini dinilai tidak cukup, karena AI yang aman untuk anak seharusnya dirancang sejak awal dengan mempertimbangkan kebutuhan dan perlindungan khusus bagi kelompok usia tersebut.

Modifikasi Versi Dewasa Dinilai Tidak Efektif

Dalam laporan yang dikutip oleh TechCrunch, Common Sense Media menekankan bahwa pendekatan modifikasi dari versi dewasa bukanlah solusi ideal.

AI yang ditujukan untuk anak-anak dan remaja seharusnya dibangun dari nol dengan landasan etika dan desain yang sesuai dengan perkembangan kognitif dan emosional mereka.

Menambahkan filter atau pengawasan di atas sistem yang sudah dewasa hanya memberikan ilusi keamanan, tanpa benar-benar mengatasi potensi risiko yang lebih dalam.

Salah satu kekhawatiran utama adalah kemungkinan anak-anak menerima informasi yang tidak sesuai usia atau mengalami interaksi yang membingungkan secara emosional.

Dalam beberapa kasus, AI bisa memberikan respons yang terlalu kompleks, ambigu, atau bahkan menyerupai percakapan manusia dewasa, yang dapat menimbulkan kesalahpahaman atau keterikatan emosional yang tidak sehat.

Hal ini menjadi perhatian serius, terutama di tengah meningkatnya penggunaan AI oleh generasi muda untuk belajar, bermain, dan berinteraksi secara digital.

Perlunya Regulasi dan Desain Etis untuk AI Anak

Laporan ini memicu diskusi lebih luas tentang perlunya regulasi ketat dan desain etis dalam pengembangan AI yang ditujukan untuk anak-anak dan remaja.

Google sendiri belum memberikan tanggapan resmi terkait evaluasi tersebut, namun tekanan publik dan lembaga perlindungan anak diperkirakan akan mendorong perusahaan teknologi untuk lebih transparan dan bertanggung jawab dalam merancang produk AI.

Di tengah pesatnya perkembangan teknologi kecerdasan buatan, penting bagi orang tua, pendidik, dan pembuat kebijakan untuk memahami bahwa tidak semua AI cocok untuk anak-anak.

AI Gemini, meski canggih dan populer, menunjukkan bahwa fitur keamanan tambahan belum tentu cukup untuk melindungi pengguna muda dari dampak psikologis dan konten yang tidak sesuai.

Evaluasi dari Common Sense Media menjadi pengingat bahwa keamanan digital anak harus menjadi prioritas utama dalam setiap inovasi teknologi.