INVERSI.ID – Risiko AI Gemini bagi anak dan remaja kembali menjadi sorotan setelah organisasi nirlaba Common Sense Media merilis hasil penilaian terbarunya. Laporan tersebut menyebutkan bahwa produk kecerdasan buatan milik Google ini masih mengandung potensi bahaya serius, meski telah dibekali dengan filter keamanan. Fakta ini membuat banyak pihak khawatir, terutama para orang tua dan pendidik yang tengah mencari keseimbangan antara manfaat teknologi dan keselamatan generasi muda.
Laporan itu disampaikan pada Minggu, 7 September 2025, dan dikutip dari Tech Crunch. Common Sense Media, yang selama ini dikenal fokus pada keselamatan anak dalam penggunaan media dan teknologi, menilai Gemini sebagai produk dengan risiko AI Gemini bagi anak dan remaja yang tinggi. Meskipun sistem ini secara jelas memberi tahu anak-anak bahwa ia hanyalah komputer, bukan teman, hasil analisis menunjukkan adanya potensi konten berbahaya yang masih bisa diakses oleh pengguna muda.
Situasi ini semakin menegaskan bahwa risiko AI Gemini bagi anak dan remaja tidak bisa dipandang sebelah mata. Apalagi, dalam beberapa bulan terakhir, terdapat laporan keterlibatan kecerdasan buatan dalam kasus bunuh diri remaja. Hal ini memicu perdebatan publik mengenai bagaimana perusahaan teknologi besar seharusnya merancang layanan AI yang aman untuk anak-anak dan remaja.
Laporan Common Sense Media: Filter Belum Cukup
Common Sense Media secara khusus menyoroti dua versi AI Gemini, yaitu “Under 13” dan “Teen Experience”. Kedua layanan ini dinilai hanya merupakan modifikasi dari versi dewasa dengan tambahan filter keamanan. Menurut organisasi tersebut, pendekatan semacam ini kurang memadai karena kebutuhan anak-anak dan remaja sangat berbeda dengan orang dewasa.
Dalam laporannya, Common Sense menemukan bahwa AI Gemini masih mampu menampilkan informasi yang tidak pantas. Konten berisiko tersebut mencakup topik seks, narkoba, alkohol, hingga saran kesehatan mental yang bisa membahayakan penggunanya. Ketidakmampuan sistem untuk menyaring informasi secara ketat menimbulkan tanda tanya besar tentang keseriusan Google dalam melindungi generasi muda.
“AI Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detailnya. Sebuah platform AI untuk anak seharusnya disesuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam,” jelas Robbie Torney, Senior Director AI Programs Common Sense Media.
Potensi Bahaya: Dari Informasi Keliru hingga Dampak Psikologis
Risiko terbesar dari penggunaan AI pada anak-anak dan remaja terletak pada potensi terpapar informasi yang salah atau tidak pantas. Dalam kasus AI Gemini, konten yang lolos dari filter bisa memberikan saran yang keliru terkait kesehatan mental atau perilaku berbahaya. Situasi ini diperparah dengan fakta bahwa anak dan remaja masih berada dalam tahap perkembangan emosional, sehingga rentan menerima informasi tanpa filter kritis.
Laporan Common Sense juga mengingatkan bahwa AI Gemini berpotensi memengaruhi perilaku sosial anak. Misalnya, ketika sistem memberikan kesan hubungan personal dengan pengguna, anak-anak bisa salah memahami bahwa AI adalah teman nyata. Meski Google menegaskan sudah menambahkan pengaman untuk menghindari kesalahpahaman ini, hasil pengujian menunjukkan masih ada celah yang membahayakan.
Hal ini menjadi penting karena dalam beberapa bulan terakhir, laporan global mengungkap keterlibatan chatbot AI dalam kasus-kasus ekstrem, termasuk dorongan bunuh diri di kalangan remaja. Fenomena ini mempertegas urgensi perlindungan yang lebih ketat sebelum teknologi AI benar-benar diintegrasikan ke dalam kehidupan sehari-hari anak muda.
Baca Juga :
Isu Global: Gemini dan Siri Generasi Baru
Kekhawatiran terhadap risiko Gemini semakin menguat setelah muncul kabar bahwa Apple sedang mempertimbangkan untuk menggunakan Gemini sebagai model bahasa besar (LLM) dalam versi terbaru Siri yang akan dirilis tahun depan. Jika benar, hal ini berarti jutaan remaja pengguna iPhone bisa terpapar risiko yang sama.
Meski Apple dikenal ketat dalam soal privasi dan keamanan, penggunaan Gemini tanpa penambahan pengaman ekstra bisa menimbulkan masalah serius. Common Sense menekankan bahwa anak-anak membutuhkan panduan khusus, bukan hanya layanan yang dimodifikasi dari produk dewasa. Tanpa langkah antisipatif, kehadiran Gemini dalam ekosistem iOS justru berpotensi memperluas paparan risiko.
Respons Google terhadap Kritik
Menanggapi laporan tersebut, Google menyatakan bahwa pihaknya telah menyiapkan kebijakan khusus bagi pengguna di bawah 18 tahun. Kebijakan ini mencakup pengujian keamanan, konsultasi dengan pakar eksternal, hingga perlindungan tambahan pada sistem Gemini.
Google juga mengakui bahwa ada beberapa respons Gemini yang masih tidak sesuai dengan tujuan awal. Namun, perusahaan menekankan bahwa mereka terus menambahkan pengaman untuk memperbaiki kelemahan tersebut.
Selain itu, Google mempertanyakan metode pengujian yang digunakan Common Sense. Menurut perusahaan, mereka tidak mengetahui pertanyaan spesifik apa saja yang diberikan dalam uji coba, sehingga hasil penilaian dianggap perlu ditinjau lebih lanjut.
Perbandingan dengan Produk AI Lain
Penilaian Common Sense Media tidak hanya menyasar Gemini, tetapi juga sejumlah layanan AI lainnya. Meta AI dan Character.AI, misalnya, digolongkan ke dalam kategori “unacceptable” karena dianggap sangat berisiko bagi anak-anak dan remaja.
Sementara itu, Perplexity dinilai memiliki risiko tinggi, ChatGPT berada di level “moderate risk”, sedangkan Claude, yang memang ditujukan untuk pengguna berusia 18 tahun ke atas, masuk kategori risiko minimal.
Perbandingan ini menunjukkan bahwa industri AI secara keseluruhan masih menghadapi tantangan besar dalam menciptakan layanan yang benar-benar aman bagi generasi muda. Gemini hanyalah salah satu contoh nyata dari masalah yang lebih luas.
Pentingnya Edukasi dan Pengawasan
Terlepas dari upaya perusahaan teknologi, tanggung jawab menjaga keselamatan anak-anak tidak bisa sepenuhnya dibebankan kepada penyedia layanan AI. Orang tua, pendidik, dan masyarakat luas juga perlu terlibat aktif. Edukasi literasi digital menjadi kunci agar anak-anak mampu memilah informasi dan memahami batasan penggunaan teknologi.
Pengawasan orang tua juga harus lebih intensif, terutama ketika anak mengakses platform berbasis AI. Dengan pendampingan yang tepat, risiko paparan konten berbahaya bisa diminimalkan. Selain itu, pemerintah dan regulator di berbagai negara didorong untuk menyusun aturan yang lebih ketat agar layanan AI benar-benar ramah anak.
Risiko AI Gemini bagi anak dan remaja adalah peringatan serius bahwa inovasi teknologi tidak boleh mengabaikan aspek keselamatan pengguna muda. Meski Google sudah menambahkan filter dan kebijakan khusus, laporan Common Sense Media membuktikan bahwa masih banyak celah yang perlu ditutup.
Dengan meningkatnya integrasi AI dalam kehidupan sehari-hari, penting bagi perusahaan teknologi untuk tidak sekadar memodifikasi layanan dewasa, melainkan benar-benar merancang sistem yang sesuai kebutuhan perkembangan anak dan remaja.
Anak muda memang menjadi generasi yang paling akrab dengan teknologi, tetapi keselamatan mereka harus tetap menjadi prioritas. Tanpa pengamanan yang memadai, manfaat AI bisa berubah menjadi ancaman serius bagi kesehatan mental dan perkembangan sosial mereka.
