Haberdenizli – Character.AI mengumumkan kebijakan baru yang akan membatasi interaksi anak remaja dengan chatbot di platformnya. Langkah ini diambil sebagai respons terhadap tekanan yang semakin besar untuk melindungi pengguna muda dari potensi bahaya terkait dengan percakapan terbuka menggunakan AI. Perubahan aturan ini akan diberlakukan pada 25 November mendatang.
“Baca Juga: Dreame P7 Steam Iron: Setrika Uap Entry-Level Pertama di Industri”
Pengguna di Bawah 18 Tahun Hanya Bisa Akses Chatbot dalam Batas Waktu
Mulai 25 November, anak-anak dan remaja di bawah usia 18 tahun tidak akan lagi diizinkan untuk terlibat dalam percakapan terbuka dengan chatbot di Character.AI. Perusahaan akan mengubah pengalaman pengguna untuk usia muda dengan memberikan opsi yang lebih aman. Seperti mendorong mereka untuk membuat video atau melakukan streaming. Selain itu, untuk mengelola transisi ini, pengguna muda hanya akan diberikan akses chatbot hingga dua jam per hari. Dengan waktu ini kemungkinan akan terus berkurang menjelang akhir bulan November.
Alasan di Balik Kebijakan Baru: Perlindungan Anak Muda dan Keamanan AI
Keputusan ini diambil sebagai langkah preventif untuk melindungi anak-anak dari potensi risiko, termasuk dampak psikologis akibat percakapan dengan chatbot. Pihak Character.AI juga menanggapi sorotan dari regulator, seperti Komisi Perdagangan Federal (FTC). Yang telah memulai penyelidikan terhadap perusahaan-perusahaan AI yang memungkinkan akses tak terbatas bagi anak-anak kepada chatbot. Selain itu, laporan terkait kasus tragis, seperti bunuh diri yang melibatkan percakapan dengan chatbot, semakin meningkatkan urgensi langkah ini.
Penerapan AI Safety Lab untuk Tingkatkan Keamanan Pengguna
Sebagai bagian dari upaya memperbaiki pengalaman pengguna, Character.AI telah membentuk “AI Safety Lab.” Lab ini bertujuan untuk menggali wawasan dari berbagai ahli. Termasuk peneliti dan akademisi, untuk mengembangkan sistem keamanan yang lebih baik dalam penggunaan AI. Sistem yang dikembangkan secara internal oleh perusahaan diharapkan mampu menyesuaikan pengalaman chatbot sesuai dengan usia dan kebutuhan pengguna, khususnya yang masih muda.
“Baca Juga: Snapdragon 8 Elite Gen 6: Chip Qualcomm dengan Proses 2nm TSMC”
Dampak Kebijakan Baru terhadap Pengalaman Pengguna Remaja
Meskipun perubahan aturan ini mengurangi interaksi terbuka dengan chatbot, Character.AI tetap berkomitmen untuk menawarkan pengalaman yang menyenangkan dan kreatif bagi pengguna muda. Dengan mengalihkan fokus mereka pada aktivitas seperti pembuatan video dan streaming, perusahaan berharap dapat mengurangi risiko yang mungkin muncul akibat percakapan yang tidak terkontrol. Kebijakan ini menjadi langkah penting dalam memastikan penggunaan AI tetap aman dan positif bagi pengguna remaja.
Dengan adanya kebijakan baru ini, Character.AI berusaha menjaga keseimbangan antara inovasi teknologi dan perlindungan pengguna muda, menanggapi kekhawatiran yang lebih luas terkait dengan penggunaan AI yang tidak terkontrol.
Leave a Reply