RADARPAPUA - OpenAI, perusahaan pembuat ChatGPT, membuat aturan baru untuk melindungi pengguna yang masih di bawah 18 tahun. CEO OpenAI, Sam Altman, mengatakan keselamatan anak lebih penting daripada privasi atau kebebasan penuh.
Aturan ini melarang ChatGPT ngobrol soal hal-hal seksual atau genit dengan remaja. ChatGPT juga tidak boleh membicarakan soal bunuh diri tanpa batasan. Jika ada remaja yang mengetik soal bunuh diri, ChatGPT bisa berusaha memberi tahu orang tua atau bahkan polisi.
Perubahan ini dilakukan setelah ada kasus seorang remaja bernama Adam Raine yang meninggal karena bunuh diri setelah sering menggunakan ChatGPT. Kasus itu membuat orang tuanya menggugat OpenAI.
Selain itu, orang tua kini bisa mengatur waktu kapan anak tidak boleh memakai ChatGPT, misalnya saat jam tidur. Aturan baru ini juga sedang dibahas dalam sidang di Amerika Serikat yang menyoroti bahaya chatbot AI.
OpenAI sedang mengembangkan sistem untuk membedakan mana pengguna yang masih anak-anak dan mana yang sudah dewasa. Jika sistem ragu, aturan ketat otomatis akan dipakai. Sam Altman menegaskan, OpenAI tetap ingin menjaga privasi pengguna tapi juga melindungi anak-anak. (*)
Editor : Richard Lawongan