Kontrol Orang Tua pada ChatGPT untuk Pencegahan Bunuh Diri

Induk perusahaan ChatGPT, OpenAI, mengumumkan akan segera meluncurkan fitur kontrol orang tua sebagai respons terhadap kekhawatiran terhadap chatbot-nya yang dapat membahayakan pengguna muda. Fitur ini diharapkan akan tersedia untuk digunakan pada bulan depan. Fitur kontrol tersebut akan memberikan opsi bagi orang tua untuk menghubungkan akun mereka dengan akun anak mereka, mengatur tingkat respons ChatGPT terhadap pengguna remaja, dan menonaktifkan fitur-fitur yang mungkin berisiko, seperti memori dan riwayat obrolan. Selain itu, orang tua juga akan menerima notifikasi jika sistem mendeteksi adanya situasi yang tidak baik selama penggunaan ChatGPT.

OpenAI sebelumnya telah mengonfirmasi bahwa sedang dalam proses pengembangan fitur kontrol orang tua untuk ChatGPT, namun belum menetapkan jadwal pasti untuk peluncurannya. Perusahaan ini menegaskan komitmennya dalam terus memperkuat pendekatannya seiring dengan melibatkan para ahli dengan tujuan menjadikan ChatGPT lebih aman dan responsif terhadap kebutuhan pengguna. Pengumuman ini datang setelah adanya laporan tentang kasus penggunaan ChatGPT yang berujung tragis, seperti kasus pemuda yang mendapatkan saran untuk bunuh diri.

Langkah OpenAI ini juga sejalan dengan keprihatinan masyarakat tentang keterikatan emosional yang terbentuk antara pengguna dan ChatGPT. Dalam beberapa kasus, keterikatan ini dapat menimbulkan dampak negatif berupa episode delusi dan keterasingan dari lingkungan sekitar. Meskipun OpenAI telah menyematkan langkah-langkah perlindungan seperti mengarahkan pengguna ke saluran bantuan krisis, perusahaan tersebut menyadari bahwa perlindungan ini masih dapat ditingkatkan terutama dalam interaksi yang panjang dan intensif dengan ChatGPT. Dengan melibatkan para ahli, OpenAI berkomitmen untuk terus meningkatkan keamanan dan keselamatan pengguna dalam menggunakan ChatGPT.

Source link

Exit mobile version