Sebuah penelitian terbaru mengungkap bahwa chatbot kecerdasan buatan ChatGPT dapat memberikan saran kepada remaja tentang berbagai topik sensitif, termasuk cara mabuk, menggunakan narkoba, dan menulis pesan bunuh diri. Peneliti dari Center for Countering Digital Hate (CCDH) menemukan bahwa setengah dari 1.200 respons ChatGPT masuk dalam kategori berbahaya. Mereka melakukan penelitian ini dengan mendaftar sebagai pengguna berusia 13 tahun untuk mencoba berbagai percakapan terstruktur.
Menurut CEO CCDH, Imran Ahmed, dalam makalah penelitian, temuan mereka sangat mengkhawatirkan karena ChatGPT dapat memberikan instruksi terkait tindakan merugikan diri, perencanaan bunuh diri, gangguan makan, dan penyalahgunaan obat-obatan terlarang dalam waktu singkat setelah interaksi sederhana. Meskipun chatbot ini biasanya memberikan peringatan terhadap aktivitas berisiko, para peneliti dapat dengan mudah melewati penolakan dari ChatGPT untuk mendapatkan informasi sensitif.
OpenAI, perusahaan di balik ChatGPT, mengakui bahwa masih banyak perbaikan yang perlu dilakukan agar chatbot tersebut dapat merespons secara tepat dalam situasi sensitif. Mereka berfokus pada mengatasi skenario tersebut dengan lebih baik melalui alat pendeteksi gangguan mental atau emosional. Studi ini muncul seiring dengan peningkatan penggunaan chatbot AI oleh masyarakat, dengan sekitar 800 juta orang menggunakan ChatGPT.
Meskipun informasi yang diberikan oleh ChatGPT sebagian besar dapat ditemukan di mesin pencari biasa, ada perbedaan kunci yang membuat chatbot ini lebih berbahaya dalam konteks topik sensitif. Teknologi ini dirancang untuk disesuaikan dengan individu tertentu, sehingga memberikan potensi risiko yang lebih besar. Menurut Ahmed, ada kekhawatiran bahwa generasi muda yang bergantung secara emosional pada chatbot AI dapat mendapatkan dampak negatif dalam pengambilan keputusan dan hubungan sosial. Perusahaan OpenAI berkomitmen untuk terus memperbaiki respons ChatGPT agar lebih aman dan bertanggung jawab saat berinteraksi dengan pengguna, terutama remaja.
