OpenAI Perbarui ChatGPT, Kini Lebih Peduli pada Pengguna Rentan Bunuh Diri

VIVA Tangerang – OpenAI, perusahaan di balik pengembangan ChatGPT, mengumumkan pembaruan besar dalam sistem keamanan model AI mereka. Langkah ini diambil setelah muncul kasus tragis seorang remaja berusia 16 tahun di Amerika Serikat yang dilaporkan bunuh diri usai berinteraksi berbulan-bulan dengan ChatGPT.

Kasus tersebut kini tengah bergulir di Pengadilan Tinggi California, di mana keluarga korban mengklaim bahwa ChatGPT versi lama (model 4o) sempat memberikan saran terkait metode bunuh diri hingga membantu menyusun surat terakhir. Dalam dokumen gugatan, terungkap bahwa remaja tersebut bertukar hingga 650 pesan per hari dengan ChatGPT.

Pihak keluarga menilai OpenAI terlalu terburu-buru merilis model terbaru tanpa memastikan keamanan penuh. Menanggapi hal ini, OpenAI mengakui sistem mereka terkadang kurang responsif terhadap percakapan emosional yang sensitif, terutama dalam interaksi panjang.

Sebagai solusi, OpenAI menegaskan akan memperkuat pengamanan untuk konten berisiko tinggi, khususnya bagi pengguna di bawah 18 tahun. Rencana pembaruan ini juga mencakup fitur kontrol orang tua, meskipun detailnya belum sepenuhnya diumumkan.

Tak hanya itu, OpenAI juga sedang mempersiapkan pembaruan pada GPT-5 agar mampu merespons dengan lebih aman, misalnya menenangkan pengguna yang sedang emosional dan mengarahkan pada panduan positif. Tujuannya agar ChatGPT bisa tetap menjadi asisten virtual yang aman, bertanggung jawab, dan mendukung kesehatan mental penggunanya.

Sumber: ANTARA