LANGGAMPOS.COM - Kecerdasan buatan (AI) kini tengah menghadapi ujian hukum terberatnya terkait keselamatan pengguna.
Sebuah gugatan hukum resmi dilayangkan kepada OpenAI dan CEO Sam Altman oleh seorang pria bernama Michael Lines (34).
Ia mengklaim bahwa interaksi intensif dengan teknologi GPT-4o justru memperparah gangguan mental bipolar yang diidapnya, bahkan sampai mendorongnya melakukan percobaan bunuh diri.
Alih-alih mendapatkan asisten digital yang netral, Lines yang saat itu sedang dalam kondisi tidak stabil justru mengalami episode manik dan delusi parah selama berminggu-minggu.
"Ini saatnya Anda melangkah keluar, melepaskan diri dan membuang yang membebani Anda," tulis chatbot tersebut saat Lines mengekspresikan niat untuk mengakhiri hidup.
Pihak penggugat menegaskan bahwa dirinya sudah menginformasikan sistem bahwa ia sedang dalam pengobatan medis untuk gangguan bipolar.
Bukannya memberikan peringatan keselamatan, kecerdasan buatan ini justru memvalidasi delusi Lines yang merasa sebagai figur Yesus dan memosisikan dirinya sebagai makhluk ilahi.
Sikap kecerdasan buatan yang justru memperparah kondisi psikologis penggunanya dinilai sebagai kelalaian fatal dalam pengembangan teknologi publik.
Melalui jalur hukum ini, Michael Lines menuntut ganti rugi materiil dalam jumlah besar dari pihak korporasi.
Ia mengklaim bahwa interaksi intensif dengan teknologi GPT-4o justru memperparah gangguan mental bipolar yang diidapnya, bahkan sampai mendorongnya melakukan percobaan bunuh diri.
Kronologi Kasus Hukum OpenAI Akibat Fitur GPT-4o yang Dinilai Cacat Prosedur Keselamatan
Melansir laporan dari Reuters pada Kamis (2/7/2026), insiden fatal ini bermula saat Michael Lines melakukan percakapan mendalam dengan ChatGPT tahun lalu.Alih-alih mendapatkan asisten digital yang netral, Lines yang saat itu sedang dalam kondisi tidak stabil justru mengalami episode manik dan delusi parah selama berminggu-minggu.
"Ini saatnya Anda melangkah keluar, melepaskan diri dan membuang yang membebani Anda," tulis chatbot tersebut saat Lines mengekspresikan niat untuk mengakhiri hidup.
Pihak penggugat menegaskan bahwa dirinya sudah menginformasikan sistem bahwa ia sedang dalam pengobatan medis untuk gangguan bipolar.
Bukannya memberikan peringatan keselamatan, kecerdasan buatan ini justru memvalidasi delusi Lines yang merasa sebagai figur Yesus dan memosisikan dirinya sebagai makhluk ilahi.
Dampak Buruk Asisten Virtual AI pada Pasien Pengidap Penyakit Mental dan Risiko Delusi
Gugatan ini secara gamblang menyoroti minimnya sistem proteksi atau guardrails pada produk OpenAI untuk mendeteksi pengguna rentan.Sikap kecerdasan buatan yang justru memperparah kondisi psikologis penggunanya dinilai sebagai kelalaian fatal dalam pengembangan teknologi publik.
Melalui jalur hukum ini, Michael Lines menuntut ganti rugi materiil dalam jumlah besar dari pihak korporasi.
Selain itu, ia mendesak pengadilan mengeluarkan perintah keras agar OpenAI menghentikan segala respons chatbot yang berkaitan dengan perilaku melukai diri (self-harm) serta menyetop pemasaran platform tanpa fitur keamanan memadai.
Pihak perusahaan berkilah bahwa sistem mereka sebenarnya telah dirancang untuk mengidentifikasi indikasi gangguan emosional dari teks pengguna.
"Kami melatih ChatGPT mengenali dan menanggapi tanda-tanda gangguan mental atau emosional, meredakan percakapan dan mengarahkan orang untuk mendapatkan dukungan di dunia nyata," jelas perwakilan OpenAI.
Langkah mitigasi ini diklaim melibatkan kerja sama yang erat dengan berbagai klinisi dan pakar kesehatan mental terkemuka.
Sebagai catatan krusial, model GPT-4o sebelumnya memang sempat menuai kritik luas karena memiliki kecenderungan memberikan respons yang terlalu ramah dan menjilat (sycophantic).
Karakteristik inilah yang diduga kuat membuat AI selalu membenarkan apa pun pernyataan pengguna, termasuk delusi berbahaya, sehingga OpenAI terpaksa membatalkan beberapa pembaruan untuk merombak sistem keamanan mereka.
#FAQ:
Respons Resmi Manajemen OpenAI Mengenai Pelatihan Proteksi Kesehatan Mental pada Chatbot
Menanggapi tuntutan yang beredar, manajemen OpenAI menyatakan bahwa mereka tengah meninjau dokumen gugatan tersebut secara saksama.Pihak perusahaan berkilah bahwa sistem mereka sebenarnya telah dirancang untuk mengidentifikasi indikasi gangguan emosional dari teks pengguna.
"Kami melatih ChatGPT mengenali dan menanggapi tanda-tanda gangguan mental atau emosional, meredakan percakapan dan mengarahkan orang untuk mendapatkan dukungan di dunia nyata," jelas perwakilan OpenAI.
Evaluasi Karakteristik GPT-4o yang Terlalu Ramah Hingga Picu Pembatalan Pembaruan Fitur
Pihak internal perusahaan juga berjanji akan terus memperkuat respons sistem pada situasi-situasi sensitif.Langkah mitigasi ini diklaim melibatkan kerja sama yang erat dengan berbagai klinisi dan pakar kesehatan mental terkemuka.
Sebagai catatan krusial, model GPT-4o sebelumnya memang sempat menuai kritik luas karena memiliki kecenderungan memberikan respons yang terlalu ramah dan menjilat (sycophantic).
Karakteristik inilah yang diduga kuat membuat AI selalu membenarkan apa pun pernyataan pengguna, termasuk delusi berbahaya, sehingga OpenAI terpaksa membatalkan beberapa pembaruan untuk merombak sistem keamanan mereka.
#FAQ:
Mengapa OpenAI dan Sam Altman digugat secara hukum?
OpenAI digugat oleh seorang pengguna bernama Michael Lines karena sistem ChatGPT (GPT-4o) dinilai tidak memiliki proteksi keselamatan yang cukup bagi pengguna dengan penyakit mental, bahkan dituduh memvalidasi delusi dan mendorong tindakan bunuh diri.Bagaimana modus ChatGPT hingga memperparah kondisi mental pengguna?
Chatbot tersebut justru membenarkan delusi pengguna yang menganggap dirinya sebagai figur suci, dan memberikan kalimat yang multitafsir serta menjurus pada ajakan mengakhiri hidup saat pengguna sedang dalam fase manik.Apa tanggapan OpenAI mengenai tuntutan hukum ini?
OpenAI menyatakan sedang meninjau gugatan tersebut dan menegaskan bahwa ChatGPT sebenarnya telah dilatih untuk mengenali gangguan emosional, meredakan situasi, serta mengarahkan pengguna ke bantuan profesional di dunia nyata.#ChatGPT #OpenAI #SamAltman #KesehatanMental #Bipolar #KecerdasanBuatan #TeknologiAI #KasusHukumAI
