Kupas Tuntas, gemasulawesi - ChatGPT adalah layanan chatbot terpopuler di segmennya, secara konsisten memimpin aplikasi gratis teratas di App Store Apple.
Namun, layanan ini tidak bebas kontroversi selama keberadaannya.
Dilansir dari Android Headlines, karena kesalahan serius dalam output, seorang pria mengajukan gugatan terhadap ChatGPT, karena chatbot tersebut mengklaim pria itu telah membunuh anak-anaknya.
Anda mungkin tidak ingat, tetapi ada saat ketika ChatGPT tidak memiliki akses internet, dan setiap pembaruan platform juga menyertakan basis data yang lebih modern.
Jadi, jika anda mengajukan pertanyaan tentang sesuatu setelah batas tanggal basis data layanan, anda mungkin akan mendapatkan jawaban yang salah dari ChatGPT.
Selama waktu itu, seorang pria bernama Arve Hjalmar Holmen menanyakan semua yang diketahui chatbot tersebut tentangnya.
Pria itu mendapat kejutan yang tidak menyenangkan ketika ChatGPT mengklaim bahwa dia dihukum karena membunuh anak-anaknya, selain mencoba membunuh yang ketiga.
Platform tersebut juga menyebutkan bahwa Holmen menjalani hukuman 21 tahun di Norwegia.
Tampaknya, ChatGPT mengalami "halusinasi" saat membuat output.
Halusinasi dalam platform AI ini terjadi saat mereka "menciptakan" informasi palsu dan menyebarkannya seolah-olah nyata, yang memengaruhi keandalan output.
Chatbot tersebut diduga mencampur detail palsu tersebut dengan detail nyata tentang kehidupan pria tersebut.
Misalnya, balasan tersebut dengan benar menunjukkan kota asal Holmen, berapa banyak anak yang dimilikinya, dan jenis kelamin anak-anaknya.
Ada kemungkinan bahwa kurangnya akses internet pada saat itu mencegah ChatGPT melakukan pemeriksaan lebih lanjut sebelum mengirim output.
Platform tersebut juga dapat mengambil informasi tentang orang lain dengan nama yang mirip dan mencampurnya.
Bagaimanapun, jelas bahwa respons tersebut sama sekali tidak membuat Holmen senang.
Noyb, sebuah kelompok advokasi Austria, mengajukan gugatan hukum kepada Norwegian Datatilsynet terhadap ChatGPT atas nama pria tersebut karena menggambarkannya sebagai seorang pembunuh.
Gugatan tersebut mengklaim bahwa layanan OpenAI melanggar persyaratan privasi data Uni Eropa.
“Data pribadi harus akurat. Dan jika tidak, pengguna berhak mengubahnya agar mencerminkan kebenaran,” kata Joakim Söderberg, seorang pengacara di Noyb.
“Menunjukkan kepada pengguna ChatGPT sebuah pernyataan singkat bahwa chatbot dapat membuat kesalahan jelas tidak cukup. Anda tidak bisa begitu saja menyebarkan informasi palsu dan, pada akhirnya, menambahkan pernyataan singkat yang mengatakan bahwa semua yang anda katakan mungkin tidak benar.”
Kelompok Noyb menuntut denda dari OpenAI dan penghapusan informasi yang mencemarkan nama baik tentang Holmen.
Mereka juga menuntut perbaikan pada ChatGPT untuk menghindari masalah serupa, tapi ada kemungkinan OpenAI telah menyelesaikan tuntutan yang satu ini.
Saat ini, hasil ChatGPT untuk permintaan yang sama, yang mencantumkan Holmen sebagai pembunuh anak, kini hanya menampilkan berita tentang gugatan hukum tersebut. (*/Armyanti)
