OpenAI, pengembang ChatGPT, kembali menghadapi gugatan hukum. Kali ini, gugatan dilayangkan oleh Noyb (None of Your Business), sebuah kelompok advokasi perlindungan data asal Austria. Gugatan tersebut berfokus pada kesalahan faktual atau “halusinasi” yang dihasilkan oleh ChatGPT, yang berpotensi merugikan pengguna.
Noyb mencatat sebuah kasus di mana ChatGPT secara keliru menuduh seorang pria Norwegia melakukan pembunuhan dua anak dan percobaan pembunuhan terhadap anak ketiga. Tuduhan ini sepenuhnya tidak berdasar dan disampaikan tanpa bukti.
Lebih mengejutkan lagi, ChatGPT bahkan menyertakan beberapa informasi pribadi yang akurat tentang pria tersebut, seperti jumlah anak, jenis kelamin anak-anaknya, dan kota tempat tinggalnya. Hal ini membuat tuduhan palsu tersebut semakin merusak reputasi korban.
Kesalahan fatal ChatGPT ini dinilai “asbun” (asal bunyi) dan sangat membahayakan, karena dapat berakibat fatal bagi reputasi seseorang. Penyebaran informasi palsu yang disertai data pribadi yang akurat merupakan masalah serius yang perlu ditangani.
Pelanggaran Perlindungan Data dan GDPR
Noyb berpendapat bahwa tindakan OpenAI ini melanggar General Data Protection Regulation (GDPR), peraturan Uni Eropa tentang perlindungan data. GDPR mensyaratkan agar data pribadi yang diproses harus akurat. Jika tidak akurat, pengguna berhak untuk memperbaikinya.
Joakim Söderberg, pengacara perlindungan data Noyb, menyatakan bahwa peringatan kecil di ChatGPT yang menyebutkan kemungkinan kesalahan tidak cukup untuk melindungi OpenAI dari tanggung jawab. Peringatan tersebut dianggap tidak memadai untuk mencegah penyebaran informasi palsu.
Söderberg menekankan bahwa OpenAI tidak dapat begitu saja menyebarkan informasi palsu dan mengandalkan pernyataan singkat tentang potensi kesalahan sebagai pembenar. Tanggung jawab OpenAI dalam memastikan akurasi informasi yang dihasilkan oleh ChatGPT sangatlah besar.
Tanggung Jawab OpenAI dan Masa Depan AI
Gugatan ini menimbulkan pertanyaan penting tentang tanggung jawab pengembang AI dalam memastikan akurasi dan etika produk mereka. Kemampuan AI generatif seperti ChatGPT untuk menghasilkan teks yang meyakinkan, meskipun tidak akurat, menghadirkan tantangan signifikan dalam hal pencegahan penyebaran informasi palsu dan perlindungan reputasi individu.
Kasus ini juga menyoroti pentingnya regulasi yang lebih ketat terhadap AI generatif. Mekanisme pengawasan dan akuntabilitas yang kuat diperlukan untuk mencegah penyalahgunaan teknologi AI dan melindungi hak-hak individu. Regulasi yang tepat dapat membantu menyeimbangkan inovasi dengan perlindungan terhadap potensi kerugian.
Perkembangan AI generatif yang pesat memerlukan evaluasi etis yang berkelanjutan. Pengembang AI harus memprioritaskan akurasi informasi dan keamanan data pengguna. Langkah-langkah yang lebih proaktif untuk memvalidasi dan memfilter informasi yang dihasilkan oleh AI perlu diterapkan untuk menghindari insiden serupa di masa mendatang.
Selain itu, edukasi publik tentang bagaimana berinteraksi dengan AI generatif dan menilai kredibilitas informasi yang dihasilkan juga sangat penting. Penting bagi pengguna untuk memahami keterbatasan teknologi AI dan selalu memverifikasi informasi dari sumber yang terpercaya.
Gugatan Noyb terhadap OpenAI merupakan langkah penting dalam mendorong transparansi dan akuntabilitas dalam pengembangan dan penggunaan AI. Hasil dari gugatan ini akan memiliki implikasi luas bagi masa depan pengembangan dan regulasi AI generatif di seluruh dunia.
