Jaksa Agung Florida James Uthmeier mengajukan gugatan pada Senin terhadap OpenAI dan CEO Sam Altman, menuduh perusahaan menyesatkan konsumen tentang keamanan ChatGPT sekaligus mengekspos anak-anak pada bahaya. Kantor jaksa agung negara bagian membuka penyelidikan terhadap pengembang ChatGPT pada April. Florida menggambarkan aksi hukum tersebut sebagai "gugatan yang dipimpin negara bagian pertama di tingkat nasional" terhadap perusahaan AI besar, menandai salah satu langkah paling agresif yang diambil terhadap perusahaan kecerdasan buatan. Gugatan tersebut menuduh OpenAI menyajikan ChatGPT sebagai aman sambil mengekspos pengguna pada risiko termasuk melukai diri sendiri, kekerasan, kecanduan, penurunan kognitif, dan misinformasi, dengan Florida meminta ganti rugi, upaya perintah pengadilan (injunctive relief), dan tanggung jawab pribadi terhadap Altman.
Florida Attorney General Files Lawsuit Against OpenAI and Sam Altman
Diajukan di pengadilan negara bagian Florida pada Senin, gugatan ini menuduh OpenAI menyesatkan konsumen tentang keamanan ChatGPT. "Kami baru saja mengajukan gugatan perdata besar-besaran terhadap Sam Altman dan ChatGPT karena membahayakan anak-anak kami dan menipu orang tua agar percaya bahwa aplikasi ini aman untuk digunakan," kata Uthmeier dalam konferensi pers pada Senin. "Nyatanya, tidak."
Uthmeier mengatakan: "Sam Altman dan ChatGPT telah memilih perlombaan AI alih-alih keselamatan dan keamanan anak-anak kami. Mereka memilih keuntungan alih-alih keselamatan publik, dan kami tidak akan membiarkannya di Florida."
Gugatan tersebut menuduh OpenAI menggambarkan ChatGPT sebagai aman sementara mengekspos pengguna pada risiko termasuk melukai diri sendiri, kekerasan, kecanduan, penurunan kognitif, dan misinformasi. Florida menuntut ganti rugi, injunctive relief, dan tanggung jawab pribadi terhadap Altman.
Lawsuit Cites Florida State University Shooting and Other Incidents
Uthmeier mengatakan para penyelidik menemukan bahwa pelaku penembakan Universitas Negeri Florida (Florida State University) berkonsultasi dengan chatbot tentang senjata api, amunisi, waktu, dan lokasi di kampus sebelum serangan. Ia juga menunjuk pada kasus penculikan dan pembunuhan terpisah di USF di mana seorang tersangka diduga menanyakan ChatGPT bagaimana cara membuang jenazah, bersama dengan insiden lain yang melibatkan melukai diri sendiri, percobaan bunuh diri, pornografi anak, dan kejahatan lainnya.
Gugatan ini muncul di tengah penyelidikan dan gugatan yang sedang berlangsung terkait ChatGPT. Bulan lalu, OpenAI dan CEO Sam Altman digugat di pengadilan negara bagian California oleh keluarga seorang siswa berusia 19 tahun yang meninggal akibat overdosis tidak disengaja, dengan gugatan tersebut menuduh ChatGPT mendorong penggunaan narkoba berbahaya dan memberi saran tentang pencampuran zat.
OpenAI Updated ChatGPT Safety Features in May
Pada Mei, OpenAI mengatakan pihaknya memperbarui ChatGPT agar lebih baik mendeteksi tanda bunuh diri, melukai diri sendiri, dan potensi kekerasan dengan menganalisis percakapan dari waktu ke waktu, bukan pesan per pesan. Pembaruan tersebut menyusul gugatan terhadap OpenAI terkait penembakan massal pada Februari di British Columbia.
OpenAI Announces $852 Billion Valuation
Aduan dari AG Florida menyoroti pertumbuhan OpenAI dari organisasi nirlaba yang didirikan pada 2015 menjadi perusahaan dengan nilai lebih dari $850 miliar. OpenAI baru-baru ini mengumumkan valuasi $852 miliar setelah menggalang $122 miliar, dengan alasan meningkatnya permintaan terhadap ChatGPT dan layanan AI, serta rencana untuk go public pada akhir tahun ini.
"Keberhasilan ini tidak diperoleh; kenaikan OpenAI disebabkan oleh jaringan kebohongan dan pemanfaatan pengguna (termasuk warga Florida), dengan memanfaatkan data dan keselamatan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima," bunyi gugatan tersebut.
FAQ
What did Florida Attorney General James Uthmeier file against OpenAI on Monday?
Jaksa Agung Florida James Uthmeier mengajukan gugatan pada Senin terhadap OpenAI dan CEO Sam Altman di pengadilan negara bagian Florida, menuduh perusahaan menyesatkan konsumen tentang keamanan ChatGPT sambil mengekspos anak-anak pada bahaya. Negara bagian itu menggambarkannya sebagai "gugatan yang dipimpin negara bagian pertama di tingkat nasional" terhadap perusahaan AI besar.
What specific incidents did Florida cite in the lawsuit against OpenAI?
Para penyelidik Florida menemukan bahwa pelaku penembakan Florida State University berkonsultasi dengan ChatGPT tentang senjata api, amunisi, waktu, dan lokasi di kampus sebelum serangan. Uthmeier juga menunjuk pada kasus penculikan dan pembunuhan USF di mana seorang tersangka diduga menanyakan ChatGPT bagaimana cara membuang jenazah, bersama dengan insiden lain yang melibatkan melukai diri sendiri, percobaan bunuh diri, pornografi anak, dan kejahatan lainnya.
When did OpenAI update ChatGPT's safety features?
Pada Mei, OpenAI mengatakan pihaknya memperbarui ChatGPT agar lebih baik mendeteksi tanda bunuh diri, melukai diri sendiri, dan potensi kekerasan dengan menganalisis percakapan dari waktu ke waktu, bukan pesan per pesan. Pembaruan tersebut menyusul gugatan terhadap OpenAI terkait penembakan massal pada Februari di British Columbia.
