Meta Menarik Alat AI Gambar Instagram Setelah Kontroversi Privasi Terkait Pengambilan Data dan Kemiripan

Meta menarik fitur gambar AI Instagram yang baru diluncurkan setelah mendapat kritik luas terkait cara perusahaan menangani foto pengguna publik dan kemiripan digital mereka. Fitur tersebut, yang diperkenalkan sebagai bagian dari platform Muse Image baru milik perusahaan, memungkinkan pengguna membuat gambar yang dibuat dengan AI dengan merujuk akun Instagram publik. Keputusan untuk menghapus fitur itu muncul hanya beberapa hari setelah peluncurannya, menyoroti meningkatnya tekanan pada perusahaan teknologi untuk menyeimbangkan inovasi AI dengan privasi pengguna.

Fitur ini secara otomatis memungkinkan profil Instagram publik untuk dirujuk dalam gambar yang dihasilkan AI, kecuali pengguna secara manual mengubah pengaturan mereka. Para kritikus berpendapat pendekatan default tidak memberikan persetujuan yang bermakna dan mengekspos orang pada potensi penyalahgunaan foto mereka.

Kekhawatiran yang kian besar soal persetujuan digital

Pemerhati privasi, kreator, dan kelompok industri hiburan dengan cepat mengangkat kekhawatiran tentang risiko yang terkait dengan fitur tersebut. Para kritikus memperingatkan bahwa gambar yang dihasilkan AI berdasarkan foto publik orang sungguhan dapat berkontribusi pada pemalsuan identitas, misinformasi, pelecehan, dan duplikasi digital tanpa izin.

Sejumlah organisasi berargumen bahwa sistem AI yang mampu meniru penampilan seseorang seharusnya memerlukan izin eksplisit, bukan mengandalkan model opt-out. Kontroversi ini juga menghidupkan kembali perdebatan tentang bagaimana perusahaan media sosial mengumpulkan dan memakai ulang konten yang tersedia secara publik untuk produk AI generatif.

Meta mengakui kritik tersebut dan mengatakan bahwa fitur itu “melenceng dari sasaran.” Perusahaan mengonfirmasi bahwa mereka telah menonaktifkan kemampuan itu, sambil tetap mengembangkan alat kreatif berbasis AI dengan kontrol pengguna yang lebih kuat.

Regulasi AI tetap jadi sorotan

Insiden ini menegaskan meningkatnya pengawasan terhadap pengembang AI saat pemerintah dan regulator menelaah bagaimana data pribadi dan identitas digital digunakan untuk melatih serta menggerakkan teknologi baru. Perusahaan yang berlomba meluncurkan produk AI canggih kini menghadapi ekspektasi yang makin besar untuk membangun perlindungan privasi ke dalam sistem mereka sejak awal.

Bagi Meta, pembalikan kebijakan ini menjadi pengingat bahwa penerimaan publik terhadap AI tidak hanya bergantung pada kemampuan teknis, tetapi juga pada transparansi, persetujuan, dan kepercayaan. Ketika persaingan di pasar AI generatif makin ketat, perusahaan teknologi kemungkinan akan menghadapi tekanan yang lebih besar untuk menunjukkan bahwa inovasi tidak mengorbankan hak privasi individu.