bulat.co.id - Layanan AI generatif Microsoft Designer ikut terseret dalam kontroversi foto bugil
Taylor Swift yang viral di media sosial.Laporan 404Media mengindikasikan gambar tidak senonoh itu berasal dari komunitas pembuat gambar mesum dengan wajah selebriti di Telegram dan 4chan.
Komunitas itu menyarankan anggotanya untuk membuat gambar mesum menggunakan Microsoft Designer.
Designer sebenarnya memiliki aturan yang mencegah pengguna membuat gambar orang terkenal.
Tapi pengguna di channel Telegram dan 4chan menemukan jalan pintas dengan sedikit salah mengeja nama selebriti, dan mendeskripsikan gambar yang tidak menggunakan istilah seksual tapi menghasilkan gambar yang menjurus ke arah seksual.
404Media mengonfirmasi bahwa celah tersebut bisa digunakan untuk menciptakan gambar mesum.
Tapi Microsoft sudah menambal celah tersebut sejak akhir pekan lalu.
"Kami sedang menyelidiki laporan-laporan ini dan mengambil tindakan yang tepat untuk mengatasinya," kata juru bicara Microsoft kepada 404Media, seperti dikutip detikINET, Selasa (30/1/2024).
"Kode Etik kami melarang penggunaan alat kami untuk membuat konten intim dewasa atau non-konsensual, dan percobaan berulang kali untuk menciptakan konten yang melanggar kebijakan kami dapat mengakibatkan hilangnya akses ke layanan," sambungnya.
Microsoft menambahkan investigasi mereka yang masih berjalan tidak bisa memverifikasi bahwa gambar Swift yang viral di Twitter/X dibuat menggunakan Designer.
Namun mereka tetap memperkuat sistem filter prompt dan mengatasi penyalahgunaan layanannya.
Perubahan yang dilakukan Microsoft sepertinya berhasil. Sejumlah pengguna di channel Telegram dan 4chan mengatakan Designer tidak bisa lagi menciptakan wajah selebriti dengan akurat.
"Bahkan Chloe Moretz hanya menampilkan gadis pirang generik. Saya berpindah server dan akun beberapa kali dan sekarang hanya mendapatkan hal generik yang sama," kata seorang pengguna 4chan.
"Saya pikir itu sudah bermasalah. Ariana, Kylie Jenner, Lisa, Zendaya, dan lain-lain hanya menampilkan perempuan generik dengan penampilan/etnis yang sama," kata pengguna lainnya.
