Alat membuat gambar berteknologi kecerdasan buatan (AI), Midjourney, memunculkan hasil wajah Donald Trump ketika alat itu diminta untuk menggambar presiden Amerika Serikat.
Hal ini tetap terjadi, meskipun Midjourney melarang pembuatan gambar Trump dan Biden menjelang pemilihan presiden Amerika Serikat. Diketahui, sedianya pemilihan presiden akan diselenggarakan pada November 2024 di negara itu.
Ketika tim dari laman Engadget meminta Midjourney untuk membuat gambar 'presiden Amerika Serikat,' alat itu menghasilkan empat gambar mantan presiden Donald Trump dengan berbagai gaya. Ketika diminta untuk membuat gambar 'presiden Amerika Serikat berikutnya,' alat tersebut juga menghasilkan empat gambar Trump.
Baca Juga: Meta Mengganti Keterangan 'Made with AI' Menjadi 'AI Info'
Selanjutnya, saat Engadget meminta Midjourney untuk membuat gambar 'presiden Amerika Serikat saat ini,' layanan tersebut menghasilkan tiga gambar Trump dan satu gambar mantan presiden Barack Obama.
Satu-satunya saat Midjourney menolak untuk membuat gambar Trump atau Biden adalah ketika diminta untuk melakukannya secara eksplisit.
"Komunitas Midjourney memilih untuk tidak menggunakan 'Donald Trump' dan 'Joe Biden' selama musim pemilihan," kata layanan tersebut dalam kejadian tersebut, dikutip dari Engadget, Selasa (2/7/2024).
Baca Juga: Google Wallet Bisa Jadi Pengganti Kartu Kunci Hotel
Pengguna lain di X juga dapat meminta Midjourney untuk membuat gambar Trump.
Pengujian menunjukkan bahwa pembatas Midjourney untuk mencegah pengguna membuat gambar Trump dan Biden menjelang pemilihan presiden AS mendatang tidaklah cukup — pada kenyataannya, sangat mudah bagi orang untuk mengakalinya.
Chatbot lain seperti ChatGPT milik OpenAI, Copilot milik Microsoft, Gemini milik Google, dan Meta AI tidak membuat gambar Trump atau Biden meskipun ada beberapa perintah.
Midjourney tidak menanggapi permintaan komentar dari media tersebut.
Midjourney adalah salah satu generator gambar bertenaga AI pertama yang secara eksplisit melarang pengguna membuat gambar Trump dan Biden.
CEO perusahaan, David Holz, mengatakan ia tahu bahwa membuat gambar Trump itu menyenangkan. Namun, lanjutnya, lebih baik untuk tidak melakukannya.
"Lebih baik mundur sedikit selama pemilihan ini. Kita lihat saja nanti," ujarnya, memberi tahu pengguna dalam sesi obrolan di Discord, awal tahun ini.
Sebulan kemudian, Holz dilaporkan memberi tahu pengguna bahwa sudah waktunya untuk 'menahan diri sejenak terhadap hal-hal yang terkait dengan pemilihan' dan mengakui bahwa 'hal-hal moderasi ini agak sulit.'
Aturan konten perusahaan yang ada melarang pembuatan 'tokoh masyarakat yang menyesatkan' dan 'penggambaran acara' dengan 'potensi menyesatkan.'
Baca Juga: Mibro Luncurkan Lite3 Pro Smartwatch, 'Asisten' Ciptakan Work-Life Balance
Baca Juga: Dugaan Tampilan Apple Watch X dengan Layar 2 Inci
Tahun lalu, Midjourney digunakan untuk membuat gambar palsu Paus Benediktus yang mengenakan jaket Balenciaga putih yang menjadi viral. Aplikasi ini juga digunakan untuk membuat gambar palsu Trump, yang ditangkap sebelum didakwa di Pengadilan Pidana Manhattan tahun lalu, atas keterlibatannya dalam pembayaran uang tutup mulut kepada bintang film dewasa Stormy Daniels.
Tak lama kemudian, perusahaan menghentikan uji coba gratis layanan tersebut dan, sebagai gantinya, mengharuskan orang membayar sedikitnya $10 per bulan untuk menggunakannya.
Bulan lalu, Center for Countering Digital Hate (CCDH), sebuah organisasi nirlaba yang bertujuan menghentikan penyebaran misinformasi dan ujaran kebencian daring, menemukan bahwa pembatas Midjourney terhadap pembuatan gambar menyesatkan dari politisi populer termasuk Trump dan Biden gagal dalam 40% pengujiannya.
CCDH dapat menggunakan Midjourney untuk membuat gambar presiden Biden yang ditangkap dan Trump muncul di samping pemeran pengganti.
CCDH juga dapat melewati batasan Midjourney dengan menggunakan deskripsi penampilan fisik masing-masing kandidat, alih-alih nama mereka, untuk menghasilkan gambar yang menyesatkan.
CEO CCDH, Imran Ahmed, menilai dalam beberapa kasus, Midjourney terlalu mudah dimanipulasi dalam praktiknya. Bahkan, hal itu benar-benar dihindari hanya dengan menambahkan tanda baca agar lolos dari jaring pembatas generator tersebut.
"Aktor jahat yang ingin menumbangkan pemilu dan menabur perpecahan, kebingungan, dan kekacauan akan mendapatkan keuntungan besar, yang merugikan semua orang yang bergantung pada demokrasi yang sehat dan berfungsi," tutur Imran Ahmed.
Awal tahun ini, sebuah koalisi yang terdiri dari 20 perusahaan teknologi termasuk OpenAI, Google, Meta, Amazon, Adobe, dan X menandatangani perjanjian untuk membantu mencegah deepfake dalam pemilihan umum yang berlangsung pada 2024 di seluruh dunia, dengan mencegah layanan mereka menghasilkan gambar dan media lain yang akan memengaruhi pemilih. Midjourney tidak ada dalam daftar tersebut.