Upaya jurnalis AP untuk menguji kebijakan baru Midjourney pada hari Rabu dengan memintanya membuat gambar “Trump dan Biden berjabat tangan di pantai” menghasilkan peringatan “Banned Prompt Detected”. Upaya kedua meningkatkan peringatan menjadi: “Anda telah memicu peringatan penyalahgunaan.”
Perusahaan kecil ini – yang hanya memiliki 11 karyawan, menurut situs webnya – tidak banyak bicara dalam perdebatan publik mengenai bagaimana alat AI generatif dapat memicu misinformasi pemilu di seluruh dunia.
Midjourney adalah satu-satunya pembuat alat penghasil gambar terkemuka yang tidak bergabung dengan pakta industri teknologi sukarela pada bulan Februari untuk memerangi deepfake yang dihasilkan oleh AI yang dengan sengaja menipu pemilih.
“Saya tidak terlalu peduli dengan pidato politik,” kata Holz pada hari Rabu. “Itu bukan tujuan dari Midjourney. Itu tidak begitu menarik bagi saya. Meski begitu, saya juga tidak ingin menghabiskan seluruh waktu saya untuk mengawasi pidato politik. Jadi kami akan sedikit menguranginya.”
Center for Countering Digital Hate merilis laporan awal bulan ini yang menyimpulkan bahwa Midjourney telah digunakan untuk menghasilkan gambar yang dapat mendukung disinformasi tentang kandidat politik atau klaim palsu mengenai kecurangan pemilu.
“Midjourney tampaknya memiliki kendali paling sedikit dibandingkan pembuat gambar AI mana pun ketika menghasilkan gambar tokoh politik terkenal seperti Joe Biden dan Donald Trump,” kata Callum Hood, kepala penelitian kelompok tersebut, dalam sebuah wawancara pada hari Rabu.
“Midjourney hampir unik karena bersedia menghasilkan citra tersebut dan menghasilkan citra kandidat yang cukup meyakinkan.”
Kelompok pengawas tersebut menguji Midjourney serta ChatGPT Plus dari OpenAI, DreamStudio dari Stability AI, dan Image Creator dari Microsoft, dan menemukan bahwa semuanya memiliki masalah, sehingga menciptakan disinformasi pemilu pada 41 persen kasus. Namun “Midjourney memiliki kinerja terburuk dibandingkan alat apa pun, gagal dalam 65 persen uji coba”, kata laporan itu.
Hood mengatakan dia tidak mengetahui apakah Midjourney mengubah kebijakannya minggu ini tetapi “keputusannya untuk memblokir gambar-gambar tersebut akan membantu menutup kelemahan besar dibandingkan dengan pembuat gambar populer lainnya”.
Baru-baru ini pada akhir pekan lalu, database publik Midjourney menunjukkan bahwa pengguna berhasil menghasilkan gambar berdasarkan perintah seperti “Foto abstrak Donald Trump sedang duduk di dalam mobil listrik kecil” dan “joe biden sedang makan es krim”.
Namun hal itu berubah dalam beberapa hari terakhir karena pengguna melaporkan bahwa mereka menerima peringatan saat mencoba membuat gambar Biden atau Trump. Beberapa pihak mengeluh bahwa Midjourney tidak mengkomunikasikan perubahan kebijakan dengan baik.
Midjourney berbeda dari generator gambar lainnya karena pengguna dapat melihat sebagian besar perintah dan gambar tertulis pengguna lain karena semuanya terjadi di forum publik di platform media sosial Discord.
Grup Discord Midjourney memiliki lebih dari 19 juta anggota, yang merupakan grup terbesar di platform obrolan. Di sinilah Holz mengadakan jam kantor mingguannya, yang dapat mengarah pada perbincangan luas tentang AI dan masa depan umat manusia.
“Siapa pun yang takut dengan gambar palsu pada tahun 2024 akan mengalami masa sulit di tahun 2028,” kata Holz, Rabu.
“Ini akan menjadi dunia yang sangat berbeda pada saat itu. Tentu saja masih akan ada manusia yang mencalonkan diri sebagai presiden pada tahun 2028, tetapi mereka tidak akan lagi menjadi manusia murni.”
Semua kandidat pada saat itu akan memiliki “deepfake chatbots” yang tampak nyata dengan simulasi poin pembicaraan, katanya.
Holz memperingatkan pada hari Rabu bahwa orang-orang yang benar-benar ingin membuat deepfake akan menemukan alternatif yang “dapat disesuaikan dengan orang-orang tertentu dan akan bekerja lebih baik daripada sistem kami”.
02:35
Penghibur Taiwan menggunakan kecerdasan buatan untuk menghidupkan kembali putrinya yang telah meninggal
Penghibur Taiwan menggunakan kecerdasan buatan untuk menghidupkan kembali putrinya yang telah meninggal
Berbasis di dekat San Francisco dan didirikan pada tahun 2020, perusahaan ini menggambarkan dirinya sebagai “laboratorium penelitian independen yang mengeksplorasi media pemikiran baru dan memperluas kekuatan imajinatif spesies manusia”.
Mereka pertama kali meluncurkan versi publik dari pembuat gambarnya pada bulan Juli 2022. Hal tersebut – dan peluncuran pesaing utamanya, Stable Diffusion, pada akhir musim panas itu – memicu ketertarikan yang semakin besar terhadap teknologi AI generatif yang semakin meningkat dengan debut ChatGPT beberapa bulan kemudian.
Holz mengatakan pada akhir tahun itu bahwa Midjourney berupaya untuk melarang konten yang menyinggung dan berbahaya, biasanya dengan memblokir kata kunci tertentu dan meminta tim moderatornya melacak keluaran dan menanggapi keluhan dari pengguna lain.
“Kami benar-benar mencoba untuk membiarkan orang membuat kumpulan gambar seluas mungkin, tetapi kami melarang orang setiap hari untuk mengakses layanan tersebut,” kata Holz pada akhir tahun 2022.