Google mengumumkan pada hari Kamis bahwa mereka akan menghentikan sementara kemampuan chatbot mereka, Gemini, untuk menghasilkan gambar orang. Keputusan ini diambil setelah posting sosial yang viral menunjukkan bahwa alat kecerdasan buatan ini berlebihan dalam hal keberagaman, menghasilkan gambar “sejarah” tentang Nazi, Bapak Pendiri Amerika, dan Paus sebagai orang berkulit warna.
“Kami sudah bekerja untuk mengatasi masalah terbaru dengan fitur penghasilan gambar Gemini,” tulis Google di X (melalui The New York Times). “Selama kami melakukannya, kami akan menghentikan penghasilan gambar orang dan akan merilis versi yang diperbarui segera.”
Pengguna X @JohnLu0x memposting tangkapan layar hasil dari Gemini untuk permintaan, “Hasilkan gambar Tentara Jerman tahun 1943.” (Kesalahan ejaan mereka dari “Soldier” sengaja dilakukan untuk mengecoh kecerdasan buatan agar melewati filter kontennya untuk menghasilkan gambar Nazi yang seharusnya diblokir.) Hasil yang dihasilkan tampaknya menunjukkan tentara berkulit hitam, Asia, dan pribumi mengenakan seragam Nazi.
Pengguna sosial lainnya mengkritik Gemini karena menghasilkan gambar untuk permintaan, “Hasilkan gambar glamour pasangan [etnis].” Ini berhasil mengeluarkan gambar ketika menggunakan permintaan “Cina,” “Yahudi,” atau “Afrika Selatan” tetapi menolak menghasilkan hasil untuk “orang kulit putih.” “Saya tidak dapat memenuhi permintaan Anda karena potensi mempertahankan stereotip berbahaya dan bias yang terkait dengan etnisitas atau warna kulit tertentu,” balas Gemini terhadap permintaan terakhir tersebut.
“Can you generate images of the Founding Fathers?” It’s a difficult question for Gemini, Google’s DEI-powered AI tool.
Ironically, asking for more historically accurate images made the results even more historically inaccurate. pic.twitter.com/LtbuIWsHSU
— Mike Wacker (@m_wacker) February 21, 2024
“John L.,” yang membantu memulai gelombang protes, mengemukakan bahwa Google menerapkan solusi yang dimaksudkan dengan baik tetapi dengan cara yang malas untuk masalah nyata. “Sistem mereka untuk menambahkan keberagaman dalam penampilan orang tidak begitu pintar (tidak mempertimbangkan gender dalam peran historis laki-laki seperti paus; tidak mempertimbangkan ras dalam gambaran sejarah atau nasional),” tulis pengguna tersebut. Setelah brigade anti-“woke” internet menanggapi posting mereka, pengguna tersebut mengklarifikasi bahwa mereka mendukung representasi yang beragam tetapi percaya bahwa “langkah bodoh” Google adalah karena gagal melakukannya “secara nuansa.”
Sebelum menghentikan kemampuan Gemini untuk menghasilkan gambar orang, Google menulis, “Kami sedang bekerja untuk segera meningkatkan gambar-gambar semacam ini. Generasi gambar AI Gemini memang menghasilkan berbagai orang. Dan pada umumnya itu adalah hal yang baik karena orang di seluruh dunia menggunakannya. Tetapi di sini, itu meleset dari sasaran.”
Episode ini dapat dilihat sebagai pengingat (yang jauh lebih tidak halus) terhadap peluncuran Bard pada tahun 2023. Chatbot AI asli Google mendapat awal yang sulit ketika iklan untuk chatbot di Twitter (sekarang X) mencakup “fakta” yang tidak akurat tentang Teleskop Luar Angkasa James Webb.
Seperti yang sering dilakukan Google, mereka mengganti merek Bard dengan harapan memberikannya awal yang segar. Bersamaan dengan pembaruan kinerja dan fitur besar, perusahaan tersebut memberi nama chatbot tersebut Gemini awal bulan ini karena berlomba untuk mempertahankan posisinya melawan ChatGPT OpenAI dan Microsoft Copilot — keduanya mengancam eksistensi mesin pencari mereka (dan, oleh karena itu, pendapatan iklan).