Sundar Pichai, CEO Google, menyatakan bahwa respons teks dan gambar yang “problematis” dari chatbot kecerdasan buatan (AI) Gemini perusahaan tersebut adalah “benar-benar tidak dapat diterima.”
“Saya tahu beberapa responsnya telah menyinggung pengguna kami dan menunjukkan bias – jelas, itu benar-benar tidak dapat diterima dan kami salah,” kata Pichai dalam email kepada karyawan pada hari Selasa, seperti yang dilaporkan oleh Semafor.
Perusahaan telah “bekerja keras sepanjang waktu untuk mengatasi masalah ini” dan sudah “melihat perbaikan yang substansial,” tambahnya.
“Tidak ada AI yang sempurna, terutama pada tahap perkembangan industri yang sedang berkembang ini, tetapi kami tahu standarnya tinggi untuk kami dan kami akan terus melakukannya selama yang diperlukan,” lanjut Pichai. “Dan kami akan meninjau apa yang terjadi dan memastikan kami memperbaikinya secara besar-besaran.”
Google memberhentikan kemampuan Gemini untuk menghasilkan gambar pekan lalu setelah chatbot tersebut menghasilkan “ketidakakuratan dalam beberapa gambar sejarah,” termasuk tentara Nazi yang beragam secara rasial dan Founding Fathers Amerika Serikat.
Prabhakar Raghavan, Wakil Presiden Senior Google, menjelaskan dalam sebuah pos blog pada hari Jumat bahwa upaya perusahaan untuk memastikan bahwa Gemini menunjukkan berbagai orang “gagal mempertimbangkan kasus-kasus yang jelas tidak boleh menunjukkan berbagai macam.”
Model AI juga menjadi “lebih berhati-hati” dari yang dimaksudkan, menolak untuk menjawab beberapa instruksi sepenuhnya, catat Raghavan.
Baca Juga : Google Hentikan Sementara Gambar AI Buatan Gemini Setelah Dituduh Rasis
“Kedua hal ini membuat model ini berlebihan dalam beberapa kasus, dan terlalu konservatif dalam kasus lain, menghasilkan gambar yang memalukan dan salah,” kata Raghavan.
“Jelas bahwa fitur ini meleset dari sasaran,” tambah Raghavan dalam pos blog tersebut.
Pichai mengatakan dalam catatan pada hari Selasa bahwa Google akan “melakukan serangkaian tindakan, termasuk perubahan struktural, panduan produk yang diperbarui, proses peluncuran yang diperbaiki, evaluasi dan uji coba yang kuat, serta rekomendasi teknis” sebagai respons terhadap kesalahan dengan Gemini.