Google menghentikan sementara kemampuan Gemini untuk membuat potret AI orang-orang setelah adanya bug keberagaman

Google mengatakan untuk sementara waktu menghentikan kemampuan Gemini AI untuk membuat foto orang, setelah alat tersebut ditemukan menghasilkan foto sejarah yang tidak akurat. Gemini menciptakan berbagai gambar Founding Fathers AS dan tentara Jerman era Nazi, yang tampaknya merupakan upaya untuk menumbangkan stereotip seksis dan rasis yang ditemukan dalam AI generatif.

“Kami telah berupaya mengatasi masalah terkini pada fitur pembuatan foto Gemini,” kata Google dalam sebuah pesan. Pernyataan diterbitkan pada X. “Sementara kami melakukan ini, kami akan menghentikan sementara pembuatan gambar orang dan akan segera merilis ulang versi yang lebih baik.”

Keputusan Google untuk menghentikan sementara pembuatan gambar orang-orang di Gemini terjadi kurang dari 24 jam setelah perusahaan tersebut meminta maaf atas ketidakakuratan dalam beberapa gambar historis yang dihasilkan oleh model AI-nya. Beberapa pengguna Gemini telah meminta gambar kelompok atau tokoh sejarah seperti Founding Fathers, dan menemukan orang non-kulit putih yang dihasilkan oleh AI dalam hasilnya. Hal ini memunculkan teori konspirasi online bahwa Google sengaja menghindari penggambaran orang kulit putih.

tepi Saya menguji beberapa pertanyaan Gemini kemarin, termasuk permintaan untuk “senator AS abad ke-19” yang memberikan hasil yang mencakup apa yang tampak seperti wanita kulit hitam dan penduduk asli Amerika. Senator perempuan pertama adalah perempuan kulit putih pada tahun 1922, sehingga gambar AI Gemini menghapus sejarah diskriminasi ras dan gender.

Sekarang Google telah menonaktifkan kemampuan Gemini untuk menghasilkan foto orang, berikut respons model AI jika Anda meminta foto seseorang:

Kami sedang berupaya meningkatkan kemampuan Gemini dalam menghasilkan citra manusia. Kami berharap fitur ini segera kembali dan akan memberi tahu Anda dalam pembaruan versi saat terjadi.

Google memulai debut layanan pembuatan gambarnya melalui Gemini (sebelumnya Bard) awal bulan ini, dalam upaya untuk bersaing dengan OpenAI dan Copilot Microsoft. Seperti banyak pesaingnya, pembuat gambar menghasilkan sekumpulan gambar berdasarkan masukan teks.

Koreksi pada 22 Februari, 06:54 ET: Google mengonfirmasi bahwa pembuatan gambar tersedia secara global dalam bahasa Inggris, namun tidak di Wilayah Ekonomi Eropa, Inggris Raya, atau Swiss. Ini menjelaskan kegagalan tes dari Inggris.