Google untuk sementara mematikan kemampuan alat AI Gemini untuk membuat foto orang setelah kesalahan historis

Kredit gambar: Kenzo Tripoilard /Gambar Getty

Google mengatakan untuk sementara waktu menghentikan kemampuan Gemini, rangkaian model AI terkemuka miliknya, untuk menghasilkan gambar manusia sementara Google berupaya memperbarui teknologi guna meningkatkan akurasi historis keluaran yang mencakup gambar manusia.

di dalam surat Di platform media sosial

“Sementara kami melakukan ini, kami akan menghentikan sementara pembuatan foto orang-orang dan akan segera merilis kembali versi yang lebih baik,” tambahnya.

Google meluncurkan alat pembuatan foto Gemini awal bulan ini. Namun contoh-contoh yang menghasilkan gambaran yang tidak proporsional tentang tokoh-tokoh sejarah telah menemukan jalannya Di media sosial Dalam beberapa hari terakhir, gambaran para Founding Fathers AS sebagai orang Amerika keturunan India, kulit hitam, atau Asia telah menuai kritik dan bahkan cemoohan.

Tulis di postingan di LinkedIn, pemodal ventura yang berbasis di Paris, Michael Jackson, ikut bergabung hari ini — menyebut AI Google sebagai “parodi DEI yang tidak masuk akal”. (DEI adalah singkatan dari “Keberagaman, Kesetaraan, dan Inklusi.”)

di dalam Diposting pada X kemarinGoogle mengonfirmasi bahwa mereka “sadar” bahwa kecerdasan buatan menghasilkan “kesalahan dalam beberapa gambar yang menghasilkan gambar historis,” dan menambahkan dalam sebuah pernyataan: “Kami berupaya untuk segera memperbaiki jenis gambar ini.” Menghasilkan gambar Al dari Gemini menarik banyak orang. Ini umumnya merupakan hal yang baik karena orang-orang di seluruh dunia menggunakannya. Tapi di sini tidak tepat sasaran.”

Alat AI generatif menghasilkan keluaran berdasarkan data pelatihan dan parameter lainnya, seperti bobot model.

Alat-alat tersebut sering mendapat kritik karena menghasilkan keluaran yang bias dengan cara yang lebih stereotip – misalnya Gambar seksual eksplisit wanita Atau dengan menanggapi klaim Peran pekerjaan berstatus tinggi dengan gambar pria kulit putih.

Alat klasifikasi gambar AI sebelumnya yang diproduksi oleh Google menimbulkan kemarahan, pada tahun 2015, ketika alat tersebut salah mengklasifikasikan pria kulit hitam sebagai gorila. Namun perusahaan berjanji untuk memperbaiki masalah tersebut Kabel Dilaporkan beberapa tahun kemudian, “perbaikan” tersebut merupakan solusi murni: Google memblokir teknologi tersebut agar tidak mengenali gorila sama sekali.