Google meminta maaf pada hari Jumat dengan mengatakan timnya “melakukan kesalahan” dengan fitur pembuatan gambar baru untuknya Obrolan AI Gemini setelah berbagai gambar yang dibuat tanpa orang kulit putih menjadi viral. Seorang eksekutif perusahaan dengan tegas membantah bahwa mereka sengaja ingin Gemini menolak membuat gambar sekelompok orang tertentu.
“Bukan ini yang kami maksudkan. Kami tidak ingin Gemini menolak membuat citra kelompok tertentu. Dan kami tidak ingin hal ini menghasilkan gambaran sejarah—atau lainnya—yang tidak akurat,” kata wakil presiden senior Google, Prabhakar Raghavan.
Di sebuah postingan blogRaghavan—yang mengawasi area perusahaan yang menghasilkan sebagian besar uangnya, termasuk Google Penelusuran dan bisnis iklannya—dengan jelas mengakui bahwa pembuat citra Gemini “melakukan kesalahan” dan bahwa perusahaan akan berusaha menjadi lebih baik. Banyak orang yang marah atas gambaran sejarah Gemini yang tidak akurat Tentara Nazi kulit hitam dan Viking Hitam serta hal itu terlihat jelas penolakan untuk menghasilkan gambar orang kulit putihyang dianggap rasis oleh sebagian orang.
Menurut Raghavan, ini semua terjadi karena Google tidak ingin Gemini melakukan kesalahan yang sama seperti yang dilakukan pembuat gambar lain di masa lalu, seperti membuat gambar kekerasan, gambar seksual eksplisit, dan penggambaran orang sungguhan.
“Jadi, apa yang salah? Singkatnya, dua hal. Pertama, penyesuaian kami untuk memastikan bahwa Gemini menunjukkan serangkaian orang yang gagal memperhitungkan kasus-kasus yang seharusnya dengan jelas bukan menunjukkan jangkauannya,” tulis Raghavan, menekankan miliknya. “Dan kedua, seiring berjalannya waktu, model tersebut menjadi jauh lebih berhati-hati daripada yang kami inginkan dan menolak untuk menjawab pertanyaan tertentu sepenuhnya—salah menafsirkan beberapa pertanyaan yang sangat anodyne sebagai hal yang sensitif.”
Wakil presiden Google melanjutkan dengan mengatakan bahwa kedua faktor ini membuat Gemini memberikan kompensasi yang berlebihan dalam beberapa kasus dan menjadi terlalu konservatif dalam kasus lain. Secara keseluruhan, hal ini mengarah pada terciptanya gambaran yang “memalukan dan salah”.
Google mematikan kemampuan Gemini untuk menghasilkan gambar orang pada hari Kamis dan mengatakan akan segera merilis versi yang lebih baik. Namun, Raghavan tampaknya meragukan “segera” dan mengatakan bahwa perusahaan akan berupaya meningkatkan fitur tersebut secara signifikan melalui pengujian ekstensif sebelum mengaktifkannya kembali.
Raghavan menyatakan bahwa dia tidak bisa menjanjikan Gemini tidak akan memberikan hasil yang lebih memalukan, tidak akurat, atau menyinggung di masa depan, namun menambahkan bahwa Google akan terus turun tangan untuk memperbaikinya.
“Satu hal yang perlu diingat: Gemini dibangun sebagai alat kreativitas dan produktivitas, dan ini mungkin tidak selalu dapat diandalkan, terutama ketika menghasilkan gambar atau teks tentang peristiwa terkini, berita terkini, atau topik hangat. Itu akan membuat kesalahan,” kata Raghavan.
RisalahPos.com Network
Related posts
# PARTNERSHIP
