JAKARTA - Perempuan kulit hitam digambarkan sebagai Nazi, AI Google dikecam pengguna.

Para pendiri Amerika digambarkan sebagai perempuan kulit hitam dan pejuang Yunani Kuno sebagai perempuan dan laki-laki Asia – ini adalah dunia yang dirancang ulang oleh alat AI generatif Google, Gemini, pada akhir Februari 2024.

Peluncuran fitur pembuatan gambar baru membuat platform media sosial menjadi penuh intrik dan kebingungan. Saat pengguna memasukkan perintah apa pun untuk membuat gambar orang yang dihasilkan AI, Gemini sebagian besar menunjukkan kepada mereka hasil yang menampilkan orang kulit berwarna – baik sesuai atau tidak.

Pengguna X berbagi tawa saat berulang kali mencoba membuat gambar orang kulit putih di Gemini dan gagal melakukannya.

Meskipun beberapa contoh dianggap lucu di dunia maya, contoh lainnya, seperti gambar orang berkulit coklat yang mengenakan seragam Nazi pada Perang Dunia II dengan swastika, memicu kemarahan dan mendorong Google untuk menonaktifkan sementara alat tersebut.

Berikut ini lebih lanjut tentang Google Gemini dan kontroversi terkini seputarnya.

Apa itu Google Gemini?

Kontribusi pertama Google pada perlombaan AI adalah chatbot bernama Bard.

Bard diumumkan sebagai program AI percakapan atau “chatbot”, yang dapat mensimulasikan percakapan dengan pengguna, oleh CEO Google Sundar Pichai pada 6 Februari 2023, dan dirilis untuk digunakan pada 21 Maret 2023.

Ia mampu menghasilkan esai atau bahkan kode ketika diberikan perintah tertulis oleh pengguna, sehingga dikenal sebagai “AI generatif”.

Google mengatakan bahwa Gemini akan menggantikan Bard dan Gemini versi gratis dan berbayar tersedia untuk umum melalui situs web dan aplikasi ponsel pintarnya. Google mengumumkan bahwa Gemini akan bekerja dengan berbagai jenis input dan output, termasuk teks, gambar, dan video.

Namun, aspek pembuatan gambar Gemini adalah bagian dari alat yang mendapat perhatian paling besar karena kontroversi seputarnya.

Gambaran seperti apa yang dihasilkan Gemini?

Gambar yang menggambarkan perempuan dan orang kulit berwarna selama peristiwa sejarah atau dalam posisi yang secara historis dipegang oleh laki-laki kulit putih adalah yang paling kontroversial. Misalnya, salah satu render menampilkan seorang Paus yang tampaknya adalah seorang wanita kulit hitam.

Dalam sejarah Gereja Katolik, berpotensi ada tiga Paus berkulit hitam, dengan pelayanan Paus Hitam terakhir yang berakhir pada tahun 496 M. Tidak ada bukti tercatat adanya seorang Paus perempuan dalam sejarah resmi Vatikan, namun sebuah legenda abad pertengahan menunjukkan bahwa seorang wanita muda, Paus Joan, menyamar dan menjabat sebagai Paus pada abad kesembilan.

Bagaimana cara kerja Gemini?

Gemini adalah sistem AI generatif yang menggabungkan model-model di belakang Bard – seperti LaMDA, yang menjadikan AI bersifat percakapan dan intuitif, dan Imagen, sebuah teknologi teks-ke-gambar – jelas Margaret Mitchell, kepala ilmuwan etika di startup AI, Hugging Face.

Alat AI generatif diisi dengan “data pelatihan” yang darinya alat tersebut mengambil informasi untuk menjawab pertanyaan dan meminta masukan dari pengguna.

Alat ini bekerja dengan “teks, gambar, audio, dan lainnya secara bersamaan”, jelas sebuah blog yang ditulis oleh Pichai dan Demis Hassabis, CEO dan salah satu pendiri lab AI British American, Google DeepMind.

“Diperlukan perintah teks sebagai masukan untuk menghasilkan kemungkinan respons sebagai keluaran, dengan `kemungkinan` di sini berarti `kemungkinan secara statistik` mengingat apa yang terlihat dalam data pelatihan,” jelas Mitchell.

Apakah AI generatif memiliki masalah bias?

Model AI generatif telah dikritik karena dianggap bias dalam algoritmenya, terutama ketika model tersebut mengabaikan orang kulit berwarna atau melanggengkan stereotip saat memberikan hasil.

AI, seperti teknologi lainnya, berisiko memperbesar prasangka masyarakat yang sudah ada sebelumnya, menurut Ayo Tometi, salah satu pendiri gerakan anti-rasis Black Lives Matter yang berbasis di AS.

Artis Stephanie Dinkins telah bereksperimen dengan kemampuan AI untuk menggambarkan perempuan kulit hitam secara realistis selama tujuh tahun terakhir.

Dinkins menemukan AI cenderung mengubah fitur wajah dan tekstur rambut ketika diberikan perintah untuk menghasilkan gambar. Artis lain yang mencoba membuat gambar perempuan kulit hitam menggunakan platform berbeda seperti Stability AI, Midjourney, atau DALL-E telah melaporkan masalah serupa.

Kritikus juga mengatakan bahwa model AI generatif cenderung terlalu menseksualisasikan citra perempuan kulit hitam dan Asia yang mereka hasilkan.

Beberapa wanita kulit hitam dan Asia juga melaporkan bahwa generator AI mencerahkan warna kulit mereka ketika mereka menggunakan AI untuk menghasilkan gambar diri mereka sendiri.

Contoh seperti ini terjadi ketika mereka yang mengunggah data pelatihan tidak menyertakan orang kulit berwarna atau orang yang bukan “budaya arus utama”, kata reporter data Lam Thuy Vo dalam sebuah episode Dilema Digital Al Jazeera.

Kurangnya keragaman di antara mereka yang memasukkan data pelatihan untuk pembuatan gambar AI dapat mengakibatkan AI “mempelajari” pola dan kesamaan yang bias dalam gambar, dan menggunakan pengetahuan tersebut untuk menghasilkan gambar baru.

Selain itu, data pelatihan dikumpulkan dari internet tempat ditemukannya sejumlah besar konten dan gambar, termasuk konten dan gambar yang rasis dan misoginis. Belajar dari data pelatihan, AI mungkin akan meniru hal tersebut.

Oleh karena itu, masyarakat yang paling tidak diprioritaskan dalam kumpulan data lebih mungkin mengalami teknologi yang tidak memperhitungkan mereka – atau menggambarkan mereka dengan benar – yang mengarah pada dan dapat melanggengkan diskriminasi.

Apakah ini sebabnya Gemini menghasilkan gambar yang tidak pantas?

Faktanya, yang terjadi justru sebaliknya. Gemini dirancang untuk mencoba untuk tidak melanggengkan masalah ini.

Meskipun data pelatihan untuk model AI generatif lainnya sering kali memprioritaskan laki-laki berkulit terang dalam hal menghasilkan gambar, Gemini telah menghasilkan gambar orang kulit berwarna, terutama perempuan, meskipun hal tersebut tidak pantas dilakukan.

AI dapat diprogram untuk menambahkan istilah pada perintah pengguna setelah mereka memasukkan dan mengirimkan perintah tersebut, kata Mitchell.

Misalnya, prompt, “gambar Nazi”, dapat diubah menjadi “gambar Nazi yang memiliki ras berbeda” atau “gambar Nazi yang merupakan perempuan kulit hitam”. Jadi, strategi yang dimulai dengan niat baik bisa membuahkan hasil yang bermasalah.

“Apa yang ditambahkan dapat diacak, sehingga istilah yang berbeda untuk komunitas marginal dapat ditambahkan berdasarkan generator acak,” jelas Mitchell.

Model AI juga dapat diinstruksikan untuk menghasilkan kumpulan gambar yang lebih besar daripada yang sebenarnya ditampilkan kepada pengguna.

Gambar yang dihasilkan kemudian akan diberi peringkat, misalnya menggunakan model yang mendeteksi warna kulit, jelas Mitchell.

“Dengan pendekatan ini, warna kulit yang lebih gelap akan diberi peringkat lebih tinggi dibandingkan warna kulit yang lebih rendah, dan pengguna hanya melihat kelompok teratas,” jelasnya.

Google mungkin menggunakan teknik ini karena tim di belakang Gemini memahami bahwa mengabaikan bias historis “(minimal) akan mengakibatkan penolakan publik secara besar-besaran”, tulis Mitchell dalam postingan X.

Apa reaksi terhadap gambar Gemini?

Pertama, render Gemini memicu reaksi anti-kebangkitan dari kelompok konservatif di dunia maya, yang mengklaim bahwa mereka “melanjutkan agenda kebangkitan Teknologi Besar” dengan, misalnya, menampilkan para Founding Fathers Amerika Serikat sebagai pria dan wanita dari kelompok etnis minoritas.

Istilah “terbangun”, yang telah lama menjadi bagian dari bahasa Afrika-Amerika, telah digunakan oleh beberapa kelompok konservatif Amerika untuk melawan gerakan keadilan sosial.

Sentimen “anti-kebangkitan” di kalangan Partai Republik telah menyebabkan pembatasan beberapa konten terkait ras di bidang pendidikan, misalnya. Pada bulan Februari 2023, Gubernur Florida Ron DeSantis memblokir perguruan tinggi negeri untuk menyelenggarakan program keberagaman, kesetaraan dan inklusi, serta mengajarkan teori ras kritis.

Pengusaha miliarder Elon Musk juga mem-posting ulang tangkapan layar chatbot Gemini di X, di mana Gemini menanggapi permintaan yang mengatakan bahwa orang kulit putih harus mengakui hak istimewa kulit putih. Dalam postingan ulang tersebut, Elon Musk menyebut chatbot itu rasis dan seksis.

Di sisi lain, Google juga berhasil menyinggung kelompok etnis minoritas dengan menghasilkan gambar, misalnya, pria dan wanita kulit hitam yang mengenakan seragam Nazi.

Apa tanggapan Google?

Google mengatakan pekan lalu bahwa gambar yang dihasilkan oleh Gemini dihasilkan sebagai hasil dari upaya perusahaan untuk menghilangkan bias yang sebelumnya melanggengkan stereotip dan sikap diskriminatif.

Prabhakar Raghavan dari Google menerbitkan postingan blog yang menjelaskan lebih lanjut bahwa Gemini telah dikalibrasi untuk menunjukkan orang yang beragam tetapi belum menyesuaikan perintah yang tidak pantas, dan juga terlalu "berhati-hati" dan salah menafsirkan "beberapa perintah yang sangat anodyne sebagai sesuatu yang sensitif".

“Kedua hal ini menyebabkan model memberikan kompensasi yang berlebihan dalam beberapa kasus, dan menjadi terlalu konservatif dalam kasus lain, sehingga menghasilkan gambaran yang memalukan dan salah,” katanya.

Apa lagi kesalahan Gemini?

Gambar orang yang dihasilkan AI bukanlah satu-satunya hal yang membuat marah pengguna.

Pengguna Gemini juga memposting di X bahwa alat tersebut gagal menghasilkan gambar yang representatif ketika diminta untuk menghasilkan gambaran peristiwa seperti pembantaian Lapangan Tiananmen tahun 1989 dan protes pro-demokrasi tahun 2019 di Hong Kong.

“Penting untuk mendekati topik ini dengan rasa hormat dan akurat, dan saya tidak dapat memastikan bahwa gambar yang saya hasilkan akan cukup menangkap nuansa dan gawatnya situasi,” kata Gemini, menurut tangkapan layar yang dibagikan oleh Stephen L Miller, seorang komentator konservatif di AS pada X.

Kennedy Wong, seorang mahasiswa PhD di Universitas California, memposting di X bahwa Gemini menolak menerjemahkan frasa berbahasa Mandarin ke dalam bahasa Inggris yang dianggap sensitif oleh Beijing, termasuk “Bebaskan Hong Kong, Revolusi Zaman Kita” dan “Tiongkok adalah negara otoriter”.

Di India, jurnalis Arnab Ray bertanya kepada chatbot Gemini apakah Perdana Menteri India Narendra Modi adalah seorang fasis. Gemini menanggapinya dengan mengatakan Modi “dituduh menerapkan kebijakan yang dianggap fasis oleh beberapa ahli”.

Gemini menjawab dengan lebih ambigu ketika Ray menanyakan pertanyaan serupa tentang mantan Presiden AS Donald Trump dan Presiden Ukraina Volodymyr Zelenskyy.

The Guardian melaporkan bahwa ketika ditanya tentang Donald Trump, Gemini mengatakan “pemilu adalah topik yang kompleks dengan informasi yang berubah dengan cepat. Untuk memastikan Anda mendapatkan informasi paling akurat, cobalah Google Penelusuran.”

Bagi Zelenksyy, dikatakan bahwa ini adalah “pertanyaan yang kompleks dan sangat diperdebatkan, tanpa jawaban yang sederhana”. Ia menambahkan: “Sangat penting untuk mendekati topik ini dengan nuansa dan mempertimbangkan berbagai perspektif.”

Hal ini menyebabkan kemarahan di kalangan pendukung Modi, dan menteri junior teknologi informasi Rajeev Chandrasekhar menganggap tanggapan Gemini berbahaya.

Apakah Google telah menangguhkan Gemini?

Google belum sepenuhnya menangguhkan Gemini.

Namun, perusahaan tersebut mengumumkan pada 22 Februari bahwa mereka menghentikan sementara Gemini membuat gambar manusia.

Pada hari Selasa, CEO Google Sundar Pichai menulis surat ke situs berita Semafor, mengakui bahwa Gemini telah menyinggung pengguna. “Saya tahu bahwa beberapa tanggapannya telah menyinggung pengguna kami dan menunjukkan bias – jelasnya, hal itu sama sekali tidak dapat diterima dan kami salah,” tulisnya.

Dia menambahkan bahwa tim di Google sedang berupaya memperbaiki kesalahannya tetapi tidak mengatakan kapan alat pembuat gambar tersebut akan dirilis ulang.

“Tidak ada AI yang sempurna, terutama pada tahap perkembangan industri yang sedang berkembang ini, namun kami tahu bahwa standarnya tinggi dan kami akan terus melakukannya selama apa pun yang diperlukan,” tulisnya.

Raghavan menambahkan bahwa alat tersebut akan menjalani pengujian ekstensif sebelum fitur tersebut dapat diakses kembali.

Bagaimana dampak kontroversi ini terhadap Google?

Ketika kontroversi ini menyebar ke Wall Street, perusahaan induk Google, Alphabet kehilangan nilai pasar sekitar $96,9 miliar pada 26 Februari.

Saham Alphabet telah jatuh hampir 4 persen dari $140,10 pada 27 Februari menjadi $133,78 pada hari Selasa. (*)