REPORTASE- Alat kecerdasan buatan (AI) yang populer menjadi semakin rasis secara diam-diam seiring dengan kemajuan teknologi, menurut sebuah laporan baru yang mengkhawatirkan.
Sebuah tim peneliti teknologi dan linguistik mengungkapkan minggu ini bahwa model bahasa besar seperti ChatGPT OpenAI dan Gemini Google memiliki stereotip rasis terhadap penutur Bahasa Inggris Vernakular Afrika Amerika, atau AAVE, dialek bahasa Inggris yang dibuat dan diucapkan oleh orang kulit hitam Amerika.
“Kami tahu bahwa teknologi ini sangat umum digunakan oleh perusahaan untuk melakukan tugas-tugas seperti menyaring pelamar kerja,” kata Valentin Hoffman, peneliti di Allen Institute for Artificial Intelligence dan salah satu penulis makalah terbaru, yang diterbitkan minggu ini di arXiv, sebuah arsip penelitian akses terbuka dari Cornell University.
“Kami tahu bahwa teknologi ini sangat umum digunakan oleh perusahaan untuk melakukan tugas-tugas seperti menyaring pelamar kerja,” kata Valentin Hoffman, peneliti di Allen Institute for Artificial Intelligence dan salah satu penulis makalah terbaru, yang diterbitkan minggu ini di arXiv, sebuah arsip penelitian akses terbuka dari Cornell University.
Hoffman menjelaskan bahwa para peneliti sebelumnya hanya benar-benar melihat bias rasial apa yang mungkin dimiliki oleh teknologi ini, dan tidak pernah memeriksa bagaimana sistem AI ini bereaksi terhadap penanda ras yang tidak terlalu mencolok, seperti perbedaan dialek.
Orang kulit hitam yang menggunakan AAVE dalam pidatonya, kata surat kabar tersebut, diketahui mengalami diskriminasi rasial dalam berbagai konteks, termasuk pendidikan, pekerjaan, perumahan, dan hasil hukum.
Hoffman dan rekan-rekannya meminta model AI untuk menilai kecerdasan dan kelayakan kerja orang-orang yang berbicara menggunakan AAVE dibandingkan dengan orang-orang yang berbicara menggunakan apa yang mereka sebut sebagai “Bahasa Inggris Amerika standar”.
Orang kulit hitam yang menggunakan AAVE dalam pidatonya, kata surat kabar tersebut, diketahui mengalami diskriminasi rasial dalam berbagai konteks, termasuk pendidikan, pekerjaan, perumahan, dan hasil hukum.
Hoffman dan rekan-rekannya meminta model AI untuk menilai kecerdasan dan kelayakan kerja orang-orang yang berbicara menggunakan AAVE dibandingkan dengan orang-orang yang berbicara menggunakan apa yang mereka sebut sebagai “Bahasa Inggris Amerika standar”.
Baca Juga: Taklukan Newcastle, Manchester City Melaju ke Semifinal
"Misalnya, model AI diminta untuk membandingkan kalimat 'Saya sangat bahagia ketika saya bangun dari mimpi buruk karena mereka merasa terlalu nyata' dengan 'Saya sangat bahagia ketika saya bangun dari mimpi buruk karena mereka merasa terlalu nyata,: katanya.
Begitu orang melewati ambang batas pendidikan tertentu, mereka tidak akan mencemooh Anda, tetapi rasisme masih ada. Ini serupa dalam model bahasa
Model-model tersebut secara signifikan lebih cenderung menggambarkan penutur AAVE sebagai 'bodoh' dan 'malas', dan menugaskan mereka pada pekerjaan dengan gaji lebih rendah.
Hoffman khawatir bahwa hasil ini berarti bahwa model AI akan menghukum kandidat pekerjaan karena alih kode – tindakan mengubah cara Anda mengekspresikan diri berdasarkan audiens antara AAVE dan bahasa Inggris Amerika standar.
"Misalnya, model AI diminta untuk membandingkan kalimat 'Saya sangat bahagia ketika saya bangun dari mimpi buruk karena mereka merasa terlalu nyata' dengan 'Saya sangat bahagia ketika saya bangun dari mimpi buruk karena mereka merasa terlalu nyata,: katanya.
Begitu orang melewati ambang batas pendidikan tertentu, mereka tidak akan mencemooh Anda, tetapi rasisme masih ada. Ini serupa dalam model bahasa
Model-model tersebut secara signifikan lebih cenderung menggambarkan penutur AAVE sebagai 'bodoh' dan 'malas', dan menugaskan mereka pada pekerjaan dengan gaji lebih rendah.
Hoffman khawatir bahwa hasil ini berarti bahwa model AI akan menghukum kandidat pekerjaan karena alih kode – tindakan mengubah cara Anda mengekspresikan diri berdasarkan audiens antara AAVE dan bahasa Inggris Amerika standar.
“Salah satu kekhawatiran terbesarnya adalah, katakanlah seorang kandidat pekerja menggunakan dialek ini di postingan media sosial mereka,” katanya dilansir Guardian.
Model AI juga secara signifikan lebih mungkin merekomendasikan hukuman mati bagi terdakwa kriminal hipotetis yang menggunakan AAVE dalam pernyataan pengadilannya.
“Saya rasa kita belum mendekati masa di mana teknologi semacam ini digunakan untuk mengambil keputusan mengenai hukuman pidana. Ini mungkin terasa seperti masa depan yang sangat distopia, dan mudah-mudahan memang demikian," kata Hoffman.
“Saya rasa kita belum mendekati masa di mana teknologi semacam ini digunakan untuk mengambil keputusan mengenai hukuman pidana. Ini mungkin terasa seperti masa depan yang sangat distopia, dan mudah-mudahan memang demikian," kata Hoffman.
Baca Juga: Presiden Jokowi Ungkap Tantangan Pangan Nasional
Meski begitu, kata Hoffman kepada Guardian, sulit memprediksi bagaimana model pembelajaran bahasa akan digunakan di masa depan.
“Sepuluh tahun yang lalu, bahkan lima tahun yang lalu, kami tidak tahu semua konteks berbeda yang akan digunakan AI saat ini,” katanya, sambil mendesak para pengembang untuk memperhatikan peringatan makalah baru mengenai rasisme dalam model bahasa besar.
Khususnya, model AI sudah digunakan dalam sistem hukum AS untuk membantu tugas administratif seperti membuat transkrip pengadilan dan melakukan penelitian hukum.
Meski begitu, kata Hoffman kepada Guardian, sulit memprediksi bagaimana model pembelajaran bahasa akan digunakan di masa depan.
“Sepuluh tahun yang lalu, bahkan lima tahun yang lalu, kami tidak tahu semua konteks berbeda yang akan digunakan AI saat ini,” katanya, sambil mendesak para pengembang untuk memperhatikan peringatan makalah baru mengenai rasisme dalam model bahasa besar.
Khususnya, model AI sudah digunakan dalam sistem hukum AS untuk membantu tugas administratif seperti membuat transkrip pengadilan dan melakukan penelitian hukum.
Baca Juga: Kemenparekraf Siapkan Desa Wisata Topang Pembangunan di IKN
Selama bertahun-tahun, pakar AI terkemuka seperti Timnit Gebru , mantan salah satu pemimpin tim kecerdasan buatan etis Google, telah menyerukan pemerintah federal untuk membatasi penggunaan model bahasa besar yang sebagian besar tidak diatur.
Selama bertahun-tahun, pakar AI terkemuka seperti Timnit Gebru , mantan salah satu pemimpin tim kecerdasan buatan etis Google, telah menyerukan pemerintah federal untuk membatasi penggunaan model bahasa besar yang sebagian besar tidak diatur.
“Rasanya seperti demam emas,” kata Gebru kepada Guardian tahun lalu.
Faktanya, kata dia ini adalah demam emas. Dan banyak orang yang menghasilkan uang sebenarnya bukanlah orang-orang yang menghasilkan uang.
Model AI Google, Gemini, baru-baru ini mendapat sorotan ketika sejumlah unggahan di media sosial menunjukkan alat pembuat gambar yang menggambarkan berbagai tokoh sejarah – termasuk Paus, pendiri Amerika Serikat dan, yang paling menyedihkan, tentara perang dunia kedua Jerman, sebagai orang kulit berwarna .
Model bahasa besar menjadi lebih baik seiring dengan bertambahnya data yang mereka berikan, dan belajar meniru ucapan manusia lebih dekat dengan mempelajari teks dari miliaran halaman web di internet.
Model bahasa besar menjadi lebih baik seiring dengan bertambahnya data yang mereka berikan, dan belajar meniru ucapan manusia lebih dekat dengan mempelajari teks dari miliaran halaman web di internet.
Keangkuhan yang sudah lama diketahui mengenai proses pembelajaran ini adalah bahwa model tersebut akan menyebarkan stereotip rasis, dan berbahaya apa pun yang ditemui di internet: dalam komputasi, masalah ini digambarkan dengan pepatah “sampah masuk, sampah keluar”.
Masukan rasis mengarah ke keluaran rasis, menyebabkan chatbot AI awal seperti Tay dari Microsoft memuntahkan konten neo-Nazi yang sama seperti yang dipelajari dari pengguna Twitter pada tahun 2016.
Sebagai tanggapannya, kelompok seperti OpenAI mengembangkan pagar pembatas, yaitu seperangkat pedoman etika yang mengatur konten yang dapat dikomunikasikan oleh model bahasa seperti ChatGPT kepada pengguna. Ketika model bahasa menjadi lebih besar, mereka juga cenderung tidak terlalu rasis.
Namun Hoffman dan rekan-rekannya menemukan bahwa, seiring dengan berkembangnya model bahasa, rasisme terselubung pun meningkat. Mereka belajar bahwa pagar pembatas etis hanya mengajarkan model bahasa untuk lebih berhati-hati terhadap bias rasial mereka.
Sebagai tanggapannya, kelompok seperti OpenAI mengembangkan pagar pembatas, yaitu seperangkat pedoman etika yang mengatur konten yang dapat dikomunikasikan oleh model bahasa seperti ChatGPT kepada pengguna. Ketika model bahasa menjadi lebih besar, mereka juga cenderung tidak terlalu rasis.
Namun Hoffman dan rekan-rekannya menemukan bahwa, seiring dengan berkembangnya model bahasa, rasisme terselubung pun meningkat. Mereka belajar bahwa pagar pembatas etis hanya mengajarkan model bahasa untuk lebih berhati-hati terhadap bias rasial mereka.
Baca Juga: Jadwal Pencairan THR dan Gaji 13 Bagi ASN Sesuai Kebijakan Baru Pemerintah
“Hal ini tidak menghilangkan masalah mendasar; pagar pembatas tersebut tampaknya meniru apa yang dilakukan oleh orang-orang terpelajar di Amerika Serikat,” kata Avijit Ghosh, peneliti etika AI di Hugging Face, yang karyanya berfokus pada titik temu antara kebijakan publik dan teknologi.
“Ketika seseorang melewati ambang batas pendidikan tertentu, mereka tidak akan menganggap Anda sebagai hinaan, namun rasisme masih tetap ada. Hal serupa terjadi dalam model bahasa: sampah masuk, sampah keluar. Model-model ini tidak melupakan hal-hal yang bermasalah, mereka hanya menjadi lebih baik dalam menyembunyikannya.”
Keterlibatan sektor swasta AS dalam model bahasa diperkirakan akan semakin intensif dalam dekade berikutnya: pasar AI generatif yang lebih luas diproyeksikan menjadi industri senilai $1,3 triliun pada tahun 2032, menurut Bloomberg.
“Hal ini tidak menghilangkan masalah mendasar; pagar pembatas tersebut tampaknya meniru apa yang dilakukan oleh orang-orang terpelajar di Amerika Serikat,” kata Avijit Ghosh, peneliti etika AI di Hugging Face, yang karyanya berfokus pada titik temu antara kebijakan publik dan teknologi.
“Ketika seseorang melewati ambang batas pendidikan tertentu, mereka tidak akan menganggap Anda sebagai hinaan, namun rasisme masih tetap ada. Hal serupa terjadi dalam model bahasa: sampah masuk, sampah keluar. Model-model ini tidak melupakan hal-hal yang bermasalah, mereka hanya menjadi lebih baik dalam menyembunyikannya.”
Keterlibatan sektor swasta AS dalam model bahasa diperkirakan akan semakin intensif dalam dekade berikutnya: pasar AI generatif yang lebih luas diproyeksikan menjadi industri senilai $1,3 triliun pada tahun 2032, menurut Bloomberg.
Sementara itu, regulator ketenagakerjaan federal seperti Equal Employment Opportunity Commission baru-baru ini mulai melindungi pekerja dari diskriminasi berbasis AI, dengan kasus pertama yang diajukan ke EEOC pada akhir tahun lalu.
Ghosh adalah bagian dari kumpulan pakar AI yang, seperti Gebru, khawatir akan dampak buruk yang mungkin ditimbulkan oleh model pembelajaran bahasa jika kemajuan teknologi terus melampaui peraturan federal.
“Anda tidak perlu menghentikan inovasi atau memperlambat penelitian AI, namun membatasi penggunaan teknologi ini di area sensitif tertentu adalah langkah awal yang sangat baik. Orang-orang rasis ada di seluruh negeri, kita tidak perlu memenjarakan mereka, tapi kita berusaha untuk tidak membiarkan mereka bertanggung jawab atas perekrutan dan perekrutan. Teknologi harus diatur dengan cara yang sama," katanya.
Ghosh adalah bagian dari kumpulan pakar AI yang, seperti Gebru, khawatir akan dampak buruk yang mungkin ditimbulkan oleh model pembelajaran bahasa jika kemajuan teknologi terus melampaui peraturan federal.
“Anda tidak perlu menghentikan inovasi atau memperlambat penelitian AI, namun membatasi penggunaan teknologi ini di area sensitif tertentu adalah langkah awal yang sangat baik. Orang-orang rasis ada di seluruh negeri, kita tidak perlu memenjarakan mereka, tapi kita berusaha untuk tidak membiarkan mereka bertanggung jawab atas perekrutan dan perekrutan. Teknologi harus diatur dengan cara yang sama," katanya.