Oleh Kamal Das
Semua wajah tidak dianggap sama oleh sistem Kecerdasan Buatan (AI)! Sistem pengenalan wajah AI komersial pada umumnya paling akurat memprediksi pria berkulit putih. Akurasi untuk mendeteksi wanita berkulit gelap lebih rendah lebih dari 30 persen, kata Joy Buolamwini, Pendiri Algorithmic Justice League.
Sistem visi komputer AI akan secara tepat mengklasifikasikan dan melabeli gambar pengantin wanita dengan gaun khas barat. Namun, ketika diminta untuk mengklasifikasikan gambar pengantin wanita India yang mengenakan sari merah, maka akan diklasifikasikan sebagai sebuah acara, kostum, atau seni pertunjukan. Semua pengantin wanita tidak sama untuk AI!
Pada tahun 2017, sebuah dispenser sabun otomatis AI tidak mengenali tangan yang berkulit gelap dan hanya mengeluarkan sabun untuk orang yang berkulit putih. Mesin seleksi CV AI dari perusahaan teknologi raksasa Amazon memberikan prioritas yang lebih rendah kepada perempuan untuk banyak peran pekerjaan, sebuah cerminan dari dominasi laki-laki dalam peran tersebut. Mesin AI akan memilih kandidat berdasarkan demografi yang ada. Akibatnya, gender, etnis, dan sub-kelompok yang kurang terwakili dapat terus ditolak bahkan untuk mendapatkan panggilan wawancara. Mesin AI yang bias dapat menggagalkan tindakan afirmatif selama bertahun-tahun.
Bias dalam AI dapat memiliki dampak sosial yang luas, dengan para pengambil keputusan yang sering kali tidak menyadari risikonya. Anda pasti bertanya-tanya mengapa situasi seperti itu bisa terjadi.
Alasan terjadinya bias AI
Ada beberapa alasan terjadinya bias dalam AI. Alasan utamanya adalah bias yang ada pada data. Para peneliti Google Brain mencatat bahwa meskipun India dan Cina bersama-sama membentuk lebih dari sepertiga populasi global, mereka hanya membentuk 3 persen gambar dalam kumpulan data yang digunakan secara luas, ImageNet. Amerika Serikat, dengan hanya 4 persen dari populasi dunia, membentuk 45 persen gambar. AI memanfaatkan mesin korelasi dan menghasilkan hasil berdasarkan data yang dilatih. Akibatnya, pandangan regional seperti dari India sering kali kurang terwakili dengan mengorbankan sudut pandang barat yang dominan. Pencarian "cantik", "tampan", atau "bayi lucu" di mesin pencari mana pun akan menampilkan portofolio manusia berkulit putih dan bukannya merangkul keragaman global.
AI juga mengalami bias karena generalisasi yang berlebihan terhadap data yang ada, bias otomatisasi dengan keputusan manusia yang sering kali diabaikan atas keluaran model AI, serta kemampuan AI yang terbatas untuk melakukan generalisasi terhadap data yang belum pernah diekspos dalam pelatihan. Sebagian besar ahli AI setuju bahwa mengurangi bias dalam AI adalah masalah kompleks yang akan membutuhkan waktu dan upaya yang signifikan untuk mengatasinya.
Seringkali, perusahaan tidak memberikan perhatian yang cukup terhadap bias tersebut atau melakukan upaya yang cukup untuk memperbaiki masalah ini. Pada tahun 2015, Google Photos mengklasifikasikan pria kulit hitam sebagai gorila. Alih-alih memperbaiki kesalahan dari akar masalahnya, laporan menunjukkan bahwa perusahaan melakukan perbaikan cepat dengan menghapus gorila sebagai label. Akibatnya, enam tahun kemudian, pada tahun 2021, mesin rekomendasi AI dari Facebook menghadapi masalah serupa. Mesin AI otomatis bertanya kepada pengguna yang menonton video yang menampilkan pria kulit hitam apakah mereka ingin "terus melihat video tentang Primata."
Solusi untuk mengurangi bias dalam AI
Bias dalam AI dapat mendorong demografi yang terpinggirkan dan kurang terwakili ke dalam lingkaran setan kecuali jika langkah-langkah proaktif diambil untuk memperbaikinya. Kami merekomendasikan AI berfokus pada "kecerdasan yang ditingkatkan" daripada "kecerdasan buatan", dengan lapisan pengawasan manusia yang akan membantu mengurangi bias yang jelas dalam AI.
Mengembangkan lebih banyak set data yang berpusat pada India dan ekosistem Indic AI yang menggabungkan pandangan lokal India sangatlah penting. Hal ini akan membantu menciptakan kumpulan data yang lebih seimbang dalam hal kebangsaan, warna kulit, gender, dan keragaman global.
Kita juga membutuhkan kebijakan yang tepat untuk memberikan insentif bagi sistem AI yang etis. Pemerintah India sedang melakukan upaya untuk hal yang sama. NITI Aayog dan pemerintah negara bagian seperti Tamil Nadu telah mengeluarkan panduan tentang penerapan AI yang etis.
Selain itu, model AI sebelumnya adalah model kotak hitam yang berfokus pada akurasi saja dengan kemampuan terbatas untuk meninjau parameter keputusan yang mendasarinya. Selama beberapa tahun terakhir, evolusi AI yang dapat dijelaskan telah menawarkan cara untuk mengidentifikasi logika yang mendasari pengambilan keputusan. Kami berharap fokus pada asumsi yang mendasari model AI dan bukan pada akurasi murni akan membantu mengurangi bias AI.
Upaya untuk mengurangi bias dalam AI adalah kebutuhan saat ini. Kami berharap upaya bersama dari pemerintah, perusahaan, komunitas start-up, dan akademisi dapat membuat AI menjadi tempat yang lebih netral.
Sumber: Lini Bisnis Hindu
