India memiliki posisi yang unik untuk memimpin dalam mengembangkan sistem AI yang tidak bias yang benar-benar mencerminkan keragamannya, yang diabaikan oleh model GenAI global. Inisiatif-inisiatif seperti Bhashini dari MEITY dan AI4Bharat dari IIT Madras sangat penting dalam gerakan ini. Inisiatif-inisiatif ini berfokus pada pengumpulan data dalam bahasa-bahasa daerah, memastikan bahwa suara-suara yang beragam terwakili dalam kumpulan data pelatihan AI.
Oleh Kamal Das
Dalam beberapa tahun terakhir, teknologi kecerdasan buatan (AI) dan teknologi AI generatif (GenAI), seperti ChatGPT, telah membuat kemajuan yang luar biasa dalam mentransformasi berbagai industri dan menjadi bagian integral dari kehidupan setiap orang. Namun, ada kekhawatiran yang berkembang mengenai bias yang melekat dalam teknologi ini.
Masalah Bias dalam GenAI
Model AI dan GenAI sering kali mencerminkan data yang mereka latih, yang dapat menyebabkan pengabaian kebutuhan dan perspektif unik dari kelompok minoritas. Studi dari institusi ternama seperti Oxford University Press telah menunjukkan bahwa GenAI, termasuk berbagai versi ChatGPT, mencerminkan nilai-nilai budaya yang lazim di negara-negara Eropa yang berbahasa Inggris dan Protestan. Studi lain yang diterbitkan di Nature meneliti konten yang dihasilkan AI dari model-model seperti ChatGPT dan LLaMA dan menemukan adanya bias gender dan ras yang substansial. Dalam Konferensi Internasional tentang Pembelajaran Mesin, para peneliti mencatat bahwa model dengan parameter besar seperti GenAI memperburuk akurasi sampel minoritas. Akibatnya, model GenAI berisiko melanggengkan ketidaksetaraan sosial dan meminggirkan pandangan non-dominan dan minoritas.
Hal ini berdampak pada negara-negara yang beragam seperti India, yang memiliki banyak bahasa, budaya, dan latar belakang sosial ekonomi. India merupakan rumah bagi lebih dari 1,4 miliar orang dan memiliki lebih dari 400 bahasa. Menurut sensus tahun 2011, 60 bahasa India dituturkan oleh lebih dari satu juta orang. Meskipun mewakili sekitar 17% bahasa di dunia, konten bahasa India hanya mewakili kurang dari 0,1% dari semua sumber daya online. Marjinalisasi digital ini menyoroti sebuah isu yang mendesak: kurangnya representasi dari keragaman bahasa dan budaya India secara online.
Peran India dalam Memelopori AI yang Tidak Bias
India memiliki posisi yang unik untuk memimpin dalam mengembangkan sistem AI yang tidak bias yang benar-benar mencerminkan keragamannya, yang diabaikan oleh model GenAI global. Inisiatif-inisiatif seperti Bhashini dari MEITY dan AI4Bharat dari IIT Madras sangat penting dalam gerakan ini. Inisiatif-inisiatif ini berfokus pada pengumpulan data dalam bahasa-bahasa daerah, memastikan bahwa suara-suara yang beragam terwakili dalam kumpulan data pelatihan AI.
Memberikan prioritas pada bahasa daerah adalah tentang aksesibilitas dan juga representasi. Masyarakat diberdayakan ketika bahasa-bahasa ini diintegrasikan ke dalam sistem AI karena mereka dapat berkomunikasi dengan teknologi dalam bahasa mereka sendiri, bukan hanya dalam bahasa Eropa. Strategi ini menjamin bahwa teknologi akan selalu dapat diakses oleh semua orang.
Peta Jalan Menuju AI yang Tidak Bias
India dapat mengadopsi strategi untuk memanfaatkan potensi penuh dari AI dan GenAI yang inklusif dan tidak bias:
- Diversifikasi Data: Memperluas kumpulan data dengan menyertakan berbagai bahasa dan dialek regional dapat membantu menciptakan sistem AI yang lebih kuat dan adil. Hal ini sangat penting untuk mendukung upaya pengumpulan data bahasa lebih lanjut.
- Kemitraan Kolaboratif: Mendorong kolaborasi antara perusahaan teknologi, akademisi, dan komunitas lokal dapat memfasilitasi pendekatan yang lebih inklusif untuk pengembangan AI. Pemangku kepentingan yang beragam akan memastikan bahwa beragam perspektif dimasukkan dalam desain teknologi AI.
- Advokasi Kebijakan dan Kesadaran Publik: Kebijakan pemerintah harus mempromosikan AI yang inklusif dan tidak bias. Penting juga untuk mengedukasi masyarakat tentang pentingnya AI yang tidak bias dan peran bahasa dalam membentuk hasil AI.
Mengkodekan keragaman India ke dalam AI akan membantu Global South
Fokus India harus menjawab tantangan-tantangan unik yang dihadapi di seluruh Dunia Selatan, mendorong inklusivitas dan aksesibilitas. Banyaknya bahasa di India memiliki kesamaan dengan lebih dari 3.000 bahasa asli di seluruh Afrika dan lebih dari 450 bahasa di Amerika Selatan, GenAI harus melayani populasi yang beragam secara efektif. Penekanan India pada kemampuan AI multibahasa merupakan sebuah langkah untuk menjembatani kesenjangan ini.
Selain itu, Global South menghadapi tingkat buta huruf yang tinggi, sebuah tantangan yang ingin diatasi oleh India melalui pendekatan "voice-first". Selain itu, India memanfaatkan teknologi yang tidak hanya bergantung pada ponsel pintar tetapi juga dapat berfungsi pada ponsel berfitur, sehingga memperluas aksesibilitas. Fokus yang mengutamakan suara dan kompatibel dengan ponsel fitur memastikan bahwa teknologi ini dapat melibatkan pengguna dengan literasi digital yang minim, sehingga mendorong inklusi masyarakat yang lebih luas.
Terakhir, tradisi inovasi India yang hemat, ditambah dengan komitmennya terhadap infrastruktur Barang Publik Digital, bertujuan untuk memberikan solusi GenAI yang murah dan dapat diskalakan. Hal ini memastikan bahwa teknologi GenAI tetap terjangkau, memberikan manfaat bagi masyarakat di semua tingkat sosial ekonomi.
Kesimpulan
Karena AI dan GenAI terus membentuk masa depan, mengatasi bias yang melekat menjadi sangat penting. India memiliki peluang unik untuk memimpin dalam menciptakan lanskap AI yang menghargai keberagaman dan inklusi. Dengan berfokus pada bahasa-bahasa regional dan melibatkan komunitas yang terpinggirkan, India dapat menetapkan standar global untuk AI yang tidak bias, mendorong dunia digital yang lebih adil.
Sumber: India AI
