yyudhanto on Pendidikan Teknologi
15 Oct 2024 02:26 - 6 minutes reading

Etika AI (Recommendation on the Ethics of Artificial Intelligence)

Tantangan terbesar dalam penggunaan teknologi kecerdasan artifisial adalah keterpercayaan. Masyarakat modern yang sudah terbiasa dengan teknologi digital (digital native) cenderung memiliki rasa percaya yang tinggi terhadap teknologi. Hal ini tercermin dari betapa pesatnya penambahan jumlah pengguna ChatGPT yang mampu mencapai 100 juta pengguna aktif hanya dalam dua bulan, sementara aplikasi lainnya seperti TikTok membutuhkan waktu sembilan bulan dan Instagram dalam dua setengah tahun.

Perkembangan penggunaan AI di dunia akhir-akhir ini telah mendorong munculnya permasalahan pemanfaatan AI secara etis dan bertanggung jawab, yang berpengaruh terhadap pengambilan keputusan, pekerjaan, interaksi sosial, layanan kesehatan, pendidikan, akses media dan informasi, kesenjangan digital, perlindungan data pribadi,lingkungan, demokrasi, penegakan hukum, keamanan, penentuan kebijakan, hak asasi manusia termasuk kebebasan berekspresi, privasi dan non diskriminasi. Asumsi bahwa teknologi bersifat netral sehingga tidak akan menimbulkan bias terhadap keputusanyang dihasilkan masih perlu diperdebatkan. Apalagi teknologi kecerdasan artifisial mengandalkan kemampuannya dari hasil pengolahan data dengan sumber yang dapat saja berat sebelah karena tidak memiliki keterwakilan cakupan data yang seimbang.

Algoritma AI berpotensi untuk mereproduksi dan bahkan menguatkan bias yang telah ada, sehingga makin mempertajam diskriminasi, prasangka dan stereotip. Beberapa pemanfaatan AI bahkan digunakan untuk menjalankan peran yang dulu hanya dilakukan oleh manusia, sehingga menciptakan konteks baru pada lingkungan dan ekosistem kehidupan manusia, khususnya para generasi muda yang akan tumbuh, belajar dan berkembang. Hal ini menimbulkan kekhawatiran terhadap akan bergesernya nilai-nilai sosial, budaya dan martabat kemanusiaan.

Sebagai contoh: data mayoritas profesi memiliki kecenderungan mewakili stereotip yang berlaku di masyarakat. Seorang wanita bekerja sebagai pembersih atau perawat, sementara pria menjadi insinyur atau pemimpin perusahaan. Suatu Large Language Model (LLM) yang mendasarkan data pelatihannya dari korpus teks besar yang berasal dari fakta di masyarakat akan memiliki kecenderungan untuk menghasilkan keluaran bias yang mewarisi stereotip masyarakat tersebut.

Selain penguatan stereotip, bias pada LLM dapat pula menimbulkan perlakuan diskriminatif yang didasarkan pada jenis kelamin, suku, umur dan disabilitas. Misalnya, bias LLM dalam keputusan GenAI memilih calon karyawan atau seleksi calon peserta didik untuk suatu bidang tertentu. Bias pada LLM dapat pula menimbulkan misinformasi dan disinformasi akibat kurangnya data sampel yang tidak terwakili, misalnya:


1. Di bidang Kesehatan
● Diagnosis Tidak Akurat: Jika LLM mengandung bias dalam data pelatihannya, maka rekomendasi medis yang diberikan oleh LLM dapat menjadi tidak akurat. Misalnya, jika data pelatihan cenderung mengabaikan gejala kesehatan tertentu pada kelompok minoritas, LLM mungkin tidak mengenali gejala tersebut dengan baik.
● Rekomendasi Pengobatan: LLM dapat memberikan rekomendasi pengobatan yang tidak sesuai dengan kondisi pasien karena bias dalam data pelatihan. Contohnya, jika data pelatihan mengandung preferensi terhadap obat-obatan tertentu, LLM mungkin merekomendasikan obat-obatan tersebut.

2. Di bidang Politik
● Penyebaran Narasi Politik: Jika LLM mengandung bias politik, ia dapat menyebarkan narasi yang mendukung pandangan tertentu secara berlebihan.
Misalnya, LLM dapat menghasilkan teks yang memperkuat pandangan ekstrim atau mengabaikan sudut pandang yang berbeda.
● Disinformasi: LLM yang tidak kritis terhadap data pelatihan dapat secara tidak sengaja menyebarkan informasi palsu atau teori konspirasi. Misalnya, LLM dapat menghasilkan teks yang memperkuat klaim palsu tentang vaksinasi atau peristiwa sejarah.

Pertimbangan bias pada LLM bukanlah satu-satunya penyebab kurang diterimanya sistem AI di masyarakat. Beberapa kelompok masyarakat mengkhawatirkan pemanfaatan sistem AI akan berpengaruh pada kehidupan masyarakat, menyebabkan hilangnya pekerjaan dan ketidakstabilan ekonomi. Keterpercayaan teknologi AI dan aplikasinya menjadi faktor penentu bagi penerimaan masyarakat secara luas.

Untuk menjamin keterpercayaan suatu sistem AI, terdapat lima asas yang perlu dijamin, yaitu:
1. Adil (Fairness): bagaimana menjamin bahwa suatu model AI adil untuk setiap orang.
2. Dapat dijelaskan (Explainable): suatu model AI harus dapat menjelaskan data set, model yang digunakan dan bagaimana data dilatih.
3. Handal (Robustness): jaminan bahwa suatu model AI tidak dapat di-hack secara sengaja, atau hanya untuk merugikan atau menguntungkan sekelompok orang.
4. Transparan (Transparency): memberikan informasi yang jelas bahwa suatu produk dihasilkan oleh AI dan menyediakan rangkuman atau metadata tentang model AI yang digunakan.
5. Perlindungan data pribadi (Data Privacy): penggunaan data tetap menjamin kerahasiaan data pribadi.

Berbagai negara dan organisasi dunia mulai mengambil inisiatif untuk mengantisipasi kekhawatiran tersebut. UNESCO telah mengeluarkan rekomendasi tentang etika AI (Recommendation on the Ethics of Artificial Intelligence, UNESCO, 2022).

Di dalamnya ditekankan aspek nilai-nilai yang harus dijaga, yaitu:
1. Penghargaan, proteksi dan promosi terhadap hak asasi manusia, kebebasan fundamental dan martabat manusia.
Dalam penelitian dan pengajaran, dosen dapat menggunakan GenAI untuk menghasilkan materi penelitian atau materi pengajaran yang menghormati hak asasi manusia. Misalnya, menghasilkan teks yang mempromosikan kesetaraan jenis kelamin, menghormati kebebasan berpendapat, menghindari diskriminasi, mempromosikan inklusivitas, hak penyandang disabilitas dan martabat manusia. Mahasiswa dapat menggunakan GenAI dengan memperhatikan kode etik sehingga menghasilkan teks yang menghormati martabat manusia, menghindari bahasa yang merendahkan serta mempromosikan penggunaan bahasa yang inklusif, atau memanfaatkan teknologi AI yang menjunjung hak asasi manusia sehingga tidak merugikan individu atau kelompok tertentu.
Untuk menghindari bias, dosen dan mahasiswa harus memastikan bahwa data pelatihan yang digunakan bebas dari bias dan stereotip yang dapat menyebabkan pelanggaran HAM, data yang mengandung diskriminasi maupun prasangka. Selain itu, teks yang dihasilkan oleh GenAI harus secara kritis dievaluasi terutama bila ada tanda-tanda bias atau pelanggaran HAM.

2. Merawat/melindungi lingkungan dan ekosistem.
GenAI dapat menjadi alat bantu yang sangat bermanfaat untuk mengembangkan solusi-solusi dalam melindungi ekosistem. Misalnya dalam pengembangan strategi untuk penanaman mangrove, atau pemulihan lahan gambut di Indonesia sehingga mengurangi emisi gas rumah kaca. Contoh lain, GenAI digunakan untuk menggali konsep kearifan lokal dalam pemanfaatan sumber daya alam yang mampu menjaga keseimbangan ekosistem, disamping pula melestarikan/menghormati tradisi adat setempat. Dalam mengembangkan solusi berbasis GenAI, dosen dan mahasiswa dapat selalu mengedepankan sikap kritis mereka dalam upaya menjaga keberlanjutan lingkungan.

3. Menjamin keberagaman dan inklusivitas.
GenAI tentunya membuka peluang besar bagi dosen untuk merancang materi pembelajaran yang lebih adaptif dan relevan. Dosen dapat menghasilkan konten yang memperhitungkan beragam latar belakang mahasiswa. Antara lain, untuk mengatasi hambatan komunikasi sehingga menghasilkan materi dalam bahasa yang lebih inklusif. Bagi mahasiswa sendiri, GenAI dapat mempersonalisasi pengalaman belajar mereka dengan menghasilkan materi yang sesuai dengan minat dan kebutuhan individu, misalnya membantu menerjemahkan teks dalam bahasa yang lebih mudah dipahami. Seyogyanya, GenAI digunakan untuk menghasilkan materi yang menghormati budaya dan tradisi beragam, penggunaan contoh dan ilustrasi yang inklusif sehingga memungkinkan sudut pandang yang berbeda.

4. Kehidupan masyarakat yang damai, adil dan saling terhubung.
Apabila GenAI digunakan untuk menghasilkan rancangan kegiatan pengabdian kepada masyarakat yang relevan dengan kondisi dan kebutuhan lokal, tentunya akan memperkuat interaksi antar komponen di dalam ekosistem masyarakat. Dosen dapat mengkomunikasikan hasil penelitiannya secara lebih efektif kepada masyarakat sehingga manfaatnya dapat lebih cepat dirasakan. Solusi yang dihasilkan akan menjadi lebih holistik dan berdampak luas. Keberpihakan pada keadilan dan kesejahteraan masyarakat dapat menjadi landasan bagi dosen dan mahasiswa untuk mengembangkan ide inovatifnya melalui pemanfaatan AI.

Semoga Bermanfaat