Keadilan, Bias, dan Dampak di Dunia Nyata

Kecerdasan buatan belajar dari sangat banyak teks dan gambar buatan manusia, dan catatan umat manusia mencakup ketidakadilan, stereotip, serta titik buta. Karena itu, kecerdasan buatan dapat menyerap dan mengulangi pola-pola tersebut — bukan karena niat jahat, melainkan karena mencerminkan apa yang diberikan kepadanya. Memahami hal ini membantu Anda menggunakan kecerdasan buatan dengan lebih adil dan menyadari ketika hasilnya keliru.

Bias muncul dalam berbagai bentuk nyata. Generator gambar yang diminta membuat "seorang CEO" mungkin lebih sering menampilkan satu jenis kelamin atau ras tertentu. Alat penyaring daftar riwayat hidup mungkin lebih menyukai nama-nama tertentu. Terjemahan mungkin menganggap seorang dokter laki-laki dan seorang perawat perempuan. Ini bukan sekadar dugaan — masing-masing pernah terjadi dalam sistem nyata dan memengaruhi orang-orang nyata.

Ketika kecerdasan buatan yang bias menjadi dasar keputusan perekrutan, pemberian pinjaman, penegakan hukum, atau layanan kesehatan, dampaknya bukan sesuatu yang abstrak. Orang dapat ditolak saat melamar pekerjaan atau mengajukan pinjaman, atau tidak mendapatkan perlakuan yang adil, oleh sistem yang tampak netral tetapi diam-diam menguntungkan kelompok tertentu. Kesan seolah-olah "komputer yang memutuskan" membuat keputusan tidak adil terasa objektif, sehingga keputusan tersebut bisa lebih sulit ditentang.

Bias terutama masuk melalui data pelatihan: jika data masa lalu mencerminkan diskriminasi masa lalu, kecerdasan buatan belajar mengulanginya. Bias juga dapat muncul dari siapa yang membangun sistem dan apa yang mereka uji. Mesin tidak memutuskan untuk bersikap tidak adil — mesin hanya menyalin pola dalam data yang bermasalah. Masukan buruk menghasilkan keluaran bias.

Anda mungkin tidak membangun sistem kecerdasan buatan, tetapi Anda menggunakan hasilnya. Jika Anda meminta kecerdasan buatan menyaring kandidat, menulis evaluasi kinerja, atau menilai orang, biasnya menjadi keputusan Anda. Tetap waspada: apakah keluaran ini akan merugikan seseorang secara tidak adil? Tambahkan peninjauan manusia untuk apa pun yang memengaruhi peluang atau martabat orang.

Anda dapat mengarahkan kecerdasan buatan agar menghasilkan keluaran yang lebih adil. Mintalah contoh yang beragam: "Tampilkan beragam orang," "Sertakan perspektif dari berbagai budaya," "Hindari stereotip." Saat menghasilkan gambar orang atau peran, minta keragaman secara eksplisit alih-alih menerima bawaan yang sering condong ke pola mayoritas dalam data.

Bacalah keluaran kecerdasan buatan dengan saringan keadilan. Apakah kecerdasan buatan mengasumsikan jenis kelamin suatu profesi? Apakah kecerdasan buatan menggambarkan suatu kelompok dengan istilah yang sempit dan klise? Apakah kecerdasan buatan sama sekali menghilangkan perspektif tertentu? Menyebutkan stereotipnya memungkinkan Anda memperbaikinya: "Cara penyampaian itu bergantung pada stereotip — silakan buat ulang dengan adil." Andalah penyunting yang menolak meneruskan bias.

Bayangkan Anda menggunakan kecerdasan buatan untuk memberi peringkat pelamar kerja. Jika perekrutan di masa lalu condong ke satu arah, kecerdasan buatan mungkin diam-diam menempatkan profil serupa lebih tinggi dan merugikan pelamar lain — bahkan kandidat yang kuat. Mengandalkannya secara membabi buta bisa tidak adil dan, di banyak tempat, melanggar hukum. Kecerdasan buatan dapat membantu penyaringan, tetapi manusia harus bertanggung jawab atas keputusan yang menentukan penghidupan orang.

Para pengembang secara aktif berupaya mengurangi bias, dan alat-alat tersebut semakin baik seiring waktu. Peran Anda adalah memiliki kewaspadaan yang realistis, bukan berputus asa. Gunakan kecerdasan buatan untuk memperoleh manfaatnya yang besar, sambil tetap kritis terhadap keluaran yang menyangkut keadilan. Pengguna yang sadar membuat kecerdasan buatan lebih aman hanya dengan menolak menerima hasil yang bias.

Jika Anda melihat alat kecerdasan buatan menghasilkan keluaran yang jelas-jelas bias atau berbahaya, laporkan — sebagian besar platform memiliki tombol umpan balik. Laporan Anda membantu pengembang memperbaiki pola yang berdampak pada banyak orang. Memperlakukan keadilan sebagai tugas semua orang, bukan hanya para insinyur, adalah cara sistem ini menjadi lebih baik.

Kecerdasan buatan mencerminkan bias manusia dari data pelatihannya, dan bias tersebut menimbulkan dampak nyata ketika menjadi dasar keputusan tentang orang. Tetap waspada dalam penggunaan Anda, minta keragaman dalam perintah, kenali stereotip, pastikan manusia tetap memegang kendali atas keputusan berisiko tinggi, dan laporkan masalah. Anda membantu membangun kecerdasan buatan yang lebih adil hanya dengan menolak meneruskan biasnya.

Anda berencana menggunakan alat kecerdasan buatan untuk membantu memberi peringkat pelamar kerja untuk suatu posisi.

Kecerdasan buatan mencerminkan bias manusia dari data pelatihan yang bermasalah, dan bias tersebut menimbulkan dampak nyata ketika mendorong keputusan tentang orang. Tetap waspada dalam penggunaan Anda, minta keragaman, kenali stereotip, pastikan manusia tetap memegang kendali atas keputusan berisiko tinggi, dan laporkan masalah. Menolak meneruskan bias menjadikan Anda bagian dari upaya membangun kecerdasan buatan yang lebih adil.