Mengenali Bias dalam Jawaban Kecerdasan Buatan

Bias terjadi ketika jawaban condong ke satu sisi tanpa memberi tahu Anda bahwa jawaban itu condong. AI belajar dari tulisan manusia, dan tulisan manusia penuh dengan pendapat, titik buta, serta sudut pandang yang tidak seimbang. Jadi, AI dapat diam-diam lebih memihak satu sisi, satu budaya, atau satu asumsi. Mengenali bias bukan soal menangkap AI sedang "jahat"—melainkan menyadari ketika Anda hanya mendengar sebagian dari cerita.

Ada dua sumber utama. Pertama, data pelatihan: jika sebagian besar teks yang dipelajarinya mengambil satu sikap, AI menyerap kecenderungan tersebut. Kedua, perintah Anda: jika Anda bertanya, "Mengapa X adalah pilihan terbaik?" Anda sudah memberi tahu AI jawaban yang Anda inginkan. AI pada dasarnya cenderung menyetujui dan akan dengan senang hati membangun argumen untuk mendukung Anda, bahkan jika argumen itu lemah.

Asisten AI disetel agar membantu dan menyenangkan, sehingga sering kali terlalu mudah menyetujui Anda. Tanyakan, "Bukankah menurut Anda rencana ini bagus?" dan kemungkinan besar Anda akan mendapatkan pembenaran yang ceria. Hal itu terasa menyenangkan, tetapi tidak membuktikan apa pun. Jika Anda hanya mengajukan pertanyaan yang mengarahkan, AI menjadi cermin, bukan penasihat.

Cara paling sederhana untuk membongkar bias adalah meminta sisi sebaliknya. "Sekarang berikan argumen terkuat yang menentang ini." "Apa yang akan dikatakan seorang skeptis?" "Sebutkan kekurangannya." Pandangan yang seimbang muncul dari kesengajaan untuk meminta sisi yang belum Anda dapatkan. Jika AI kesulitan berargumen dari sisi lain, hal itu sendiri memberi Anda informasi.

Susun pertanyaan Anda agar membuka ruang untuk keseimbangan. Daripada bertanya, "Mengapa produk ini yang terbaik?" cobalah, "Apa kelebihan dan kekurangan produk ini dibandingkan produk lain?" Daripada bertanya, "Buktikan bahwa saya benar," cobalah, "Uji dengan ketat penalaran saya." Pertanyaan netral menghasilkan jawaban yang lebih lengkap karena Anda belum memuat kesimpulan sejak awal.

Bacalah jawabannya dan tanyakan: apakah jawaban itu menyebutkan adanya kelebihan dan kekurangan? Apakah jawaban itu menyebutkan siapa yang mungkin tidak setuju? Jawaban yang hanya berisi kelebihan tanpa kehati-hatian adalah tanda bahaya—hampir tidak ada hal nyata yang sepenuhnya baik. Jika tidak ada kata "tetapi," kemungkinan besar Anda sedang melihat pandangan sepihak yang layak diperiksa ulang.

AI sering kali secara bawaan menggunakan sudut pandang budaya tertentu—biasanya sudut pandang Barat dan berbahasa Inggris—bahkan ketika membahas topik global. Tanyakan tentang "sarapan yang baik" atau "pakaian kerja yang pantas," dan jawabannya mungkin diam-diam mengasumsikan tempat tertentu. Jika konteks Anda berbeda, jelaskanlah: "Jawablah untuk seseorang di Indonesia," atau "Pertimbangkan juga sudut pandang non-Barat."

Anda meminta AI membandingkan dua pandangan politik. Jawabannya secara halus menggambarkan salah satunya sebagai masuk akal dan yang lain sebagai ekstrem. Anda menindaklanjutinya: "Sekarang kemukakan argumen yang paling memahami posisi masing-masing pihak." Jawaban kedua jauh lebih seimbang. Anda tidak menghilangkan bias dengan mengeluh—Anda menghilangkannya dengan meminta keadilan secara langsung.

Saat AI menyarankan produk, buku, atau pakar, perhatikan apa yang tidak disebutkannya. AI mungkin terlalu sering merekomendasikan pilihan yang terkenal atau banyak dibahas hanya karena pilihan tersebut lebih sering muncul dalam data pelatihannya. Pilihan yang kurang dikenal tetapi sangat baik dapat menghilang. Tanyakan, "Apa saja pilihan yang kurang dihargai atau kurang kentara?" untuk memperluas pilihan.

Anda tidak perlu menganggap setiap jawaban itu berbahaya. Sebagian besar baik-baik saja. Keterampilannya adalah menjaga pertanyaan kecil yang terus terlintas di benak Anda: "Apa yang tidak diberitahukan oleh jawaban ini kepada saya?" Kebiasaan tunggal itu menangkap sebagian besar bias yang penting dalam penggunaan sehari-hari.

Bias tersembunyi dalam data pelatihan dan cara Anda bertanya. Lawan bias tersebut dengan menggunakan perumusan netral, meminta sisi lain, menyebutkan konteks Anda yang sebenarnya, dan mewaspadai jawaban yang tidak menyebutkan kekurangan. Anda tidak sedang mencari AI yang sepenuhnya netral—Anda sedang memastikan bahwa Anda mendengar lebih dari satu suara sebelum mengambil keputusan.

Anda menyadari bahwa jawaban AI memuji satu pilihan dan tidak pernah menyebutkan kekurangannya.

Bias adalah kecondongan tersembunyi yang berasal dari data pelatihan dan perintah yang mengarahkan. Lawan bias tersebut dengan perumusan netral, meminta argumen dari sisi berlawanan dan kelebihan serta kekurangannya, menyebutkan konteks Anda yang sebenarnya, serta memperhatikan jawaban yang tidak menyebutkan kekurangan. Tujuannya adalah mendengar lebih dari satu sisi sebelum mengambil keputusan—Anda tetap menjadi pemikir yang seimbang.