Agen yang Berdebat dan Memilih

Jawaban dari satu model adalah satu sampel dari distribusi yang mencakup kesalahan dan kepercayaan diri berlebihan. Menjalankan banyak agen dan melakukan agregasi—melalui pemungutan suara atau debat terstruktur—memanfaatkan independensi dan perbedaan pendapat untuk menyingkap kesalahan serta mencapai kesimpulan yang lebih andal.

• Pemungutan suara meratakan kesalahan acak yang independen.
• Debat membuka penalaran yang keliru untuk diperiksa.

Agregasi paling sederhana: ambil sampel dari beberapa jalur penalaran independen untuk pertanyaan yang sama, lalu pilih jawaban akhir mayoritas. Rantai penalaran yang beragam sering mencapai jawaban benar yang sama, sementara kesalahan tersebar, sehingga modus lebih andal daripada jalur tunggal mana pun.

Metode ini paling baik digunakan ketika ruang jawaban bersifat diskret dan jalurnya benar-benar independen.

Pemungutan suara hanya membantu jika kesalahan bersifat independen. Jika semua agen menggunakan model, perintah, dan bias yang sama, mereka akan gagal bersama-sama dan pemungutan suara hanya memperkuat kesalahan bersama. Hadirkan keragaman: suhu yang berbeda, perumusan perintah yang berbeda, penguraian yang berbeda, atau model yang berbeda.

Pemilih yang berkorelasi memberikan kepercayaan diri palsu—bahaya konsensus tanpa independensi.

Dalam debat, agen menghasilkan jawaban awal, lalu membaca penalaran satu sama lain dan melakukan revisi dalam beberapa putaran. Paparan terhadap argumen yang berlawanan memungkinkan agen menemukan kesalahan sendiri dan meninggalkan posisi yang lemah, sehingga sering mencapai jawaban yang lebih baik daripada jawaban awal mana pun.

• Putaran 1: jawaban independen.
• Putaran 2+: kritik dan revisi berdasarkan argumen rekan.

Debat dapat berubah menjadi persetujuan karena alasan yang keliru: agen menyerah kepada rekan yang percaya diri, bukan kepada argumen yang lebih baik. Lawan hal ini dengan menginstruksikan agen untuk mengubah pendirian hanya berdasarkan keunggulan argumen, mempertahankan posisi yang benar di bawah tekanan, dan menyebutkan argumen spesifik yang mengubah pendirian mereka.

Perbedaan pendapat yang produktif adalah tujuannya; konsensus yang terlalu dini adalah kegagalan.

Alih-alih berharap para peserta debat mencapai kesepakatan, tambahkan juri netral yang membaca posisi dan argumen akhir, lalu memberikan keputusan beserta alasannya. Juri bukan peserta debat dan tidak memiliki kepentingan, sehingga pengaruh suara yang paling keras berkurang.

Memisahkan pembelaan dari pengadilan adalah pola yang kuat dan dapat diaudit.

Tidak semua suara memiliki bobot yang sama. Agen dapat melaporkan tingkat keyakinan yang terkalibrasi, dan Anda dapat memberi bobot pada agregat berdasarkan hal tersebut—atau membuang suara dengan keyakinan rendah. Berhati-hatilah: keyakinan model sering kali tidak terkalibrasi dengan baik, jadi validasikan bahwa pembobotan benar-benar meningkatkan akurasi sebelum mengandalkannya.

• Beri bobot berdasarkan keyakinan hanya jika keyakinan tersebut terkalibrasi.
• Jika tidak, mayoritas biasa lebih aman.

Agregasi meningkatkan biaya secara linear seiring jumlah agen dan putaran, tetapi peningkatan akurasi semakin berkurang. Beberapa sampel tambahan pertama sangat membantu; sampel kesepuluh jarang memberikan banyak manfaat. Tentukan jumlahnya secara empiris dan berhentilah ketika peningkatan akurasi marginal tidak lagi sepadan dengan pengeluaran marginal.

Penghentian adaptif—berhenti lebih awal ketika konsensus kuat—menghemat anggaran untuk tugas yang mudah.

Pemungutan suara cocok untuk tugas dengan jawaban diskret yang jelas dan sampel independen. Debat cocok untuk tugas yang titik kegagalannya adalah penalaran—pembuktian bertahap atau rencana dengan kelemahan tersembunyi—karena nilainya terletak pada kritik terhadap rantai penalaran, bukan penghitungan kesimpulan.

Sesuaikan metode dengan lokasi kesalahan: pada jawaban (pemungutan suara) atau pada penalaran (debat).

Tentukan apa yang terjadi ketika agen tidak mencapai kesepakatan: hasil seri dalam pemungutan suara atau debat yang menemui jalan buntu. Gunakan pemecah seri deterministik (keputusan juri, pilihan dengan risiko terendah, atau eskalasi kepada manusia), alih-alih membiarkan sistem berulang tanpa akhir atau memilih secara sembarang.

• Batasi jumlah putaran debat; jika menemui jalan buntu, biarkan juri memutuskan atau lakukan eskalasi.
• Tampilkan ‘tidak ada konsensus’ sebagai hasil yang sah dan dapat ditindaklanjuti.

Untuk konsensus yang andal: pastikan independensi pemilih melalui keragaman nyata, pilih pemungutan suara untuk jawaban diskret dan debat untuk tugas yang berat pada penalaran, cegah sikap menjilat dengan revisi yang hanya berdasarkan keunggulan argumen, tambahkan juri netral untuk mengadili, beri bobot berdasarkan keyakinan hanya jika terkalibrasi, lakukan penghentian adaptif untuk mengendalikan biaya, dan tentukan pemecahan seri deterministik beserta eskalasinya. Perbedaan pendapat adalah sumber daya; kelolalah dengan sengaja.

Anda menjalankan tujuh agen yang semuanya menggunakan model, perintah, dan suhu yang identik, lalu melakukan pemungutan suara mayoritas atas jawaban mereka dengan harapan keandalannya meningkat.

Mengagregasikan banyak agen meningkatkan keandalan dengan memanfaatkan independensi dan perbedaan pendapat. Gunakan pemungutan suara konsistensi diri untuk jawaban diskret dan debat multiagen untuk tugas yang berat pada penalaran, tetapi hanya jika para pemilih benar-benar beragam—agen yang berkorelasi akan memperkuat bias bersama. Cegah sikap menjilat dengan revisi yang hanya berdasarkan keunggulan argumen, tambahkan juri netral untuk mengadili, beri bobot berdasarkan keyakinan hanya jika terkalibrasi, lakukan penghentian adaptif untuk mengendalikan biaya, dan tentukan pemecahan seri deterministik beserta eskalasinya.