Mengapa Agen Tunggal Menemui Jalan Buntu

Agen AI awal dibangun dengan kesederhanaan yang menarik: satu LLM, sekumpulan alat, dan suatu perulangan yang berjalan hingga tugas selesai. Untuk tugas sederhana seperti menjawab pertanyaan atau mengambil halaman web, pendekatan ini bekerja sangat baik. Masalah muncul ketika kompleksitas tugas yang ingin Anda selesaikan meningkat.

Setiap LLM memiliki jendela konteks yang terbatas, yang membatasi jumlah informasi yang dapat dipertimbangkannya sekaligus. Dalam tugas agen yang berjalan lama, riwayat pemikiran, pemanggilan alat, dan pengamatan yang terus bertambah pada akhirnya memenuhi jendela ini sepenuhnya. Ketika itu terjadi, agen akan memotong konteks awal yang penting atau berhenti dengan error.

Sebagai contoh, agen penelitian yang menganalisis 50 makalah akan mengumpulkan puluhan ribu token pengamatan jauh sebelum selesai.

Saat Anda menambahkan lebih banyak kemampuan ke satu agen dengan memberinya lebih banyak alat, kinerjanya secara paradoks dapat menurun. Penelitian menunjukkan bahwa LLM kesulitan memilih alat yang tepat secara andal ketika dihadapkan pada lebih dari 10–15 pilihan. Model tersebut menghabiskan langkah penalaran untuk memperdebatkan alat yang akan digunakan, alih-alih benar-benar mengerjakan tugas.

Hal ini disebut kelebihan alat: terlalu banyak pilihan menurunkan kualitas keputusan, sama seperti pada manusia.

Satu agen generalis diminta menjadi peneliti, penulis, pemrogram, dan analis data sekaligus. Setiap peran memerlukan gaya penalaran, kumpulan alat, dan format keluaran yang berbeda. Tidak ada satu perintah pun yang dapat mengoptimalkan semuanya secara bersamaan.

Peneliti perlu bersikap skeptis dan menyeluruh. Penulis perlu kreatif dan ringkas. Meminta satu agen untuk beralih di antara mode-mode ini dalam konteks yang sama menurunkan kualitas semuanya.

Dalam alur kerja agen tunggal, kesalahan pada langkah ke-3 dari tugas 20 langkah akan merusak setiap langkah berikutnya. Agen membangun hasilnya di atas keluaran yang keliru, dan error tersebut bertambah parah secara diam-diam. Saat jawaban akhir dihasilkan, jawaban itu mungkin sepenuhnya salah meskipun agen tampak bernalar dengan benar pada setiap langkah.

Hal ini berbeda secara mendasar dari menemukan error dan memperbaikinya secara terpisah sebelum error tersebut menyebar.

Agen tunggal pada dasarnya bekerja secara berurutan: berpikir, bertindak, mengamati, lalu mengulangi. Ketika suatu tugas memiliki subtugas independen yang dapat dikerjakan secara bersamaan, agen tunggal tetap harus mengerjakannya satu per satu. Meneliti tiga topik berbeda membutuhkan waktu tiga kali lebih lama daripada yang seharusnya.

Sistem multi-agen mengatasi hal ini dengan menjalankan subagen khusus secara paralel, sehingga keseluruhan pekerjaan yang sama selesai dalam waktu yang jauh lebih singkat.

Sebelum memutuskan untuk beralih ke multi-agen, penting untuk mendiagnosis mode kegagalan aktual pada agen tunggal Anda. Gejala yang perlu dicari meliputi: tugas yang memerlukan lebih dari 15–20 langkah penalaran, kumpulan alat yang berisi lebih dari 10 fungsi, keluaran yang memerlukan keahlian dalam domain yang pada dasarnya berbeda, serta tugas dengan subtugas independen yang dapat diparalelkan.

Tidak setiap masalah agen memerlukan solusi multi-agen. Mulailah dari yang sederhana dan tingkatkan ketika Anda benar-benar mencapai batasnya.

Tim manusia bekerja lebih baik daripada individu jenius untuk proyek kompleks karena pembagian beban kognitif memungkinkan setiap orang mendalami bidangnya. Prinsip yang sama berlaku pada agen AI. Satu agen yang berusaha menampung seluruh konteks proyek kompleks dalam jendela konteksnya sama seperti meminta satu orang menulis kode, merancang antarmuka pengguna, menangani dukungan pelanggan, dan mengelola basis data secara bersamaan.

Sistem multi-agen mengatasi semua mode kegagalan ini dengan membagi pekerjaan kepada agen khusus, yang masing-masing memiliki peran terfokus, kumpulan alat yang kecil, dan konteks yang dapat dikelola. Agen orkestrator menguraikan tugas dan mengoordinasikan para spesialis. Hasilnya disintesis pada akhirnya menjadi keluaran yang koheren.

Hal ini mencerminkan cara organisasi manusia berkinerja tinggi beroperasi: para spesialis mengerjakan tugas secara mendalam, sementara manajer mengoordinasikan dan mengintegrasikan hasilnya.

Sistem multi-agen memiliki kompleksitasnya sendiri: latensi komunikasi antargen, proses penelusuran kesalahan yang lebih sulit, lebih banyak titik kegagalan potensial, dan biaya API yang lebih tinggi. Untuk tugas sederhana, sistem ini berlebihan.

Tetap gunakan agen tunggal ketika: tugas dapat dimuat dalam satu jendela konteks, memerlukan kurang dari 10 alat, dapat diselesaikan dalam kurang dari 15 langkah, dan tidak memiliki subtugas yang benar-benar independen serta diuntungkan oleh paralelisme.

Sistem multi-agen produksi digunakan di berbagai domain. AutoGPT dan Devin menggunakan pola multi-agen untuk tugas rekayasa perangkat lunak. Asisten penelitian AI menggunakan agen perencana, pengambil, dan penulis secara berurutan. Platform dukungan pelanggan menggunakan agen triase yang merutekan masalah penagihan, teknis, dan akun ke agen khusus.

Pemahaman tentang mode kegagalan agen tunggal inilah yang mendorong arsitektur tersebut.

Dalam pelajaran ini Anda telah mempelajari bahwa kehabisan jendela konteks membatasi jumlah langkah yang dapat dilakukan agen tunggal, kelebihan alat menurunkan kualitas keputusan ketika terlalu banyak alat tersedia, dan kurangnya spesialisasi memaksa satu agen menjadi biasa-biasa saja dalam banyak hal, alih-alih unggul dalam satu hal. Selanjutnya, kita akan membahas pola orkestrator-subagen yang mengatasi masalah-masalah ini.