Mengapa Kecerdasan Buatan dengan Yakin Mengarang Informasi

Hal yang paling sulit tentang kecerdasan buatan adalah kemampuannya untuk sepenuhnya salah sambil terdengar sepenuhnya yakin. Tidak ada nada gugup, tidak ada keraguan. Kecerdasan buatan menyampaikan fakta yang dibuat-buat dengan lancar seperti fakta yang benar.

Kesalahan yang disampaikan dengan penuh keyakinan ini disebut halusinasi. Memahami alasan terjadinya halusinasi adalah pertahanan pertama Anda agar tidak tertipu.

Ingat cara kerja kecerdasan buatan: kecerdasan buatan memprediksi kata-kata yang mungkin muncul, satu demi satu. Kecerdasan buatan tidak sedang mencari fakta dalam basis data. Kecerdasan buatan menghasilkan teks yang terdengar benar.

Sering kali, terdengar benar dan memang benar berjalan beriringan. Namun, terkadang kalimat yang terdengar paling alami ternyata sepenuhnya salah, dan kecerdasan buatan tidak memiliki alarm bawaan yang memberitahunya bahwa kalimat itu salah.

Kecerdasan buatan sebenarnya tidak mengetahui apa yang benar. Kecerdasan buatan tidak memiliki kesadaran atau pemeriksa fakta di dalamnya. Kecerdasan buatan hanya menghasilkan bahasa yang masuk akal.

Itulah sebabnya kecerdasan buatan dapat mengarang statistik, tanggal, atau kutipan dengan penuh keyakinan. Bagi kecerdasan buatan, kebohongan yang terdengar meyakinkan dan fakta tampak sama: keduanya hanyalah pola kata yang mungkin muncul.

Ketika tidak mengetahui sesuatu, kecerdasan buatan sering kali tidak mengatakannya. Sebaliknya, kecerdasan buatan mengisi kekosongan dengan sesuatu yang sesuai dengan pola sebuah jawaban.

Jika Anda menanyakan fakta langka yang belum pernah dipelajarinya, alih-alih mengakui ketidaktahuan, kecerdasan buatan dapat dengan lancar mengarang jawaban yang masuk akal. Dorongan untuk mengisi kekosongan inilah tempat halusinasi bermula.

Anda meminta kutipan dari buku tertentu kepada kecerdasan buatan. Kecerdasan buatan memberikan kutipan yang indah dan sesuai, serta mencantumkan sumbernya dengan tepat. Kutipan itu terdengar sempurna, tetapi sebenarnya tidak ada.

Kecerdasan buatan menghasilkan sesuatu yang terdengar seperti kutipan dari buku tersebut. Tidak ada niat buruk atau kesadaran, hanya pencocokan pola yang salah dengan penuh keyakinan. Hal ini terjadi lebih sering daripada yang diperkirakan para pemula.

Halusinasi sering muncul dalam hal-hal tertentu: fakta spesifik, angka, tanggal, nama, sumber, dan kutipan. Semakin tepat dan langka detailnya, semakin tinggi risikonya.

Penjelasan umum biasanya dapat diandalkan. Kecerdasan buatan paling mungkin mengarang dengan penuh keyakinan ketika memberikan sitasi yang tepat, statistik yang akurat, atau nama yang sangat khusus. Mengetahui hal ini memberi tahu Anda kapan harus lebih berhati-hati.

Model kecerdasan buatan belajar dari data hingga titik waktu tertentu dan mungkin tidak mengetahui peristiwa terkini dengan baik. Ketika ditanya tentang sesuatu yang baru, kecerdasan buatan dapat menebak dan menyampaikan tebakannya sebagai fakta.

Bersikaplah sangat skeptis terhadap jawaban tentang berita terkini, harga, atau topik yang berubah dengan cepat. Kecerdasan buatan mungkin dengan penuh keyakinan menggambarkan dunia yang sudah tidak ada atau bahkan tidak pernah ada.

Penting untuk mengetahui bahwa kecerdasan buatan tidak berusaha menipu Anda. Kecerdasan buatan sama sekali tidak memiliki niat. Halusinasi adalah efek samping dari cara kerjanya, bukan pilihan untuk menyesatkan.

Hal ini penting karena berarti Anda tidak dapat memperbaikinya hanya dengan meminta kecerdasan buatan untuk bersikap jujur. Kecerdasan buatan sudah menganggap dirinya sedang membantu. Perlindungan harus datang dari Anda.

Jika Anda menerima setiap jawaban yang disampaikan dengan penuh keyakinan begitu saja, pada akhirnya Anda akan bertindak berdasarkan sesuatu yang salah—fakta yang keliru dalam laporan, sumber yang dibuat-buat, atau tanggal yang salah.

Solusinya bukan berhenti menggunakan kecerdasan buatan, melainkan menggunakannya dengan bijak: manfaatkan kecerdasan buatan untuk berpikir dan membuat rancangan, lalu verifikasi fakta-fakta spesifik yang penting sebelum mengandalkannya.

Terapkan pola pikir sederhana: kecerdasan buatan adalah asisten yang cerdas dan cepat, tetapi sesekali dapat melakukan kesalahan dengan penuh keyakinan. Percayakan arahan kepadanya, tetapi periksa ulang detailnya.

Ini bukan sikap paranoid; ini adalah skeptisisme yang sama seperti yang akan Anda terapkan terhadap satu sumber informasi mana pun. Mengetahui bahwa halusinasi ada sudah membuat Anda lebih unggul daripada sebagian besar pengguna.

Mintalah sesuatu yang langka dan spesifik kepada kecerdasan buatan, seperti statistik yang tepat atau kutipan dari sumber yang kurang dikenal. Kemudian cobalah memverifikasinya di tempat lain.

Anda mungkin menemukan bahwa informasi itu dibuat-buat dengan penuh keyakinan. Melihat sendiri halusinasi sekali saja membuat pelajaran ini jauh lebih melekat daripada sekadar diberi tahu bahwa hal itu dapat terjadi.

Mari kita uji gagasan utamanya.

Halusinasi adalah jawaban yang dibuat-buat dan disampaikan dengan penuh keyakinan. Halusinasi terjadi karena kecerdasan buatan memprediksi kata-kata yang masuk akal dan tidak benar-benar memahami apa yang benar atau salah, sehingga kecerdasan buatan mengisi kekosongan alih-alih mengakui bahwa dirinya tidak tahu.

Risiko tertinggi terdapat pada fakta spesifik, angka, kutipan, sumber, dan peristiwa terkini. Kecerdasan buatan tidak sedang berbohong; kecerdasan buatan tidak memiliki niat. Perlindungannya adalah Anda: percayai arahannya, verifikasi detailnya.