Kerangka Etika dan Tata Kelola Kecerdasan Buatan

Model yang cakap membawa risiko nyata: diskriminasi, kerugian terhadap privasi, misinformasi, dan kegagalan keselamatan. Tata kelola kecerdasan buatan adalah serangkaian kebijakan, proses, dan dokumentasi yang menjaga agar sistem kecerdasan buatan tetap sah, adil, dan dapat dipertanggungjawabkan sepanjang siklus hidupnya.

Undang-Undang Kecerdasan Buatan EU adalah peraturan penting yang mengklasifikasikan sistem kecerdasan buatan berdasarkan risiko dan menetapkan kewajiban yang sebanding dengan risiko tersebut. Peraturan ini menggunakan piramida risiko dengan empat tingkatan.

Di tingkat teratas, sistem dengan risiko yang tidak dapat diterima dilarang sepenuhnya. Contohnya mencakup penilaian sosial oleh pemerintah dan sistem manipulatif yang mengeksploitasi kerentanan. Sistem-sistem ini tidak boleh diterapkan, apa pun pengamanannya.

Sistem berisiko tinggi (perangkat medis, perekrutan, penilaian kredit, infrastruktur penting) diizinkan, tetapi diatur secara ketat: sistem tersebut memerlukan manajemen risiko, data berkualitas tinggi, pencatatan, pengawasan manusia, dan penilaian kesesuaian sebelum memasuki pasar.

Tingkat yang lebih rendah memiliki persyaratan yang lebih ringan:

• Risiko terbatas (bot percakapan, media palsu) memerlukan transparansi, misalnya memberi tahu pengguna bahwa mereka sedang berinteraksi dengan sistem kecerdasan buatan
• Risiko minimal (filter spam, kecerdasan buatan dalam gim) pada dasarnya tidak memiliki kewajiban

Dari atas ke bawah, piramida Undang-Undang Kecerdasan Buatan EU terdiri atas: tidak dapat diterima (dilarang), tinggi (persyaratan ketat), terbatas (kewajiban transparansi), dan minimal (penggunaan bebas). Sebagian besar kecerdasan buatan sehari-hari termasuk dalam dua tingkat terbawah.

Kartu Model adalah dokumen singkat dan terstandardisasi yang diterbitkan bersama sebuah model. Dokumen ini menjelaskan tujuan model dan tempat model tidak boleh digunakan, sehingga tim pengguna lanjutan dapat mengambil keputusan berdasarkan informasi yang memadai. Kartu Model merupakan padanan label gizi untuk kecerdasan buatan.

Bagian penggunaan yang dimaksudkan menyatakan tujuan utama, pengguna sasaran, dan penggunaan yang secara tegas berada di luar cakupan. Bagian ini mencegah penyalahgunaan, seperti menerapkan model analisis sentimen yang dilatih menggunakan cuitan berbahasa Inggris pada kontrak hukum.

Bagian kinerja melaporkan metrik, idealnya yang dirinci menurut subkelompok, serta data evaluasi yang digunakan. Metrik terpilah menunjukkan apakah model bekerja dengan baik untuk semua orang atau hanya untuk kelompok mayoritas.

Bagian catatan penting dan keterbatasan mencantumkan pola kegagalan, bias, dan kondisi yang diketahui dapat menurunkan kinerja model, seperti bahasa dengan sumber daya rendah atau masukan di luar distribusi. Catatan penting yang jujur membangun kepercayaan dan mencegah kerugian.

Tim mengoperasionalkan tata kelola dengan daftar periksa kecerdasan buatan yang bertanggung jawab yang ditinjau sebelum peluncuran:

• Apakah data pelatihan representatif dan diperoleh dengan persetujuan?
• Apakah kita telah mengukur keadilan di seluruh kelompok?
• Apakah terdapat pengawasan manusia untuk keputusan yang berdampak besar?
• Apakah penjelasan tersedia bagi pengguna yang terdampak?
• Apakah Kartu Model telah diterbitkan dan rencana pemantauan telah disiapkan?

Uji pengetahuan Anda tentang tata kelola.

Anda telah mempelajari etika dan tata kelola AI:

• Piramida risiko Undang-Undang AI UE: tidak dapat diterima (dilarang), tinggi (ketat), terbatas (transparansi), minimal (bebas)
• Kartu Model mendokumentasikan penggunaan yang dimaksudkan, kinerja (terurai berdasarkan kelompok), dan catatan penting
• daftar periksa AI yang bertanggung jawab mengubah prinsip menjadi gerbang pemeriksaan sebelum peluncuran