Mengapa Kod Kecerdasan Buatan Memerlukan Semakan

Fungsi yang dijana mengendalikan contoh yang anda huraikan dan mengabaikan input yang terlupa anda nyatakan: tatasusunan kosong, medan null, nombor negatif, unicode dan penulisan serentak.

Model mengoptimumkan padanan dengan gesaan anda, bukan keseluruhan domain input yang mungkin. Jurang itulah tempat pepijat dalam persekitaran pengeluaran berlaku.

Minta pembantu mengenal pasti titik butanya sendiri sebelum anda mempercayai output tersebut.

Penyemak lebih lambat mengesan pepijat dalam kod AI berbanding kod manusia kerana penjelasan yang menyertainya kedengaran berwibawa. Model menghuraikan pilihannya dengan yakin walaupun pilihan tersebut salah.

Latih diri anda untuk membaca kod, bukan ulasan. Rasional yang meyakinkan bagi pendekatan yang cacat tetap merupakan pendekatan yang cacat.

Asingkan perkara yang dilakukan oleh kod daripada perkara yang didakwa oleh pembantu bahawa kod itu lakukan.

Model mengulangi purata data latihannya, sedangkan tutorial web secara purata tidak selamat. Jangkakan SQL yang dibina melalui penggabungan rentetan, rahsia dalam kod sumber, kebenaran yang tiada, dan CORS yang terlalu permisif.

Melainkan anda meminta kod yang diperkukuh secara jelas, anda akan menerima kod bertaraf demonstrasi. Tetapan lalai mengutamakan kemudahan, bukan keselamatan.

Jadikan keselamatan sebagai keperluan yang dinyatakan dalam setiap gesaan yang menyentuh data, pengesahan atau input pengguna.

Setiap permintaan AI mengoptimumkan perkara setempat. Selepas banyak sesi, pangkalan kod mengumpulkan pembantu pendua, pengendalian ralat yang tidak konsisten dan tiga cara yang bersaing untuk memanggil pangkalan data.

Tiada satu perubahan pun kelihatan salah, namun sistem perlahan-lahan kehilangan kesepaduan. Model tidak mengingati konvensyen yang dipersetujuinya semalam.

Semakan seni bina secara berkala menghalang pangkalan kod daripada berpecah menjadi timbunan coretan yang dioptimumkan secara setempat.

Soalan semakan yang paling penting bukanlah "adakah ini berjalan?" tetapi "adakah ini melakukan perkara yang sebenarnya saya maksudkan?" Model memenuhi gesaan secara literal, termasuk perkataan anda yang tidak tepat.

Jika anda berkata "padam rekod lama" tanpa mentakrifkan maksud lama, model akan memilih satu ambang. Andaian itu menjadi logik perniagaan.

Sahkan bahawa setiap keputusan tersirat yang dibuat oleh model sepadan dengan niat sebenar anda.

Senarai semak yang boleh diulang lebih baik daripada pembacaan ad hoc. Bagi setiap perubahan yang dijana, sahkan bahawa: input disahkan, ralat dikendalikan, pengesahan dikuatkuasakan, rahsia dikeluarkan daripada kod, kes tepi diliputi dan tingkah laku sepadan dengan niat.

Anda boleh menyerahkan sebahagian senarai semak kepada pembantu itu sendiri, kemudian mengesahkan jawapannya secara bebas.

Konsistensilah yang mengubah semakan daripada sekadar tanggapan kepada disiplin.

Apabila pembantu menyunting kod sedia ada, semak perbezaannya, bukan fail akhir sahaja. Model kadangkala "memfaktorkan semula" kod dengan menggugurkan pengesahan, baris log atau bendera ciri secara senyap.

Perubahan kecil yang diminta boleh disertakan dengan suntingan yang tidak diminta. Semakin kecil perbezaan yang anda terima, semakin sedikit kejutan yang dihantar.

Tegaskan perubahan yang minimum dan terhad skopnya, serta baca setiap baris yang dibuang.

Semakan boleh diskalakan apabila anda mengekodkan jangkaan sebagai ujian. Setelah sesuatu tingkah laku ditetapkan oleh penegasan, model tidak boleh memecahkannya secara senyap tanpa menyebabkan himpunan ujian gagal.

Ujian yang dijana juga hanyalah draf yang perlu disemak, tetapi ujian cacat yang dikesan oleh pelaksanaan yang lulus namun salah tetap lebih baik daripada tiada ujian.

Pelajaran seterusnya mengubah pengungkit ini menjadi aliran kerja.

Pembantu tidak mempunyai kepentingan terhadap hasilnya. Apabila aplikasi membocorkan data atau mengenakan caj pada kad yang salah, tanggungjawab terletak pada anda, bukan model.

Pengekodan berasaskan tanggapan yang matang bermaksud memiliki hasil itu seolah-olah anda menaip setiap aksara. AI mempercepat kerja anda; AI tidak membebaskan anda daripada tanggungjawab.

Semakan ialah cara anda memperoleh hak untuk menghantar perkara yang tidak anda tulis.

Kod AI ialah draf yang yakin: lancar tetapi tidak bertanggungjawab. Kod ini mereka-reka API, melangkau kes tepi, menggunakan corak tidak selamat secara lalai dan menyimpang dari segi seni bina dari semasa ke semasa.

Tangani perkara ini dengan semakan berdisiplin: baca untuk memahami niat, semak perbezaan tanpa mempercayainya, jalankan senarai semak dan tetapkan tingkah laku dengan ujian. Kebertanggungjawaban terhadap perkara yang dihantar kekal pada anda.

Seterusnya, anda akan menukar jangkaan menjadi himpunan ujian yang dijana.