Kejuruteraan Arahan AI · Pelajaran

Hibrid: Arahan dan Penalaan Ringan

Menggabungkan kedua-dua pendekatan.

Pelajaran 3 daripada 413 langkah

Hibrid: Arahan dan Penalaan Ringan ialah pelajaran Kejuruteraan Arahan AI percuma di CoddyKit. Ini ialah pelajaran 3 daripada 4. Sebanyak 3 pelajaran dalam laluan pembelajaran ini boleh dibaca sepenuhnya secara percuma — selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan praktikal dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Kejuruteraan Arahan AI, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Kejuruteraan Arahan AI merangkumi sejumlah 4 pelajaran.

Pemikiran Hibrid

Pemberian arahan dan penalaan halus bukan pesaing — kedua-duanya ialah lapisan. Corak pakar ialah model yang ditala ringan untuk mengendalikan tingkah laku stabil yang dipelajari, dibalut dengan arahan ringkas yang membekalkan konteks yang berubah-ubah bagi setiap permintaan.

Penalaan menyerap perkara yang stabil: format, suara dan pembingkaian tugas
Pemberian arahan membekalkan perkara yang berubah-ubah: arahan, fakta yang diambil semula dan keadaan pengguna
Setiap lapisan melakukan perkara yang paling dikuasainya; tiada satu pun menanggung keseluruhan beban

Penguraian Stabil berbanding Berubah-ubah

Kemahiran teras hibrid ialah membahagikan tingkah laku mengikut paksi stabil/berubah-ubah. Apa-apa yang sama dalam setiap panggilan dan mahal untuk diulang dalam arahan ialah calon penalaan. Apa-apa yang berubah dalam setiap panggilan mesti kekal dalam arahan.

Jika pembahagian ini tersasar ke mana-mana arah, anda akan rugi: masukkan kandungan berubah-ubah ke dalam pemberat dan anda perlu menala semula untuk mengubahnya; kekalkan kandungan stabil dalam arahan dan anda akan membayar kos tokennya selama-lamanya.

# Classify each behavior element before deciding where it lives
def placement(element):
    # element: dict with 'changes_per_call' and 'repeated_every_call'
    if element['changes_per_call']:
        return 'PROMPT'        # volatile -> must stay dynamic
    if element['repeated_every_call']:
        return 'WEIGHTS'       # stable + repetitive -> distill into tuning
    return 'PROMPT'            # default to the flexible layer

print(placement({'changes_per_call': False, 'repeated_every_call': True}))
# WEIGHTS

Corak A: Penyulingan Arahan

Inilah corak hibrid yang paling bernilai. Anda membina arahan yang panjang dan berkualiti tinggi, menggunakannya untuk menjana hasil jawapan rujukan, kemudian menala model berdasarkan hasil tersebut dengan arahan ringkas.

Hasilnya: model berkelakuan seolah-olah masih mempunyai arahan panjang itu, tetapi anda hanya menggunakan sebahagian kecil token. Arahan yang mahal menjadi guru; arahan yang murah menjadi antara muka masa jalan. Kependaman, kos dan ketekalan semuanya bertambah baik serentak.

# Build distillation set: long prompt -> output, store with SHORT prompt
def distill_example(input_x, long_prompt, teacher):
    full = long_prompt + '\n\n' + input_x
    gold = teacher(full)                 # quality from the long prompt
    short = 'Task: process the input.\n' + input_x  # runtime prompt
    return {'messages': [
        {'role': 'user', 'content': short},
        {'role': 'assistant', 'content': gold},
    ]}

Corak B: Penalaan untuk Bentuk, Arahan untuk Kandungan

Tala model supaya sentiasa menghasilkan bentuk yang betul - skema yang ketat, gaya bahasa organisasi atau DSL domain - dan biarkan arahan membawa kandungan bagi setiap permintaan.

Ini sesuai apabila pematuhan format mesti hampir sempurna dan peraturan terlalu banyak untuk disenaraikan, tetapi kandungan sebenar berubah sepenuhnya. Model yang ditala tidak lagi bermasalah dengan struktur, lalu membebaskan token arahan untuk arahan khusus dan konteks yang diperoleh.

Corak C: Penghala Ditala + Pakar Berarahan

Dalam sistem berbilang langkah, tala model kecil dan pantas untuk keputusan yang sempit dan kerap diperlukan (pengelasan, penghalaan, pengekstrakan) dan kekalkan model besar yang diberi arahan untuk langkah penaakulan terbuka.

Anda memperoleh kos dan kependaman model kecil yang ditala apabila tugasnya sempit, serta fleksibiliti arahan apabila tugasnya luas. Penghala itu stabil dan ditala; pakar kekal boleh diarahkan apabila keperluan berkembang.

def pipeline(user_input, router_tuned, expert_prompted):
    route = router_tuned(user_input)        # cheap, fast, learned
    if route == 'simple':
        return router_tuned(user_input)     # small model handles it
    # complex -> hand to large prompted model with full instructions
    return expert_prompted(
        'Detailed instructions...\n' + user_input
    )

Kekalkan RAG dalam Lapisan Arahan

Walaupun dengan model yang ditala, pengetahuan kekal diperoleh melalui pencarian, bukan dilatih. Model hibrid mempelajari cara menggunakan konteks; arahan membekalkan konteks yang mana untuk permintaan ini.

Inilah sebabnya model hibrid kekal relevan: tingkah laku asas dibekukan dalam pemberat, tetapi fakta dikemas kini pada setiap panggilan melalui pencarian. Anda jarang menala semula (tingkah laku) sambil sentiasa mengemas kini pengetahuan, tanpa kos latihan.

Penalaan Ringan: LoRA dan Penyesuai

Hibrid mengutamakan penalaan ringan. Penyesuai gaya LoRA melatih sebilangan kecil parameter tambahan sambil membiarkan model asas kekal beku. Penyesuai ini murah, pantas untuk diulang uji dan boleh ditindihkan.

Latih berbilang penyesuai untuk tugas berbeza menggunakan satu model asas
Tukar penyesuai semasa penyajian tanpa memuatkan semula model asas
Latih semula penyesuai dalam beberapa jam, bukan beberapa hari, apabila tingkah laku berubah

Ini mengekalkan kelajuan lelaran hibrid yang hampir sama seperti arahan, sambil memperoleh manfaat ketekalan penalaan.

Mengelakkan Spesifikasi Berganda

Pepijat hibrid klasik: model ditala untuk melakukan X dan arahan masih mengarahkan X. Token arahan yang berlebihan menafikan tujuan penyulingan dan malah boleh bercanggah dengan tingkah laku yang dipelajari.

Selepas penalaan, pangkas arahan secara menyeluruh untuk membuang apa-apa yang kini telah dibina ke dalam pemberat. Jalankan semula penilaian selepas pemangkasan untuk mengesahkan bahawa tingkah laku yang ditala kekal tanpa arahan berlebihan itu.

# After tuning, prune prompt lines that the model now does on its own
def trim_prompt(prompt_lines, behaviors_in_weights):
    return [ln for ln in prompt_lines
            if not any(b in ln for b in behaviors_in_weights)]

kept = trim_prompt(
    ['Use JSON schema', 'Write in formal tone', 'Answer the question'],
    behaviors_in_weights=['JSON schema', 'formal tone'])
print(kept)  # ['Answer the question']  -- only the volatile part remains

Memberikan Versi kepada Dua Lapisan Bersama

Hibrid mempunyai dua artifak yang saling berkait: versi penyesuai dan versi templat arahan. Kedua-duanya mesti diberikan versi dan digunakan sebagai pasangan - arahan yang ditulis untuk penyesuai v3 mungkin berfungsi salah pada penyesuai v4.

Tetapkan pasangan itu secara tetap dalam konfigurasi, jalankan penilaian terhadap pasangan tepat yang akan anda gunakan, dan kembalikan kedua-duanya bersama-sama. Menganggapnya secara berasingan merupakan sumber paling biasa bagi kemerosotan hibrid yang tidak disedari.

Kekerapan Penalaan Semula

Oleh sebab tingkah laku berubah-ubah berada dalam arahan, hibrid yang dibina dengan baik hanya perlu menala semula sekali-sekala - terutamanya apabila model asas tidak lagi disokong atau apabila tingkah laku stabil benar-benar berubah. Perubahan harian berlaku dalam lapisan arahan tanpa kos latihan.

Jika anda mendapati diri kerap menala semula, pembahagian stabil/berubah-ubah anda tidak tepat: kandungan berubah-ubah telah meresap ke dalam pemberat. Pindahkannya semula ke dalam arahan.

Rangka Hibrid Menyeluruh

Keseluruhan kitaran: dapatkan konteks melalui pencarian, jana arahan ringkas menggunakan penyesuai yang ditala, dan biarkan pemberat membekalkan bentuk yang dipelajari. Pengetahuan dan arahan kekal dinamik; struktur dan gaya bahasa dibina ke dalam model.

def hybrid_call(user_q, retriever, tuned_model, adapter_version):
    docs = retriever.search(user_q, k=4)          # volatile knowledge
    ctx = '\n'.join(d.text for d in docs)
    short_prompt = (
        'Answer from context.\n'                  # form is in weights
        '<context>' + ctx + '</context>\n'
        '<q>' + user_q + '</q>'
    )
    return tuned_model.generate(short_prompt, adapter=adapter_version)

Semakan Ringkas

Anda menyuling arahan panjang menjadi penyesuai LoRA supaya model kini sentiasa menghasilkan skema JSON yang ketat dan nada organisasi anda. Apakah yang patut berlaku pada arahan masa jalan?

Jawab dalam pelajaran interaktif

Imbas Kembali

Hibrid = ditala untuk tingkah laku stabil, diberi arahan untuk konteks berubah-ubah. Bahagikan tingkah laku mengikut paksi stabil/berubah-ubah dan biarkan setiap lapisan melakukan perkara yang paling dikuasainya.

Penyulingan arahan: arahan panjang mengajar, arahan ringkas digunakan
Tala untuk bentuk, gunakan arahan untuk kandungan; penghala ditala dengan pakar berarahan
Kekalkan pengetahuan dalam pencarian supaya hibrid kekal relevan
Utamakan penyesuai ringan gaya LoRA untuk kelajuan lelaran
Pangkas arahan yang dinyatakan dua kali dan berikan versi kepada penyesuai + arahan sebagai pasangan
Penalaan semula yang kerap bermakna kandungan berubah-ubah telah meresap ke dalam pemberat - pindahkannya semula

Percuma untuk bermula

Pelajari Kejuruteraan Arahan AI dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus: 53
Pelajaran: 199

Mula belajar secara percuma Lihat kursus penuh

Soalan Lazim

Adakah pelajaran “Hibrid: Arahan dan Penalaan Ringan” percuma?

Ya — sebanyak 3 pelajaran dalam laluan pembelajaran Kejuruteraan Arahan AI, termasuk “Hibrid: Arahan dan Penalaan Ringan”, boleh dibaca sepenuhnya secara percuma di web ini. Selepas itu, CoddyKit PRO membuka akses kepada semua pelajaran, serta latihan interaktif dengan penyunting kod terbina dalam dan tutor kecerdasan buatan yang tersedia 24/7. Kursus Kejuruteraan Arahan AI merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Hibrid: Arahan dan Penalaan Ringan”?

Menggabungkan kedua-dua pendekatan. Anda berlatih Kejuruteraan Arahan AI menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan Kejuruteraan Arahan AI?

Tiada pengalaman terdahulu diperlukan. Pembelajaran Kejuruteraan Arahan AI di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 3 daripada 4.

Berapa lamakah pelajaran “Hibrid: Arahan dan Penalaan Ringan” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran Kejuruteraan Arahan AI ini?

Ya. Setiap pelajaran Kejuruteraan Arahan AI menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

← Kembali ke Kejuruteraan Arahan AI