據(jù)蒸餾實戰(zhàn)：以無標(biāo)注數(shù)據(jù)為橋梁，將 UIE 大模型蒸餾為封閉域輕量信息抽取模型)
人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練【免費下載鏈接】PaddleNLPEasy-to-use and powerful LLM and SLM library with awesome model zoo.項目地址https://gitcode.com/gh_mirrors/pa/PaddleNLP點擊查看免費下載UIEUniversal Information Extraction模型具備強大的零樣本抽取能力但其基于提示prompt的結(jié)構(gòu)在實時推理場景中計算開銷大難以直接上線。本文基于 PaddleNLP 的 UIE Slim 數(shù)據(jù)蒸餾方案源碼位于 slm/applications/information_extraction/text/data_distill完整講解教師模型微調(diào) → 離線蒸餾生成合成數(shù)據(jù) → 學(xué)生模型訓(xùn)練 → 端到端評估 → Taskflow/SimpleServing 部署的全流程以數(shù)據(jù)為橋梁把 UIE 的知識遷移到封閉域小模型在精度損失很小的前提下實現(xiàn)推理速度的大幅提升。讀完本文你將能夠基于自己的標(biāo)注數(shù)據(jù)與無標(biāo)注文本獨立搭建一套可落地的封閉域信息抽取蒸餾流水線。一、原理為什么數(shù)據(jù)蒸餾能壓縮 UIEUIE 通過統(tǒng)一的提示式建模實現(xiàn)實體、關(guān)系、事件、觀點等任務(wù)的抽取具有強大的零樣本能力但提示結(jié)構(gòu)在實時推理時需要較多計算資源難以在推理性能要求高的工業(yè)場景直接上線。UIE Slim 數(shù)據(jù)蒸餾的思路是把數(shù)據(jù)當(dāng)作知識遷移的橋梁將 UIE 模型教師的知識遷移到更小的封閉域信息抽取模型學(xué)生從而以極小的精度損失換取顯著的推理加速。從倉庫的目錄結(jié)構(gòu)data_distill可以看到蒸餾流水線由以下腳本與模塊組成data_distill/ ├── data_distill.py # 離線蒸餾生成學(xué)生模型訓(xùn)練/驗證/測試數(shù)據(jù)與標(biāo)簽映射 ├── evaluate_teacher.py # 教師UIE模型端到端評估 ├── train.py # 學(xué)生模型訓(xùn)練GlobalPointer / GPLinker ├── evaluate.py # 學(xué)生模型評估 ├── criterion.py # 稀疏多標(biāo)簽交叉熵?fù)p失 ├── data_collator.py # 訓(xùn)練/評估數(shù)據(jù)整理 ├── metric.py # 實體/關(guān)系 F1 計算 ├── utils.py # 標(biāo)注數(shù)據(jù)轉(zhuǎn)換、合成數(shù)據(jù)轉(zhuǎn)換、標(biāo)簽映射、后處理等工具 └── deploy/ └── simple_serving/ # SimpleServing 服務(wù)化部署蒸餾整體分為三個步驟Step 1在有標(biāo)注數(shù)據(jù)上微調(diào) UIE 模型得到教師模型Teacher ModelStep 2處理用戶提供的無標(biāo)注數(shù)據(jù)用 Taskflow UIE 批量推理出標(biāo)簽形成合成數(shù)據(jù)Synthetic DataStep 3使用原始標(biāo)注數(shù)據(jù)與 Step 2 的推理結(jié)果訓(xùn)練一個封閉域的學(xué)生模型Student Model。學(xué)生模型不再需要提示式結(jié)構(gòu)schema抽取目標(biāo)被固定并編譯進(jìn)模型輸出層因此推理時無需逐條拼接 prompt這就是速度提升的核心來源。二、Step 1微調(diào) UIE 教師模型蒸餾的第一步是獲得一個在該業(yè)務(wù)領(lǐng)域表現(xiàn)良好的 UIE 教師模型。UIE 模型微調(diào)的整體流程數(shù)據(jù)標(biāo)注、模型微調(diào)、評估、一鍵預(yù)測見 文本信息抽取應(yīng)用 README微調(diào)腳本為 finetune.py。推薦使用 Trainer API 以uie-base作為預(yù)訓(xùn)練模型進(jìn)行微調(diào)單卡示例python finetune.py \ --device gpu \ --logging_steps 10 \ --save_steps 100 \ --eval_steps 100 \ --seed 1000 \ --model_name_or_path uie-base \ --output_dir ./checkpoint/model_best \ --train_path data/train.txt \ --dev_path data/dev.txt \ --max_seq_len 512 \ --per_device_train_batch_size 16 \ --per_device_eval_batch_size 16 \ --num_train_epochs 20 \ --learning_rate 1e-5 \ --do_train \ --do_eval \ --do_export \ --export_model_dir ./checkpoint/model_best \ --overwrite_output_dir \ --disable_tqdm True \ --metric_for_best_model eval_f1 \ --load_best_model_at_end True \ --save_total_limit 1微調(diào)完成后得到的模型保存為../checkpoint/model_best相對于data_distill目錄包含模型權(quán)重文件model_state.pdparams與配置文件model_config.json供后續(xù)蒸餾步驟加載。多卡場景可通過python -u -m paddle.distributed.launch --gpus 0,1 finetune.py ...啟動具體參數(shù)說明同樣見 文本信息抽取應(yīng)用 README。三、Step 2離線蒸餾——為無標(biāo)注數(shù)據(jù)預(yù)測標(biāo)簽離線蒸餾由 data_distill.py 完成它讀取標(biāo)注數(shù)據(jù)與無標(biāo)注文本加載訓(xùn)練好的 UIE 模型進(jìn)行推理并輸出學(xué)生模型可直接用于訓(xùn)練的 JSONL 數(shù)據(jù)。python data_distill.py \ --data_path ../data \ --save_dir student_data \ --task_type relation_extraction \ --synthetic_ratio 10 \ --model_path ../checkpoint/model_best3.1 輸入數(shù)據(jù)準(zhǔn)備data_path目錄下需要準(zhǔn)備以下文件由標(biāo)注平臺導(dǎo)出或由 label_studio.py 數(shù)據(jù)轉(zhuǎn)換腳本生成標(biāo)注數(shù)據(jù)label_studio.jsonLabel Studio 導(dǎo)出默認(rèn)平臺或doccano_ext.jsonDoccano 導(dǎo)出需--platform doccano數(shù)據(jù)劃分索引sample_index.json其中包含train_ids、dev_ids、test_ids決定標(biāo)注數(shù)據(jù)如何劃分訓(xùn)練/驗證/測試集無標(biāo)注文本unlabeled_data.txt每行一條文本用于生成合成訓(xùn)練數(shù)據(jù)當(dāng)synthetic_ratio 0時讀取。注意倉庫中的data目錄需要自行下載數(shù)據(jù)集并解壓得到如軍事關(guān)系抽取數(shù)據(jù)集military.tar.gz下載命令見 文本信息抽取應(yīng)用 README。3.2 schema 配置關(guān)鍵schema 需要在data_distill.py中按標(biāo)注數(shù)據(jù)配置且必須覆蓋標(biāo)注數(shù)據(jù)中的所有標(biāo)簽類型。腳本末尾默認(rèn)配置為武器關(guān)系抽取的示例# Define your schema here schema {武器名稱: [產(chǎn)國, 類型, 研發(fā)單位]}其中頂層 key 為實體類型其 value 列表為關(guān)系類型。schema 會被 utils.py 中的schema2label_maps()遞歸構(gòu)造成 SchemaTree進(jìn)而生成封閉域標(biāo)簽映射對entity_extraction只收集實體類型生成entity2id對opinion_extraction不開放自定義 schema固定使用{評價維度: 0, 觀點詞: 1}與sentiment2id {正向: 0, 負(fù)向: 1}對relation_extraction/event_extraction遍歷 schema 樹生成entity2id與relation2id并追加統(tǒng)一的object實體類型。生成的標(biāo)簽映射會保存為save_dir/label_maps.json供訓(xùn)練與評估腳本共享。3.3 合成數(shù)據(jù)生成邏輯從源碼看data_distill.py的合成邏輯如下--synthetic_ratio 10時讀取unlabeled_data.txt的全部文本計算actual_ratio ceil(無標(biāo)注文本數(shù) / 標(biāo)注訓(xùn)練樣本數(shù))若actual_ratio synthetic_ratio則使用全部無標(biāo)注文本否則用隨機采樣抽取synthetic_ratio × 標(biāo)注訓(xùn)練樣本數(shù)條文本用Taskflow(information_extraction, schema..., task_pathmodel_path)對每條文本推理通過synthetic2distill()utils.py把 UIE 的層級式預(yù)測結(jié)果實體 → relations → 對象展開為扁平化的entity_list與spo_list從而讓封閉域?qū)W生模型無需提示即可直接學(xué)習(xí)將合成數(shù)據(jù)追加到標(biāo)注訓(xùn)練數(shù)據(jù)之后。最終在save_dir下輸出四個文件label_maps.json、train_data.json、dev_data.json、test_data.json均為 JSONL 格式每條樣本形如{text: ..., entity_list: [...], spo_list: [...]}。3.4 可配置參數(shù)說明參數(shù)說明默認(rèn)值data_path標(biāo)注數(shù)據(jù)doccano_ext.json/label_studio.json、sample_index.json與無標(biāo)注文本unlabeled_data.txt所在目錄../datamodel_path訓(xùn)練好的 UIE 定制模型路徑../checkpoint/model_bestsave_dir學(xué)生模型訓(xùn)練數(shù)據(jù)的保存目錄./distill_tasksynthetic_ratio合成數(shù)據(jù)比例控制合成數(shù)據(jù)最大條數(shù) synthetic_ratio × 標(biāo)注訓(xùn)練樣本數(shù)設(shè)為-1表示使用全部無標(biāo)注文本10platform標(biāo)注平臺可選doccano、label_studiolabel_studiotask_type任務(wù)類型可選entity_extraction、relation_extraction、event_extraction、opinion_extraction。封閉域抽取的不同任務(wù)后處理邏輯不同必須顯式指定entity_extractionseed隨機種子1000四、教師模型端到端評估在 UIE 微調(diào)階段模型是在 UIE 訓(xùn)練格式數(shù)據(jù)上評估的對關(guān)系抽取、事件抽取而言并不是標(biāo)準(zhǔn)的端到端評價方式。由于學(xué)生模型面對的是封閉域抽取教師模型的蒸餾數(shù)據(jù)質(zhì)量直接影響學(xué)生模型上限因此先通過 evaluate_teacher.py 做一次端到端評估來確認(rèn)教師模型質(zhì)量python evaluate_teacher.py \ --task_type relation_extraction \ --test_path ./student_data/dev_data.json \ --label_maps_path ./student_data/label_maps.json \ --model_path ../checkpoint/model_best該腳本用Taskflow加載 UIE 教師模型對蒸餾格式的測試數(shù)據(jù)進(jìn)行端到端推理再用 metric.py 計算實體/關(guān)系或事件、觀點的 Precision、Recall、F1?？膳渲脜?shù)說明參數(shù)說明默認(rèn)值model_path訓(xùn)練好的 UIE 定制模型路徑Nonetest_path測試數(shù)據(jù)集路徑蒸餾格式 JSONLNonelabel_maps_path學(xué)生模型標(biāo)簽映射文件label_maps.json./ner_data/label_maps.jsonbatch_size推理批次大小8max_seq_len最大文本長度256task_type任務(wù)類型同上四種取值封閉域抽取評估必須指定entity_extraction五、Step 3學(xué)生模型訓(xùn)練學(xué)生模型是編碼器 結(jié)構(gòu)化預(yù)測頭的封閉域模型由 train.py 訓(xùn)練python train.py \ --task_type relation_extraction \ --train_path student_data/train_data.json \ --dev_path student_data/dev_data.json \ --label_maps_path student_data/label_maps.json \ --num_epochs 50 \ --encoder ernie-3.0-mini-zh5.1 模型結(jié)構(gòu)與損失函數(shù)從源碼看學(xué)生模型的組裝邏輯為task_type entity_extraction時使用GlobalPointerForEntityExtraction(encoder, label_maps)其余任務(wù)使用GPLinkerForRelationExtraction(encoder, label_maps)來自paddlenlp.layers分別對應(yīng)蘇神的 GlobalPointer 與 GPLinker 結(jié)構(gòu)編碼器默認(rèn)選擇輕量的ernie-3.0-mini-zh損失函數(shù)為 criterion.py 實現(xiàn)的稀疏多標(biāo)簽分類交叉熵_sparse_multilabel_categorical_crossentropy訓(xùn)練時對三個輸出 logits 的損失取平均優(yōu)化器使用AdamW默認(rèn)不對 bias 與 LayerNorm 參數(shù)施加 weight decay通過apply_decay_param_fun過濾參數(shù)名學(xué)習(xí)率調(diào)度采用LinearDecayWithWarmup。訓(xùn)練過程中每eval_steps步在驗證集上計算 F1只有當(dāng) F1 超過歷史最優(yōu)時才保存為save_dir/model_best/同時保存model_state.pdparams、model_config.json與 tokenizer因此最終部署取./checkpoint/model_best即可。init_from_ckpt可加載已有參數(shù)進(jìn)行熱啟動續(xù)訓(xùn)。5.2 可配置參數(shù)說明參數(shù)說明默認(rèn)值train_path訓(xùn)練集文件路徑蒸餾輸出的train_data.jsonNonedev_path驗證集文件路徑dev_data.jsonNonebatch_size訓(xùn)練批次大小16learning_rateAdam 初始學(xué)習(xí)率3e-5save_dir模型保存路徑./checkpointmax_seq_len最大文本長度256weight_decayAdamW 優(yōu)化器的 weight_decay 系數(shù)0.0warmup_proportion學(xué)習(xí)率 warmup 比例如0.1表示前 10% 訓(xùn)練步學(xué)習(xí)率從 0 線性上升到learning_rate之后緩慢衰減0.0num_epochs訓(xùn)練輪數(shù)100seed隨機種子1000encoder學(xué)生模型編碼器底座ernie-3.0-mini-zhtask_type任務(wù)類型四種取值封閉域抽取必須指定entity_extractionlogging_steps日志打印間隔步數(shù)10eval_steps驗證間隔步數(shù)200device訓(xùn)練設(shè)備可選cpu或gpugpuinit_from_ckpt可選模型參數(shù)路徑熱啟動訓(xùn)練None六、學(xué)生模型評估訓(xùn)練完成后用 evaluate.py 在測試集上評估學(xué)生模型python evaluate.py \ --model_path ./checkpoint/model_best \ --test_path student_data/dev_data.json \ --task_type relation_extraction \ --label_maps_path student_data/label_maps.json \ --encoder ernie-3.0-mini-zh評估流程為加載編碼器與 GlobalPointer/GPLinker 預(yù)測頭從model_path/model_state.pdparams恢復(fù)權(quán)重通過 utils.py 的postprocess()將 logits 解碼為實體與關(guān)系采用雙頭打分求交集判定關(guān)系最后由 metric.py 輸出entity_f1/relation_f1及對應(yīng) Precision、Recall?？膳渲脜?shù)說明參數(shù)說明默認(rèn)值model_path訓(xùn)練好的學(xué)生模型路徑需含model_state.pdparamsNonetest_path測試數(shù)據(jù)集路徑Nonelabel_maps_path標(biāo)簽映射文件label_maps.json./ner_data/label_maps.jsonbatch_size評估批次大小16max_seq_len最大文本長度128encoder學(xué)生模型編碼器底座ernie-3.0-mini-zhtask_type任務(wù)類型四種取值entity_extraction七、學(xué)生模型部署7.1 Taskflow 一鍵部署封閉域信息抽取模型可直接通過 Taskflow 部署task_path指向?qū)W生模型路徑。由于是封閉域抽取schema 已固化在模型中調(diào)用時無需再傳 schema from pprint import pprint from paddlenlp import Taskflow my_ie Taskflow(information_extraction, modeluie-data-distill-gp, task_pathcheckpoint/model_best/) pprint(my_ie(Virgo deceleration bomb was developed by the Swedish FFV Ordnance Company specially for the attack aircraft of the Swedish Royal Air Force to carry out low-altitude and high-speed bombing. It was developed in 1956 and entered service in 1963. It is equipped on the A32 \Contradiction\, A35 \Dragon\, and AJ134 \Thunder\ attack aircraft are mainly used to attack landing craft, parked aircraft, anti-aircraft artillery, field artillery, light armored vehicles and active forces.)) [{weapon name: [{end: 14, probability: 0.9976037, relations: {country of origin: [{end: 18, probability: 0.9988706, relations: {}, start: 16, text: Sweden}], RD unit: [{end: 25, probability: 0.9978277, relations: {}, start: 18, text: FFV Ordnance Company}], type: [{end: 14, probability: 0.99837446, relations: {}, start: 12, text: bomb}]}, start: 0, text: Virgo slowing bomb}]}]輸出為層級式 JSON外層為實體類型如weapon name每個實體附帶起止位置、置信度probability與嵌套的relations如country of origin、RD unit、type與 UIE 的輸出格式一致便于下游業(yè)務(wù)直接解析。7.2 SimpleServing 服務(wù)化部署倉庫還提供了基于 PaddleNLP SimpleServing 的服務(wù)化部署方案deploy/simple_serving需要paddlenlp 2.4.4。啟動服務(wù)端paddlenlp server server:app --workers 1 --host 0.0.0.0 --port 8189客戶端請求python client.py服務(wù)端可自定義 schema 與模型路徑默認(rèn)task_path../../checkpoint/model_best/模型為uie-data-distill-gp并支持多卡負(fù)載均衡預(yù)測——注冊多個 Taskflow 任務(wù)即可uie1 Taskflow(information_extraction, task_path../../checkpoint/model_best/, schemaschema, device_id0) uie2 Taskflow(information_extraction, task_path../../checkpoint/model_best/, schemaschema, device_id1) service.register_taskflow(uie, [uie1, uie2])八、參考與延伸閱讀本方案的學(xué)生模型結(jié)構(gòu)建立在兩篇經(jīng)典方法之上GlobalPointer通過全局指針網(wǎng)絡(luò)統(tǒng)一處理實體/關(guān)系/事件的 span 抽取以稀疏多標(biāo)簽交叉熵訓(xùn)練與GPLinker在 GlobalPointer 基礎(chǔ)上用鏈接器建模實體間關(guān)系。倉庫中相關(guān)實現(xiàn)可直接查看 GlobalPointerForEntityExtraction / GPLinkerForRelationExtraction 與 criterion.py其損失實現(xiàn)即參考了 GlobalPointer 原始論文思路。進(jìn)一步的工業(yè)落地可參考文本信息抽取應(yīng)用 README數(shù)據(jù)標(biāo)注、UIE 微調(diào)、評估與實驗指標(biāo)0-shot / 5-shot / 10-shot / full-set 的 F1 對比SimpleServing 部署說明服務(wù)端/客戶端自定義參數(shù)與多卡負(fù)載均衡Label Studio 數(shù)據(jù)標(biāo)注指南標(biāo)注規(guī)則與導(dǎo)出格式說明。至此一條微調(diào) UIE 教師 → 用無標(biāo)注數(shù)據(jù)離線蒸餾生成合成數(shù)據(jù) → 訓(xùn)練封閉域小模型 → 端到端評估 → 服務(wù)化部署的完整閉環(huán)已經(jīng)打通。在實踐中建議先用evaluate_teacher.py驗證教師模型端到端質(zhì)量再按需調(diào)整synthetic_ratio過小則合成數(shù)據(jù)不足過大則引入噪聲并對照 README 中的實驗指標(biāo)觀察學(xué)生模型與教師模型之間的精度差距從而在推理性能與抽取精度之間找到合適的平衡點。贊分享人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練【免費下載鏈接】PaddleNLPEasy-to-use and powerful LLM and SLM library with awesome model zoo.項目地址https://gitcode.com/gh_mirrors/pa/PaddleNLP點擊查看免費下載相關(guān)推薦PaddleNLP SimpleServing 部署 UIE 數(shù)據(jù)蒸餾封閉域信息抽取模型從服務(wù)啟動到多卡負(fù)載均衡PaddleNLP SimpleServing 部署 UIE 數(shù)據(jù)蒸餾封閉域信息抽取模型從服務(wù)啟動到多卡負(fù)載均衡 本文面向已完成 UIE Slim 數(shù)據(jù)蒸餾訓(xùn)人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練模型推理服務(wù)推理引擎模型量化模型壓縮本地部署NLPPaddleNLP 文本信息抽取應(yīng)用實戰(zhàn)基于 UIE 微調(diào)的數(shù)據(jù)標(biāo)注、模型訓(xùn)練與封閉域蒸餾全流程指南PaddleNLP 文本信息抽取應(yīng)用實戰(zhàn)基于 UIE 微調(diào)的數(shù)據(jù)標(biāo)注、模型訓(xùn)練與封閉域蒸餾全流程指南 本文以 PaddleNLP 信息抽取應(yīng)用中的 文本信息抽人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練模型推理服務(wù)推理引擎模型量化模型壓縮本地部署NLPPaddleNLP 通用信息抽取大模型 PP-UIE 實戰(zhàn)指南零樣本抽取、數(shù)據(jù)標(biāo)注、模型微調(diào)與高性能推理PaddleNLP 通用信息抽取大模型 PP UIE 實戰(zhàn)指南零樣本抽取、數(shù)據(jù)標(biāo)注、模型微調(diào)與高性能推理 PP UIEUniversal Informati人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練模型推理服務(wù)推理引擎模型量化模型壓縮本地部署NLP上一篇SteamShutdown終極指南讓電腦在Steam下載完成后自動關(guān)機的完整解決方案下一篇Cesium3DTilesConverter3D模型格式轉(zhuǎn)換利器使用指南創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考 PaddleNLP UIE Slim 數(shù)據(jù)蒸餾實戰(zhàn)：以無標(biāo)注數(shù)據(jù)為橋梁，將 UIE 大模型蒸餾為封閉域輕量信息抽取模型
人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練【免費下載鏈接】PaddleNLPEasy-to-use and powerful LLM and SLM library with awesome model zoo.項目地址https://gitcode.com/gh_mirrors/pa/PaddleNLP點擊查看免費下載UIEUniversal Information Extraction模型具備強大的零樣本抽取能力但其基于提示prompt的結(jié)構(gòu)在實時推理場景中計算開銷大難以直接上線。本文基于 PaddleNLP 的 UIE Slim 數(shù)據(jù)蒸餾方案源碼位于 slm/applications/information_extraction/text/data_distill完整講解教師模型微調(diào) → 離線蒸餾生成合成數(shù)據(jù) → 學(xué)生模型訓(xùn)練 → 端到端評估 → Taskflow/SimpleServing 部署的全流程以數(shù)據(jù)為橋梁把 UIE 的知識遷移到封閉域小模型在精度損失很小的前提下實現(xiàn)推理速度的大幅提升。讀完本文你將能夠基于自己的標(biāo)注數(shù)據(jù)與無標(biāo)注文本獨立搭建一套可落地的封閉域信息抽取蒸餾流水線。一、原理為什么數(shù)據(jù)蒸餾能壓縮 UIEUIE 通過統(tǒng)一的提示式建模實現(xiàn)實體、關(guān)系、事件、觀點等任務(wù)的抽取具有強大的零樣本能力但提示結(jié)構(gòu)在實時推理時需要較多計算資源難以在推理性能要求高的工業(yè)場景直接上線。UIE Slim 數(shù)據(jù)蒸餾的思路是把數(shù)據(jù)當(dāng)作知識遷移的橋梁將 UIE 模型教師的知識遷移到更小的封閉域信息抽取模型學(xué)生從而以極小的精度損失換取顯著的推理加速。從倉庫的目錄結(jié)構(gòu)data_distill可以看到蒸餾流水線由以下腳本與模塊組成data_distill/ ├── data_distill.py # 離線蒸餾生成學(xué)生模型訓(xùn)練/驗證/測試數(shù)據(jù)與標(biāo)簽映射 ├── evaluate_teacher.py # 教師UIE模型端到端評估 ├── train.py # 學(xué)生模型訓(xùn)練GlobalPointer / GPLinker ├── evaluate.py # 學(xué)生模型評估 ├── criterion.py # 稀疏多標(biāo)簽交叉熵?fù)p失 ├── data_collator.py # 訓(xùn)練/評估數(shù)據(jù)整理 ├── metric.py # 實體/關(guān)系 F1 計算 ├── utils.py # 標(biāo)注數(shù)據(jù)轉(zhuǎn)換、合成數(shù)據(jù)轉(zhuǎn)換、標(biāo)簽映射、后處理等工具 └── deploy/ └── simple_serving/ # SimpleServing 服務(wù)化部署蒸餾整體分為三個步驟Step 1在有標(biāo)注數(shù)據(jù)上微調(diào) UIE 模型得到教師模型Teacher ModelStep 2處理用戶提供的無標(biāo)注數(shù)據(jù)用 Taskflow UIE 批量推理出標(biāo)簽形成合成數(shù)據(jù)Synthetic DataStep 3使用原始標(biāo)注數(shù)據(jù)與 Step 2 的推理結(jié)果訓(xùn)練一個封閉域的學(xué)生模型Student Model。學(xué)生模型不再需要提示式結(jié)構(gòu)schema抽取目標(biāo)被固定并編譯進(jìn)模型輸出層因此推理時無需逐條拼接 prompt這就是速度提升的核心來源。二、Step 1微調(diào) UIE 教師模型蒸餾的第一步是獲得一個在該業(yè)務(wù)領(lǐng)域表現(xiàn)良好的 UIE 教師模型。UIE 模型微調(diào)的整體流程數(shù)據(jù)標(biāo)注、模型微調(diào)、評估、一鍵預(yù)測見 文本信息抽取應(yīng)用 README微調(diào)腳本為 finetune.py。推薦使用 Trainer API 以uie-base作為預(yù)訓(xùn)練模型進(jìn)行微調(diào)單卡示例python finetune.py \ --device gpu \ --logging_steps 10 \ --save_steps 100 \ --eval_steps 100 \ --seed 1000 \ --model_name_or_path uie-base \ --output_dir ./checkpoint/model_best \ --train_path data/train.txt \ --dev_path data/dev.txt \ --max_seq_len 512 \ --per_device_train_batch_size 16 \ --per_device_eval_batch_size 16 \ --num_train_epochs 20 \ --learning_rate 1e-5 \ --do_train \ --do_eval \ --do_export \ --export_model_dir ./checkpoint/model_best \ --overwrite_output_dir \ --disable_tqdm True \ --metric_for_best_model eval_f1 \ --load_best_model_at_end True \ --save_total_limit 1微調(diào)完成后得到的模型保存為../checkpoint/model_best相對于data_distill目錄包含模型權(quán)重文件model_state.pdparams與配置文件model_config.json供后續(xù)蒸餾步驟加載。多卡場景可通過python -u -m paddle.distributed.launch --gpus 0,1 finetune.py ...啟動具體參數(shù)說明同樣見 文本信息抽取應(yīng)用 README。三、Step 2離線蒸餾——為無標(biāo)注數(shù)據(jù)預(yù)測標(biāo)簽離線蒸餾由 data_distill.py 完成它讀取標(biāo)注數(shù)據(jù)與無標(biāo)注文本加載訓(xùn)練好的 UIE 模型進(jìn)行推理并輸出學(xué)生模型可直接用于訓(xùn)練的 JSONL 數(shù)據(jù)。python data_distill.py \ --data_path ../data \ --save_dir student_data \ --task_type relation_extraction \ --synthetic_ratio 10 \ --model_path ../checkpoint/model_best3.1 輸入數(shù)據(jù)準(zhǔn)備data_path目錄下需要準(zhǔn)備以下文件由標(biāo)注平臺導(dǎo)出或由 label_studio.py 數(shù)據(jù)轉(zhuǎn)換腳本生成標(biāo)注數(shù)據(jù)label_studio.jsonLabel Studio 導(dǎo)出默認(rèn)平臺或doccano_ext.jsonDoccano 導(dǎo)出需--platform doccano數(shù)據(jù)劃分索引sample_index.json其中包含train_ids、dev_ids、test_ids決定標(biāo)注數(shù)據(jù)如何劃分訓(xùn)練/驗證/測試集無標(biāo)注文本unlabeled_data.txt每行一條文本用于生成合成訓(xùn)練數(shù)據(jù)當(dāng)synthetic_ratio 0時讀取。注意倉庫中的data目錄需要自行下載數(shù)據(jù)集并解壓得到如軍事關(guān)系抽取數(shù)據(jù)集military.tar.gz下載命令見 文本信息抽取應(yīng)用 README。3.2 schema 配置關(guān)鍵schema 需要在data_distill.py中按標(biāo)注數(shù)據(jù)配置且必須覆蓋標(biāo)注數(shù)據(jù)中的所有標(biāo)簽類型。腳本末尾默認(rèn)配置為武器關(guān)系抽取的示例# Define your schema here schema {武器名稱: [產(chǎn)國, 類型, 研發(fā)單位]}其中頂層 key 為實體類型其 value 列表為關(guān)系類型。schema 會被 utils.py 中的schema2label_maps()遞歸構(gòu)造成 SchemaTree進(jìn)而生成封閉域標(biāo)簽映射對entity_extraction只收集實體類型生成entity2id對opinion_extraction不開放自定義 schema固定使用{評價維度: 0, 觀點詞: 1}與sentiment2id {正向: 0, 負(fù)向: 1}對relation_extraction/event_extraction遍歷 schema 樹生成entity2id與relation2id并追加統(tǒng)一的object實體類型。生成的標(biāo)簽映射會保存為save_dir/label_maps.json供訓(xùn)練與評估腳本共享。3.3 合成數(shù)據(jù)生成邏輯從源碼看data_distill.py的合成邏輯如下--synthetic_ratio 10時讀取unlabeled_data.txt的全部文本計算actual_ratio ceil(無標(biāo)注文本數(shù) / 標(biāo)注訓(xùn)練樣本數(shù))若actual_ratio synthetic_ratio則使用全部無標(biāo)注文本否則用隨機采樣抽取synthetic_ratio × 標(biāo)注訓(xùn)練樣本數(shù)條文本用Taskflow(information_extraction, schema..., task_pathmodel_path)對每條文本推理通過synthetic2distill()utils.py把 UIE 的層級式預(yù)測結(jié)果實體 → relations → 對象展開為扁平化的entity_list與spo_list從而讓封閉域?qū)W生模型無需提示即可直接學(xué)習(xí)將合成數(shù)據(jù)追加到標(biāo)注訓(xùn)練數(shù)據(jù)之后。最終在save_dir下輸出四個文件label_maps.json、train_data.json、dev_data.json、test_data.json均為 JSONL 格式每條樣本形如{text: ..., entity_list: [...], spo_list: [...]}。3.4 可配置參數(shù)說明參數(shù)說明默認(rèn)值data_path標(biāo)注數(shù)據(jù)doccano_ext.json/label_studio.json、sample_index.json與無標(biāo)注文本unlabeled_data.txt所在目錄../datamodel_path訓(xùn)練好的 UIE 定制模型路徑../checkpoint/model_bestsave_dir學(xué)生模型訓(xùn)練數(shù)據(jù)的保存目錄./distill_tasksynthetic_ratio合成數(shù)據(jù)比例控制合成數(shù)據(jù)最大條數(shù) synthetic_ratio × 標(biāo)注訓(xùn)練樣本數(shù)設(shè)為-1表示使用全部無標(biāo)注文本10platform標(biāo)注平臺可選doccano、label_studiolabel_studiotask_type任務(wù)類型可選entity_extraction、relation_extraction、event_extraction、opinion_extraction。封閉域抽取的不同任務(wù)后處理邏輯不同必須顯式指定entity_extractionseed隨機種子1000四、教師模型端到端評估在 UIE 微調(diào)階段模型是在 UIE 訓(xùn)練格式數(shù)據(jù)上評估的對關(guān)系抽取、事件抽取而言并不是標(biāo)準(zhǔn)的端到端評價方式。由于學(xué)生模型面對的是封閉域抽取教師模型的蒸餾數(shù)據(jù)質(zhì)量直接影響學(xué)生模型上限因此先通過 evaluate_teacher.py 做一次端到端評估來確認(rèn)教師模型質(zhì)量python evaluate_teacher.py \ --task_type relation_extraction \ --test_path ./student_data/dev_data.json \ --label_maps_path ./student_data/label_maps.json \ --model_path ../checkpoint/model_best該腳本用Taskflow加載 UIE 教師模型對蒸餾格式的測試數(shù)據(jù)進(jìn)行端到端推理再用 metric.py 計算實體/關(guān)系或事件、觀點的 Precision、Recall、F1?？膳渲脜?shù)說明參數(shù)說明默認(rèn)值model_path訓(xùn)練好的 UIE 定制模型路徑Nonetest_path測試數(shù)據(jù)集路徑蒸餾格式 JSONLNonelabel_maps_path學(xué)生模型標(biāo)簽映射文件label_maps.json./ner_data/label_maps.jsonbatch_size推理批次大小8max_seq_len最大文本長度256task_type任務(wù)類型同上四種取值封閉域抽取評估必須指定entity_extraction五、Step 3學(xué)生模型訓(xùn)練學(xué)生模型是編碼器 結(jié)構(gòu)化預(yù)測頭的封閉域模型由 train.py 訓(xùn)練python train.py \ --task_type relation_extraction \ --train_path student_data/train_data.json \ --dev_path student_data/dev_data.json \ --label_maps_path student_data/label_maps.json \ --num_epochs 50 \ --encoder ernie-3.0-mini-zh5.1 模型結(jié)構(gòu)與損失函數(shù)從源碼看學(xué)生模型的組裝邏輯為task_type entity_extraction時使用GlobalPointerForEntityExtraction(encoder, label_maps)其余任務(wù)使用GPLinkerForRelationExtraction(encoder, label_maps)來自paddlenlp.layers分別對應(yīng)蘇神的 GlobalPointer 與 GPLinker 結(jié)構(gòu)編碼器默認(rèn)選擇輕量的ernie-3.0-mini-zh損失函數(shù)為 criterion.py 實現(xiàn)的稀疏多標(biāo)簽分類交叉熵_sparse_multilabel_categorical_crossentropy訓(xùn)練時對三個輸出 logits 的損失取平均優(yōu)化器使用AdamW默認(rèn)不對 bias 與 LayerNorm 參數(shù)施加 weight decay通過apply_decay_param_fun過濾參數(shù)名學(xué)習(xí)率調(diào)度采用LinearDecayWithWarmup。訓(xùn)練過程中每eval_steps步在驗證集上計算 F1只有當(dāng) F1 超過歷史最優(yōu)時才保存為save_dir/model_best/同時保存model_state.pdparams、model_config.json與 tokenizer因此最終部署取./checkpoint/model_best即可。init_from_ckpt可加載已有參數(shù)進(jìn)行熱啟動續(xù)訓(xùn)。5.2 可配置參數(shù)說明參數(shù)說明默認(rèn)值train_path訓(xùn)練集文件路徑蒸餾輸出的train_data.jsonNonedev_path驗證集文件路徑dev_data.jsonNonebatch_size訓(xùn)練批次大小16learning_rateAdam 初始學(xué)習(xí)率3e-5save_dir模型保存路徑./checkpointmax_seq_len最大文本長度256weight_decayAdamW 優(yōu)化器的 weight_decay 系數(shù)0.0warmup_proportion學(xué)習(xí)率 warmup 比例如0.1表示前 10% 訓(xùn)練步學(xué)習(xí)率從 0 線性上升到learning_rate之后緩慢衰減0.0num_epochs訓(xùn)練輪數(shù)100seed隨機種子1000encoder學(xué)生模型編碼器底座ernie-3.0-mini-zhtask_type任務(wù)類型四種取值封閉域抽取必須指定entity_extractionlogging_steps日志打印間隔步數(shù)10eval_steps驗證間隔步數(shù)200device訓(xùn)練設(shè)備可選cpu或gpugpuinit_from_ckpt可選模型參數(shù)路徑熱啟動訓(xùn)練None六、學(xué)生模型評估訓(xùn)練完成后用 evaluate.py 在測試集上評估學(xué)生模型python evaluate.py \ --model_path ./checkpoint/model_best \ --test_path student_data/dev_data.json \ --task_type relation_extraction \ --label_maps_path student_data/label_maps.json \ --encoder ernie-3.0-mini-zh評估流程為加載編碼器與 GlobalPointer/GPLinker 預(yù)測頭從model_path/model_state.pdparams恢復(fù)權(quán)重通過 utils.py 的postprocess()將 logits 解碼為實體與關(guān)系采用雙頭打分求交集判定關(guān)系最后由 metric.py 輸出entity_f1/relation_f1及對應(yīng) Precision、Recall?？膳渲脜?shù)說明參數(shù)說明默認(rèn)值model_path訓(xùn)練好的學(xué)生模型路徑需含model_state.pdparamsNonetest_path測試數(shù)據(jù)集路徑Nonelabel_maps_path標(biāo)簽映射文件label_maps.json./ner_data/label_maps.jsonbatch_size評估批次大小16max_seq_len最大文本長度128encoder學(xué)生模型編碼器底座ernie-3.0-mini-zhtask_type任務(wù)類型四種取值entity_extraction七、學(xué)生模型部署7.1 Taskflow 一鍵部署封閉域信息抽取模型可直接通過 Taskflow 部署task_path指向?qū)W生模型路徑。由于是封閉域抽取schema 已固化在模型中調(diào)用時無需再傳 schema from pprint import pprint from paddlenlp import Taskflow my_ie Taskflow(information_extraction, modeluie-data-distill-gp, task_pathcheckpoint/model_best/) pprint(my_ie(Virgo deceleration bomb was developed by the Swedish FFV Ordnance Company specially for the attack aircraft of the Swedish Royal Air Force to carry out low-altitude and high-speed bombing. It was developed in 1956 and entered service in 1963. It is equipped on the A32 \Contradiction\, A35 \Dragon\, and AJ134 \Thunder\ attack aircraft are mainly used to attack landing craft, parked aircraft, anti-aircraft artillery, field artillery, light armored vehicles and active forces.)) [{weapon name: [{end: 14, probability: 0.9976037, relations: {country of origin: [{end: 18, probability: 0.9988706, relations: {}, start: 16, text: Sweden}], RD unit: [{end: 25, probability: 0.9978277, relations: {}, start: 18, text: FFV Ordnance Company}], type: [{end: 14, probability: 0.99837446, relations: {}, start: 12, text: bomb}]}, start: 0, text: Virgo slowing bomb}]}]輸出為層級式 JSON外層為實體類型如weapon name每個實體附帶起止位置、置信度probability與嵌套的relations如country of origin、RD unit、type與 UIE 的輸出格式一致便于下游業(yè)務(wù)直接解析。7.2 SimpleServing 服務(wù)化部署倉庫還提供了基于 PaddleNLP SimpleServing 的服務(wù)化部署方案deploy/simple_serving需要paddlenlp 2.4.4。啟動服務(wù)端paddlenlp server server:app --workers 1 --host 0.0.0.0 --port 8189客戶端請求python client.py服務(wù)端可自定義 schema 與模型路徑默認(rèn)task_path../../checkpoint/model_best/模型為uie-data-distill-gp并支持多卡負(fù)載均衡預(yù)測——注冊多個 Taskflow 任務(wù)即可uie1 Taskflow(information_extraction, task_path../../checkpoint/model_best/, schemaschema, device_id0) uie2 Taskflow(information_extraction, task_path../../checkpoint/model_best/, schemaschema, device_id1) service.register_taskflow(uie, [uie1, uie2])八、參考與延伸閱讀本方案的學(xué)生模型結(jié)構(gòu)建立在兩篇經(jīng)典方法之上GlobalPointer通過全局指針網(wǎng)絡(luò)統(tǒng)一處理實體/關(guān)系/事件的 span 抽取以稀疏多標(biāo)簽交叉熵訓(xùn)練與GPLinker在 GlobalPointer 基礎(chǔ)上用鏈接器建模實體間關(guān)系。倉庫中相關(guān)實現(xiàn)可直接查看 GlobalPointerForEntityExtraction / GPLinkerForRelationExtraction 與 criterion.py其損失實現(xiàn)即參考了 GlobalPointer 原始論文思路。進(jìn)一步的工業(yè)落地可參考文本信息抽取應(yīng)用 README數(shù)據(jù)標(biāo)注、UIE 微調(diào)、評估與實驗指標(biāo)0-shot / 5-shot / 10-shot / full-set 的 F1 對比SimpleServing 部署說明服務(wù)端/客戶端自定義參數(shù)與多卡負(fù)載均衡Label Studio 數(shù)據(jù)標(biāo)注指南標(biāo)注規(guī)則與導(dǎo)出格式說明。至此一條微調(diào) UIE 教師 → 用無標(biāo)注數(shù)據(jù)離線蒸餾生成合成數(shù)據(jù) → 訓(xùn)練封閉域小模型 → 端到端評估 → 服務(wù)化部署的完整閉環(huán)已經(jīng)打通。在實踐中建議先用evaluate_teacher.py驗證教師模型端到端質(zhì)量再按需調(diào)整synthetic_ratio過小則合成數(shù)據(jù)不足過大則引入噪聲并對照 README 中的實驗指標(biāo)觀察學(xué)生模型與教師模型之間的精度差距從而在推理性能與抽取精度之間找到合適的平衡點。贊分享人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練【免費下載鏈接】PaddleNLPEasy-to-use and powerful LLM and SLM library with awesome model zoo.項目地址https://gitcode.com/gh_mirrors/pa/PaddleNLP點擊查看免費下載相關(guān)推薦PaddleNLP SimpleServing 部署 UIE 數(shù)據(jù)蒸餾封閉域信息抽取模型從服務(wù)啟動到多卡負(fù)載均衡PaddleNLP SimpleServing 部署 UIE 數(shù)據(jù)蒸餾封閉域信息抽取模型從服務(wù)啟動到多卡負(fù)載均衡 本文面向已完成 UIE Slim 數(shù)據(jù)蒸餾訓(xùn)人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練模型推理服務(wù)推理引擎模型量化模型壓縮本地部署NLPPaddleNLP 文本信息抽取應(yīng)用實戰(zhàn)基于 UIE 微調(diào)的數(shù)據(jù)標(biāo)注、模型訓(xùn)練與封閉域蒸餾全流程指南PaddleNLP 文本信息抽取應(yīng)用實戰(zhàn)基于 UIE 微調(diào)的數(shù)據(jù)標(biāo)注、模型訓(xùn)練與封閉域蒸餾全流程指南 本文以 PaddleNLP 信息抽取應(yīng)用中的 文本信息抽人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練模型推理服務(wù)推理引擎模型量化模型壓縮本地部署NLPPaddleNLP 通用信息抽取大模型 PP-UIE 實戰(zhàn)指南零樣本抽取、數(shù)據(jù)標(biāo)注、模型微調(diào)與高性能推理PaddleNLP 通用信息抽取大模型 PP UIE 實戰(zhàn)指南零樣本抽取、數(shù)據(jù)標(biāo)注、模型微調(diào)與高性能推理 PP UIEUniversal Informati人工智能大模型預(yù)訓(xùn)練微調(diào)LoRARLHF強化學(xué)習(xí)分布式訓(xùn)練模型推理服務(wù)推理引擎模型量化模型壓縮本地部署NLP上一篇SteamShutdown終極指南讓電腦在Steam下載完成后自動關(guān)機的完整解決方案下一篇Cesium3DTilesConverter3D模型格式轉(zhuǎn)換利器使用指南創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考