亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

ZYNQ軟硬協(xié)同硬件加速器設(shè)計(jì):從架構(gòu)到實(shí)現(xiàn)的完整指南

ZYNQ軟硬協(xié)同硬件加速器設(shè)計(jì):從架構(gòu)到實(shí)現(xiàn)的完整指南 簡介本資源是一份面向嵌入式系統(tǒng)開發(fā)者與FPGA工程師的ZYNQ軟硬協(xié)同硬件加速器設(shè)計(jì)實(shí)戰(zhàn)文檔聚焦于卷積神經(jīng)網(wǎng)絡(luò)CNN在Xilinx ZYNQ-7000 SoC平臺(tái)上的高效硬件加速實(shí)現(xiàn)解決深度學(xué)習(xí)算法在資源受限嵌入式設(shè)備中部署時(shí)的性能瓶頸問題。壓縮包共2000個(gè)文件總大小132.14MB涵蓋272個(gè)Verilog源碼v、242個(gè)Tcl腳本tcl、210個(gè)ModelSim仿真腳本do、139個(gè)系數(shù)文件coe、104個(gè)C語言程序c及15個(gè)Python腳本py等分別支撐硬件邏輯設(shè)計(jì)、IP核集成、SDK軟件驅(qū)動(dòng)開發(fā)、仿真驗(yàn)證與系統(tǒng)級測試全流程內(nèi)容預(yù)覽顯示包含system.bd系統(tǒng)級Block Design、bit位流文件、libxil.a底層庫及多個(gè)批處理腳本體現(xiàn)完整從PL端加速器設(shè)計(jì)到PS端調(diào)用的閉環(huán)實(shí)現(xiàn)。目前已有353人學(xué)習(xí)下載讀者可直接復(fù)現(xiàn)CNN卷積層硬件加速模塊、掌握AXI總線通信機(jī)制、調(diào)用Vivado HLS與SDK協(xié)同調(diào)試方法并獲得含工程結(jié)構(gòu)說明、關(guān)鍵參數(shù)配置與性能評估數(shù)據(jù)的完整技術(shù)參考。1. 項(xiàng)目概述從零到一構(gòu)建一個(gè)軟硬協(xié)同的硬件加速器最近在整理一個(gè)老項(xiàng)目把代碼和文檔打了個(gè)包名字就叫“基于ZYNQ實(shí)現(xiàn)了軟硬協(xié)同的硬件加速器系統(tǒng).zip”。這名字聽起來挺唬人但說白了這就是一個(gè)典型的FPGA異構(gòu)計(jì)算項(xiàng)目核心思想是把那些軟件跑起來費(fèi)勁、耗時(shí)的計(jì)算任務(wù)扔給FPGA里的硬件邏輯電路去干讓CPU在ZYNQ里就是ARM核專心去做它擅長的流程控制、任務(wù)調(diào)度和復(fù)雜邏輯判斷。這種“軟硬協(xié)同”的模式在圖像處理、信號(hào)分析、加密解密、機(jī)器學(xué)習(xí)推理這些對實(shí)時(shí)性和能效比要求高的場景里特別吃香。我做的這個(gè)系統(tǒng)就是一個(gè)驗(yàn)證性質(zhì)的平臺(tái)。它不針對某個(gè)特定算法而是搭建了一個(gè)通用的框架ARM端PS負(fù)責(zé)初始化、配置參數(shù)、搬運(yùn)數(shù)據(jù)、啟動(dòng)和監(jiān)控加速任務(wù)FPGA端PL則實(shí)現(xiàn)了一個(gè)或多個(gè)可重配置的硬件加速引擎。兩者通過ZYNQ內(nèi)部的高速總線AXI緊密耦合共享內(nèi)存高效通信。最終的目標(biāo)是讓開發(fā)者能像調(diào)用一個(gè)庫函數(shù)一樣輕松地把計(jì)算密集型函數(shù)“卸載”到硬件上執(zhí)行從而獲得數(shù)量級的性能提升和功耗降低。如果你正在學(xué)習(xí)ZYNQ或者對如何將算法從純軟件遷移到“軟件定義硬件”的架構(gòu)上感興趣這個(gè)項(xiàng)目的思路和踩過的坑或許能給你一些直接的參考。2. 系統(tǒng)架構(gòu)設(shè)計(jì)與核心思路拆解2.1 為什么選擇ZYNQ作為實(shí)現(xiàn)平臺(tái)提到硬件加速可選方案很多比如純FPGA加軟核、GPU、甚至是專用的ASIC。但ZYNQ系列芯片尤其是Zynq-7000和Zynq UltraScale MPSoC在這個(gè)領(lǐng)域有著獨(dú)特的優(yōu)勢這也是我選擇它的根本原因。首先它天生就是為異構(gòu)計(jì)算設(shè)計(jì)的。一顆芯片里既有高性能的應(yīng)用處理器ARM Cortex-A系列又有可編程邏輯FPGA fabric兩者通過高帶寬、低延遲的AXI互聯(lián)矩陣硬核連接在一起。這種“片上系統(tǒng)”SoC的集成度避免了CPU和FPGA分處兩顆芯片帶來的PCB設(shè)計(jì)復(fù)雜、接口延遲高、功耗大等問題。數(shù)據(jù)可以在片內(nèi)DDR內(nèi)存和FPGA邏輯之間直接通過AXI DMA進(jìn)行搬移效率遠(yuǎn)高于通過PCIe等外部總線。其次開發(fā)流程相對成熟。Xilinx現(xiàn)在是AMD提供的Vivado和Vitis統(tǒng)一設(shè)計(jì)平臺(tái)雖然上手有門檻但確實(shí)提供了一套從硬件邏輯設(shè)計(jì)、系統(tǒng)集成、到軟件驅(qū)動(dòng)和應(yīng)用開發(fā)的完整工具鏈。特別是Vitis HLS高層次綜合和Vitis AI這樣的工具讓軟件工程師也能參與到硬件加速器的開發(fā)中大大降低了開發(fā)門檻。最后生態(tài)和靈活性。ZYNQ平臺(tái)支持運(yùn)行完整的Linux操作系統(tǒng)這意味著你可以利用豐富的開源軟件庫、網(wǎng)絡(luò)協(xié)議棧和文件系統(tǒng)。同時(shí)FPGA部分又提供了硬件級的并行性和確定性延時(shí)可以根據(jù)不同的算法需求定制專用的數(shù)據(jù)通路和計(jì)算單元。這種“軟件易用性”與“硬件靈活性”的結(jié)合是其他平臺(tái)難以比擬的。2.2 軟硬協(xié)同的核心任務(wù)劃分與通信機(jī)制構(gòu)建這樣一個(gè)系統(tǒng)首要任務(wù)不是寫代碼而是進(jìn)行合理的“任務(wù)劃分”。這決定了整個(gè)系統(tǒng)的效率和復(fù)雜度。我的劃分原則是控制密集型、決策復(fù)雜的任務(wù)歸PSARM比如解析用戶命令、管理任務(wù)隊(duì)列、處理網(wǎng)絡(luò)協(xié)議TCP/IP、文件I/O、圖形界面等。這些任務(wù)邏輯復(fù)雜但計(jì)算量不大用通用處理器跑最合適。計(jì)算密集型、流程規(guī)整的任務(wù)歸PLFPGA比如圖像的卷積濾波、矩陣乘法、FFT變換、數(shù)據(jù)流的加解密、CRC校驗(yàn)等。這些任務(wù)通常可以高度并行化或者有固定的流水線結(jié)構(gòu)用硬件實(shí)現(xiàn)能獲得極致的速度和能效。劃分好任務(wù)后下一個(gè)關(guān)鍵就是通信。PS和PL之間主要有三種交互方式我的系統(tǒng)里都用到了內(nèi)存共享通過AXI HP/ACP端口這是數(shù)據(jù)交互的主力。PS端在DDR中開辟一片緩存區(qū)PL端的加速器通過AXI Master接口直接讀寫這片內(nèi)存。數(shù)據(jù)搬運(yùn)通常由PL端的AXI DMA IP核完成它可以在無需PS干預(yù)的情況下完成內(nèi)存到FPGA內(nèi)部FIFO或BRAM的數(shù)據(jù)塊搬移效率極高。寄存器控制通過AXI-Lite這是控制交互的核心。PS通過像操作內(nèi)存一樣讀寫PL中加速器IP核的配置寄存器來啟動(dòng)、停止加速器設(shè)置參數(shù)如圖像尺寸、濾波系數(shù)查詢狀態(tài)如“計(jì)算完成”、“發(fā)生錯(cuò)誤”。AXI-Lite協(xié)議簡單適合這種小數(shù)據(jù)量的控制操作。中斷通知當(dāng)PL端的加速器完成計(jì)算或遇到錯(cuò)誤時(shí)它會(huì)產(chǎn)生一個(gè)中斷信號(hào)通過IRQ_F2P線傳遞給PS的ARM核。PS側(cè)在Linux驅(qū)動(dòng)或裸機(jī)程序中捕獲這個(gè)中斷然后進(jìn)行后續(xù)處理如讀取結(jié)果、啟動(dòng)下一個(gè)任務(wù)。這是一種高效的異步通知機(jī)制避免了PS輪詢帶來的CPU浪費(fèi)。整個(gè)系統(tǒng)的數(shù)據(jù)流可以概括為PS準(zhǔn)備輸入數(shù)據(jù)到DDR - PS通過AXI-Lite配置加速器并啟動(dòng) - AXI DMA將數(shù)據(jù)從DDR搬至PL - PL加速器處理數(shù)據(jù) - AXI DMA將結(jié)果從PL搬回DDR - PL產(chǎn)生中斷通知PS - PS讀取并處理結(jié)果。3. 硬件PL側(cè)設(shè)計(jì)與實(shí)現(xiàn)要點(diǎn)3.1 加速器IP核的設(shè)計(jì)策略自研 vs. 使用現(xiàn)有IP在PL部分實(shí)現(xiàn)加速功能有兩種主要路徑使用Xilinx提供的或第三方成熟的IP核或者自己用HDLVerilog/VHDL或HLS從頭設(shè)計(jì)。對于通用性強(qiáng)的功能我優(yōu)先考慮使用現(xiàn)有IP。比如AXI DMA是數(shù)據(jù)搬運(yùn)的必選IP做圖像處理可能會(huì)用到Video Processing Subsystem做信號(hào)處理會(huì)用到FFT IP或FIR Compiler。這些IP經(jīng)過驗(yàn)證性能穩(wěn)定能節(jié)省大量開發(fā)時(shí)間。在Vivado的IP Catalog里搜索你會(huì)發(fā)現(xiàn)寶藏。但當(dāng)現(xiàn)有IP無法滿足特定算法需求或者你需要極致的優(yōu)化面積、速度、功耗時(shí)就需要自研。這里我強(qiáng)烈推薦從Vitis HLS入手尤其是對于軟件背景的開發(fā)者。你可以用C/C描述算法行為HLS工具會(huì)將其綜合成RTL寄存器傳輸級代碼。雖然自動(dòng)綜合的代碼在效率上可能不如手工優(yōu)化的HDL但它極大地提升了開發(fā)效率并且可以通過添加Pragma指令如流水線PIPELINE、數(shù)據(jù)流DATAFLOW、數(shù)組分區(qū)ARRAY_PARTITION來指導(dǎo)工具進(jìn)行性能優(yōu)化。在我的項(xiàng)目里我采用了一種混合策略核心計(jì)算單元用一個(gè)簡單的圖像二值化算法為例通過HLS實(shí)現(xiàn)以展示完整流程而數(shù)據(jù)搬運(yùn)和接口部分則使用成熟的AXI DMA和AXI SmartConnect IP。這樣既能保證核心功能的定制性又能利用可靠的基礎(chǔ)設(shè)施。3.2 在Vivado中搭建硬件系統(tǒng)這是將各個(gè)IP核連接成完整系統(tǒng)的步驟需要在Vivado Design Suite中完成。創(chuàng)建Block Design這是Vivado中圖形化系統(tǒng)集成的主要環(huán)境。首先把ZYNQ Processing System IP拖進(jìn)來運(yùn)行Block Automation和Connection Automation可以快速配置好PS的基礎(chǔ)外設(shè)如DDR型號(hào)、時(shí)鐘、UART等并連接上AXI互聯(lián)網(wǎng)絡(luò)。添加并配置IP核ZYNQ PS雙擊打開配置界面。關(guān)鍵步驟是啟用所需的HP高性能或ACP加速器一致性端口接口。例如使能一個(gè)HP0接口給DMA用使能一個(gè)GP0主設(shè)備或GP1從設(shè)備接口用于AXI-Lite配置。別忘了在PS-PL Configuration里使能F2P中斷。AXI DMA選擇模式Simple模式用于內(nèi)存到流Scatter Gather模式用于更復(fù)雜的分散-聚集操作。配置數(shù)據(jù)寬度通常與你的加速器數(shù)據(jù)位寬匹配如64位或128位并勾選“Enable Scatter Gather Engine”以提升效率。你的自定義加速器IP如果你用HLS生成了IP通過“Settings - IP - Repository”添加其路徑然后就能像其他IP一樣拖進(jìn)Block Design。它至少需要兩個(gè)AXI接口一個(gè)AXI-Lite從接口用于PS配置一個(gè)或多個(gè)AXI-Stream接口用于高速數(shù)據(jù)輸入輸出。連接與地址分配使用AXI SmartConnectIP作為互聯(lián)矩陣將PS的Master接口如M_AXI_GP0和各個(gè)Slave IP如DMA的S_AXI_LITE你的加速器的S_AXI_LITE連接起來。將PS的HP接口如S_AXI_HP0連接到DMA的M_AXI_MM2S和S_AXI_S2MM接口這是數(shù)據(jù)通路。將DMA的MM2S和S2MM流接口連接到你的加速器的數(shù)據(jù)輸入輸出流接口。將你的加速器的中斷輸出連接到ZYNQ PS的IRQ_F2P接口上。最后點(diǎn)擊“Run Connection Automation”和“Run Block Automation”讓Vivado自動(dòng)完成剩余連接和時(shí)鐘、復(fù)位信號(hào)的分配。完成后使用“Validate Design”檢查有無錯(cuò)誤。生成輸出產(chǎn)品在Sources窗口右鍵點(diǎn)擊Block Design選擇“Generate Output Products”。這一步會(huì)生成HDL包裝文件、網(wǎng)表等。然后再右鍵選擇“Create HDL Wrapper”讓Vivado創(chuàng)建一個(gè)頂層的HDL文件來包裹整個(gè)Block Design。綜合、實(shí)現(xiàn)與生成比特流這個(gè)過程比較耗時(shí)它會(huì)把你的設(shè)計(jì)編譯成可以在FPGA上運(yùn)行的配置文件.bit文件。同時(shí)非常重要的一步是導(dǎo)出硬件平臺(tái)File - Export - Export Hardware。這個(gè)導(dǎo)出的.xsa文件包含了硬件系統(tǒng)的所有信息地址映射、IP配置等是后續(xù)進(jìn)行軟件開發(fā)的基石。注意在連接DMA時(shí)務(wù)必理清MM2SMemory Map to Stream內(nèi)存到流和S2MMStream to Memory Map流到內(nèi)存的方向。MM2S負(fù)責(zé)把數(shù)據(jù)從DDR讀到PLS2MM負(fù)責(zé)把PL處理后的數(shù)據(jù)寫回DDR。連接反了會(huì)導(dǎo)致數(shù)據(jù)流方向錯(cuò)誤。4. 軟件PS側(cè)驅(qū)動(dòng)與應(yīng)用開發(fā)硬件比特流生成后工作重心就轉(zhuǎn)移到了軟件側(cè)。我們需要讓ARM核上的程序能夠識(shí)別并驅(qū)動(dòng)這個(gè)硬件加速系統(tǒng)。4.1 在Vitis中創(chuàng)建平臺(tái)與應(yīng)用工程Xilinx推薦使用Vitis統(tǒng)一軟件平臺(tái)進(jìn)行PS端的開發(fā)。它基于Eclipse集成了交叉編譯、調(diào)試、性能分析等一系列工具。創(chuàng)建平臺(tái)項(xiàng)目新建一個(gè)“Platform Project”在創(chuàng)建過程中選擇“Create from hardware specification (XSA)”并指向我們剛才從Vivado導(dǎo)出的.xsa文件。這個(gè)平臺(tái)項(xiàng)目會(huì)解析硬件信息生成對應(yīng)的板級支持包BSP其中包含了ZYNQ PS的底層驅(qū)動(dòng)、DMA的驅(qū)動(dòng)、以及你的自定義IP核的驅(qū)動(dòng)程序框架。編譯平臺(tái)項(xiàng)目會(huì)生成一個(gè).xpfm平臺(tái)文件。創(chuàng)建應(yīng)用項(xiàng)目新建一個(gè)“Application Project”選擇上一步創(chuàng)建的平臺(tái)作為目標(biāo)硬件。Vitis會(huì)提供多種模板對于裸機(jī)Baremetal開發(fā)可以選擇“Empty Application”對于Linux開發(fā)則通常選擇“Linux Hello World”然后進(jìn)行修改。這里我以裸機(jī)為例因?yàn)樗苯硬簧婕安僮飨到y(tǒng)層面的復(fù)雜性。關(guān)鍵代碼解析驅(qū)動(dòng)與數(shù)據(jù)交互 應(yīng)用工程的核心是main.c以及可能由Vitis自動(dòng)生成的針對你自定義IP的驅(qū)動(dòng)文件如xmy_accelerator.h/cxmy_accelerator_linux.c等。以下是一個(gè)簡化的裸機(jī)程序流程#include xparameters.h // 包含硬件地址宏定義 #include xaxidma.h // DMA驅(qū)動(dòng)頭文件 #include xmy_accelerator.h // 自定義加速器驅(qū)動(dòng)頭文件 #include xil_exception.h #include xscugic.h // 中斷控制器驅(qū)動(dòng) // 1. 定義全局變量 static XAxiDma axiDma; static XMy_accelerator myAccel; static XScuGic intc; // 2. 初始化函數(shù) int init_system() { int status; // 初始化DMA status XAxiDma_CfgInitialize(axiDma, (XAxiDma_Config*)XPAR_AXI_DMA_0_DEVICE_ID); // 禁用Scatter Gather如果使用Simple模式 XAxiDma_IntrDisable(axiDma, XAXIDMA_IRQ_ALL_MASK, XAXIDMA_DEVICE_TO_DMA); XAxiDma_IntrDisable(axiDma, XAXIDMA_IRQ_ALL_MASK, XAXIDMA_DMA_TO_DEVICE); // 初始化自定義加速器 status XMy_accelerator_Initialize(myAccel, XPAR_MY_ACCELERATOR_0_DEVICE_ID); // 初始化中斷系統(tǒng) XScuGic_Config *intc_cfg XScuGic_LookupConfig(XPAR_SCUGIC_SINGLE_DEVICE_ID); XScuGic_CfgInitialize(intc, intc_cfg, intc_cfg-CpuBaseAddress); // 設(shè)置中斷處理函數(shù)連接到加速器和DMA的中斷ID XScuGic_Connect(intc, XPAR_FABRIC_MY_ACCELERATOR_0_INTERRUPT_INTR, (Xil_ExceptionHandler)accel_done_handler, NULL); // 啟用中斷 XScuGic_Enable(intc, XPAR_FABRIC_MY_ACCELERATOR_0_INTERRUPT_INTR); Xil_ExceptionInit(); Xil_ExceptionRegisterHandler(XIL_EXCEPTION_ID_INT, (Xil_ExceptionHandler)XScuGic_InterruptHandler, intc); Xil_ExceptionEnable(); return XST_SUCCESS; } // 3. 中斷處理函數(shù) void accel_done_handler(void *callback) { // 清除中斷標(biāo)志通常需要讀/寫加速器狀態(tài)寄存器 u32 status XMy_accelerator_Get_status(myAccel); // 設(shè)置任務(wù)完成標(biāo)志通知主循環(huán) task_complete_flag 1; } // 4. 主函數(shù) int main() { init_system(); // 準(zhǔn)備數(shù)據(jù)緩沖區(qū)位于DDR中 u32 *input_buffer (u32*)MEMORY_BASE_ADDR; u32 *output_buffer (u32*)(MEMORY_BASE_ADDR BUFFER_SIZE); // ... 填充input_buffer數(shù)據(jù) ... // 刷新緩存確保數(shù)據(jù)寫入DDR而非CPU緩存對于裸機(jī)通常需要調(diào)用Xil_DCacheFlushRange Xil_DCacheFlushRange((UINTPTR)input_buffer, BUFFER_SIZE); Xil_DCacheInvalidateRange((UINTPTR)output_buffer, BUFFER_SIZE); // 無效化輸出緩存區(qū) // 配置DMA傳輸 XAxiDma_SimpleTransfer(axiDma, (UINTPTR)input_buffer, BUFFER_SIZE, XAXIDMA_DMA_TO_DEVICE); XAxiDma_SimpleTransfer(axiDma, (UINTPTR)output_buffer, BUFFER_SIZE, XAXIDMA_DEVICE_TO_DMA); // 配置并啟動(dòng)加速器通過AXI-Lite寫寄存器 XMy_accelerator_Set_image_width(myAccel, IMG_WIDTH); XMy_accelerator_Set_image_height(myAccel, IMG_HEIGHT); XMy_accelerator_Start(myAccel); // 寫啟動(dòng)寄存器 // 等待中斷或輪詢狀態(tài)寄存器 while(!task_complete_flag); // 處理完成后再次刷新/無效化緩存以讀取正確結(jié)果 Xil_DCacheInvalidateRange((UINTPTR)output_buffer, BUFFER_SIZE); // ... 處理output_buffer中的數(shù)據(jù) ... return 0; }對于Linux環(huán)境流程類似但驅(qū)動(dòng)會(huì)以內(nèi)核模塊的形式存在。應(yīng)用層通過open、ioctl、mmap等系統(tǒng)調(diào)用與驅(qū)動(dòng)交互驅(qū)動(dòng)負(fù)責(zé)配置DMA、映射內(nèi)存、處理中斷。Vitis可以幫助生成Linux驅(qū)動(dòng)的骨架代碼。4.2 系統(tǒng)集成與調(diào)試把軟硬件“粘”起來代碼寫完后需要將其與硬件比特流集成并下載到板卡上運(yùn)行。編譯與鏈接在Vitis中編譯應(yīng)用工程它會(huì)生成一個(gè).elf可執(zhí)行文件。創(chuàng)建啟動(dòng)文件對于ZYNQ上電后PS先啟動(dòng)然后由PS去配置PL。我們需要一個(gè)啟動(dòng)鏡像Boot Image通常包含F(xiàn)SBLFirst Stage Boot Loader由Vitis自動(dòng)生成負(fù)責(zé)初始化PS并將后續(xù)鏡像加載到內(nèi)存。硬件比特流.bit文件用于配置PL邏輯。應(yīng)用可執(zhí)行文件.elf文件我們的主程序。 在Vitis中可以通過“Create Boot Image”向?qū)⑦@些組件按順序打包成一個(gè).bin文件。下載與調(diào)試將生成的.bin文件放入SD卡ZYNQ開發(fā)板通常支持SD卡啟動(dòng)或者通過JTAG直接下載到板載內(nèi)存中運(yùn)行。使用Vitis的Debug視角可以單步調(diào)試PS端的C代碼設(shè)置斷點(diǎn)查看變量。對于PL端的調(diào)試則需要依靠Vivado的ILA集成邏輯分析儀核在硬件設(shè)計(jì)中插入ILA捕獲FPGA內(nèi)部信號(hào)的實(shí)時(shí)波形這對于排查硬件時(shí)序問題至關(guān)重要。5. 性能優(yōu)化與常見問題深度排查系統(tǒng)能跑起來只是第一步讓它跑得又快又穩(wěn)才是挑戰(zhàn)。這里分享一些優(yōu)化和排錯(cuò)的經(jīng)驗(yàn)。5.1 提升系統(tǒng)性能的關(guān)鍵技巧數(shù)據(jù)流優(yōu)化雙緩沖Ping-Pong Buffer這是隱藏?cái)?shù)據(jù)傳輸延遲的經(jīng)典方法。準(zhǔn)備兩個(gè)輸入緩沖區(qū)和兩個(gè)輸出緩沖區(qū)。當(dāng)加速器在處理緩沖區(qū)A的數(shù)據(jù)時(shí)DMA同時(shí)將下一批數(shù)據(jù)寫入緩沖區(qū)B并將上一批結(jié)果從緩沖區(qū)C讀回DDR。通過乒乓操作可以實(shí)現(xiàn)計(jì)算與傳輸?shù)耐耆丿B最大化吞吐量。數(shù)據(jù)位寬對齊確保DMA的數(shù)據(jù)位寬、AXI總線位寬、加速器處理位寬以及DDR內(nèi)存訪問位寬盡可能匹配或成倍數(shù)關(guān)系。例如DDR數(shù)據(jù)位寬可能是128位那么將DMA和加速器也設(shè)為128位可以最大化總線利用率。不匹配會(huì)導(dǎo)致多次小規(guī)模傳輸降低效率。使用ACP端口如果你的加速器需要讀取PS端CPU緩存中的數(shù)據(jù)并且要求緩存一致性即CPU和加速器看到的內(nèi)存視圖是一致的那么應(yīng)該使用ACPAccelerator Coherency Port端口。否則使用HP端口即可但需要在軟件中手動(dòng)管理緩存調(diào)用Xil_DCacheFlush/Invalidate。加速器微架構(gòu)優(yōu)化流水線化在HLS中用#pragma HLS PIPELINE指令或者在HDL中手動(dòng)設(shè)計(jì)流水線使加速器能每個(gè)時(shí)鐘周期都吞入新數(shù)據(jù)產(chǎn)出結(jié)果極大提升吞吐率。數(shù)據(jù)流優(yōu)化對于有多個(gè)子模塊的復(fù)雜加速器使用#pragma HLS DATAFLOW可以讓這些子模塊并行執(zhí)行只要數(shù)據(jù)依賴允許。資源復(fù)用與分區(qū)合理使用FPGA的BRAM、DSP和LUT資源。對于大的數(shù)組考慮用#pragma HLS ARRAY_PARTITION將其分割到多個(gè)BRAM中以提供并行訪問端口。軟件開銷最小化中斷合并對于高頻任務(wù)頻繁的中斷會(huì)產(chǎn)生可觀的CPU開銷??梢钥紤]讓加速器處理多個(gè)數(shù)據(jù)塊后再產(chǎn)生一次中斷。使用Scatter-Gather DMA對于非連續(xù)的內(nèi)存數(shù)據(jù)Scatter-Gather DMA可以自動(dòng)收集分散的數(shù)據(jù)塊減少PS的干預(yù)。內(nèi)核旁路在Linux下考慮使用用戶態(tài)IOUIO或VFIO框架讓用戶程序直接操控設(shè)備減少內(nèi)核態(tài)到用戶態(tài)的數(shù)據(jù)拷貝和上下文切換開銷。5.2 實(shí)戰(zhàn)中踩過的坑與解決方案問題PS端讀寫PL寄存器失敗或者數(shù)據(jù)不對。排查首先檢查Vivado中的地址分配。在Address Editor標(biāo)簽頁確認(rèn)你的IP核的寄存器空間被正確映射到了PS可訪問的地址段通常是0x4000_0000到0x7FFF_FFFF或0x8000_0000開始。然后在軟件中xparameters.h文件里會(huì)有對應(yīng)的基地址宏定義XPAR_MY_ACCELERATOR_0_BASEADDR確保你使用的是這個(gè)地址。注意緩存在裸機(jī)程序中如果開啟了數(shù)據(jù)緩存D-Cache對設(shè)備寄存器的讀寫必須是非緩存的。通常BSP會(huì)自動(dòng)將這段地址空間設(shè)置為非緩存。但在Linux驅(qū)動(dòng)中使用ioremap映射物理地址時(shí)需要指定正確的標(biāo)志如DEVICE類型。錯(cuò)誤的緩存屬性會(huì)導(dǎo)致讀寫無法及時(shí)到達(dá)設(shè)備或讀到舊值。問題DMA傳輸數(shù)據(jù)錯(cuò)誤或者傳輸卡住。排查數(shù)據(jù)對齊確保源地址和目標(biāo)地址是DMA數(shù)據(jù)位寬的整數(shù)倍。例如64位DMA地址最好是8字節(jié)對齊。傳輸長度傳輸?shù)淖止?jié)數(shù)也最好是數(shù)據(jù)位寬的整數(shù)倍。緩存一致性這是最常見的問題在啟動(dòng)DMA傳輸前必須確保要發(fā)送的數(shù)據(jù)已經(jīng)真正寫入了DDR而不是還在CPU緩存里。調(diào)用Xil_DCacheFlushRange。在DMA傳輸完成后要讀取的數(shù)據(jù)可能還在DDR中CPU緩存里是舊數(shù)據(jù)需要調(diào)用Xil_DCacheInvalidateRange。檢查DMA狀態(tài)寄存器通過XAxiDma_SimpleTransfer的返回值或讀取DMA IP的內(nèi)部狀態(tài)寄存器SRR可以獲取錯(cuò)誤信息如總線錯(cuò)誤、DMA內(nèi)部錯(cuò)誤等。問題中斷無法觸發(fā)或者觸發(fā)一次后不再觸發(fā)。排查中斷使能三重檢查PS的GIC通用中斷控制器是否使能了該中斷線你的設(shè)備IP的中斷輸出是否使能你的驅(qū)動(dòng)代碼里是否通過XScuGic_Enable或enable_irq使能了中斷中斷清除在中斷處理函數(shù)中必須清除設(shè)備內(nèi)部的中斷標(biāo)志位。如果不清除中斷狀態(tài)會(huì)一直保持導(dǎo)致無法觸發(fā)下一次中斷。通常通過讀/寫設(shè)備的狀態(tài)寄存器來完成。中斷共享與優(yōu)先級如果系統(tǒng)中有多個(gè)中斷源需要合理分配優(yōu)先級并注意共享中斷線的處理。問題系統(tǒng)運(yùn)行不穩(wěn)定偶爾出現(xiàn)數(shù)據(jù)錯(cuò)誤。排查時(shí)序約束在Vivado實(shí)現(xiàn)后必須檢查時(shí)序報(bào)告Timing Report確保所有路徑都滿足建立時(shí)間和保持時(shí)間要求。特別是跨時(shí)鐘域的信號(hào)如從PS時(shí)鐘域到PL時(shí)鐘域的中斷信號(hào)必須使用正確的同步器如兩級觸發(fā)器同步。電源與散熱FPGA在高負(fù)載下功耗很大。確保開發(fā)板供電充足散熱良好。電源紋波過大或芯片過熱都可能導(dǎo)致邏輯錯(cuò)誤。使用ILA抓波形這是最強(qiáng)大的調(diào)試手段。在關(guān)鍵信號(hào)如AXI接口的握手信號(hào)、數(shù)據(jù)信號(hào)、內(nèi)部狀態(tài)機(jī)上插入ILA核在出錯(cuò)時(shí)觸發(fā)捕獲可以直觀地看到硬件層面的問題比如握手未完成、數(shù)據(jù)未就緒等。構(gòu)建一個(gè)穩(wěn)定高效的ZYNQ軟硬協(xié)同系統(tǒng)是一個(gè)不斷迭代和調(diào)試的過程。從硬件設(shè)計(jì)、軟件驅(qū)動(dòng)到系統(tǒng)集成每一步都需要仔細(xì)考量。這個(gè)項(xiàng)目壓縮包里的代碼和文檔記錄了我從搭建框架、調(diào)試通第一個(gè)“Hello World”級別的加速任務(wù)到逐步優(yōu)化性能、增加復(fù)雜功能的全過程。希望這份拆解能幫你理清思路少走些彎路。真正動(dòng)手做一遍遇到問題再去查資料、看手冊、抓波形才是學(xué)習(xí)這種復(fù)雜系統(tǒng)最有效的方法。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
国产又操| 97人人模人人爽人人| 丰满人妻被猛烈进入中| 少妇高潮流水av免费| 亚洲福利中文字幕在线| 国产一区二区三区中文字幕| 国产精品成人AV片免费看网站| 国产主播福利| 欧美午夜视频精品久久| 精品久久久无码| 国产福利夜| 91美女在线视频| 亚洲的天堂网| 9久久久久| 国产精品久久久无码aV去| 亚州免费啪啪视频| 亚洲人成色9999精品久久| 亚洲色图20p| 91亚洲丝袜熟女| V A在线| 手机在线A片| 国产欧美一区激情交| 97干com| 日日噜噜夜夜久久亚洲一区二区| 99少妇内射| 91久久青青草原精品| 中文字幕人成乱码熟女香港| 亚洲精品男人的天堂| 男人天堂2030| 国产美女91视频| 国产97在线播放| 日韩无码操逼片| 久久九精品| 久久久78| 日本精品无码三级网站| 天天干天天操天天干天天操| 大稥蕉免费视频这里只有精品| 国内操逼视频二区| 黑丝少妇| 96精品久久久| 日婷婷| 麻豆a'v电影| 97超碰国产精品| 97爱b| 亚洲国产一区二区入口| 欧美综合区| 亚洲AV资源| 国产农村妇女毛片精品久久| 岛国激情视频软件| 人妻久热在线| 欧美 色 亚洲| 人妻少妇av在线观看| 久久亚洲天天做| 日韩有码专区| 久久老子无码午夜伦不卡| 精品无人区麻豆乱码久久久| 欧美日韩资源| 日本人人操人人操| 色逼综合| 牛黄色久午久| 五十路熟女在线不卡观看一区二区| 色五月av| 欧美麻豆成人同性GⅤ在线| 中文字幕版| 青青草影视蜜久久| 婷婷激情五月天小说网| 99热免费精品| 2024年最新色情网站在线观看| 岛国精品视频在线观看| 亚洲精品不卡一二三区| 亚瑟国产精品久久无码| 97色色,97综合| www.91人妻.com| 热久久91婷婷| 伊人影院日本| 强上我不卡卡| 日韩免费a级毛片无码a∨| 色九月婷婷| 黄页网站成人免费| 吻戏激情性巴克| 天天日天天干天天摸天天操| 天天拍天天操| 亚洲图片小说欧洲| 91无码中出人妻视频| 91丝袜人妻| 色五月综合| 美女让帅哥通她小鸡鸡| 免费观看的黄色的网站| 97久久天天综合色天天综合色电影| 制度丝袜99| 天天内射| 99色视频| 久久内射| 国产精品91ai| 欧美精品日韩久久久九| 欧美性色欧美| 欧美日韩少妇色情| 爱av免费| 少妇贴图| 亚洲天堂性爱| 成人国产视频在线观看| 伊人伊人LD| 亚洲欧综合另类无码一区| 囯产精品强| A V视频日本| 亚洲欧美综合图片| 九九热男人天堂| 男女啪啪网站免费视频| 韩国午夜理伦三级好看| 97日韩欧美亚洲| 中文自拍欧美影视| 欧美加勒比| 日本不卡三级网在线播放| 97色碰| 午夜福利久久久噜久噜久久综合 | 久久综合资源一区二区| 福利五区| 国产丝袜视频| 日韩激情毛片一级久久久| 欧美美女在线高潮999| 日韩欧美大片免费高清啪啪| 国产精品一级二级在线| 五月婷婷无码| 久96热在线观看视频| 亚洲综合69| 国产男女无套视频免费观看| 久草在线| 东京热AV男人的天堂| 任你爽视频| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 久操综合在线| 温婉少妇玩3p| 91网站18禁| 日韩传媒在线| 久久综合激情| 成年人黄色视频免费| 少妇毛片久久| 久精品无码av一区二免费国产在线观看| 久肏视频字幕| 成人熟女视频一区二区三区| 另类 日韩 熟女| 99久久免费看精品国产一区| 伊人综合色网| 国产精品青草综合久久| 日本人妻伦在线中文字幕| 蜜桃视频一区二区三区在线观看| 五月丁香婷婷色| 操www| 97亚洲自在精品在线观看| 首页亚洲国产高跟丝袜诱惑视频| 性爱Av免费| 大香伊人在线一区| 三级三级三级日本99| 国产av激情无码久久天堂| 亚洲色悠悠久久88| 天天享受天天看| 国产18精品亚洲精品| 欧美AB在线| 女人的天堂大香蕉网| 防屏蔽在线视频| www.91逼逼.com| 美女91| 日韩97视频| 天天干2019| 日本国产欧美高清在线| 色综合久久av| 亚洲性爱免费电影| 国产在线播放成人免费| 热久久无毒不卡| AV一二区| 日韩啪啪啪啪啪| av在线一区二区三区| 97视频在线免费观看| 久操| 欧美在线综合| 亚州综合色图| 日韩超碰精品综合| 女人的久久久| 色色亚洲| a在线观看| 手机在线播放国产福利| 一级人妻性爱视频| 一级二级在线观看| 亚洲欧美在线丝袜| 97视频一区| 91女优在线观看| 激情终合网| 欧美色图亚洲色图成人在在线| 久久XX| 国产男人又猛又粗又爽| av天堂天堂av日韩| 精品亚洲国产成人av网站| 欧美97| 丝袜综合网| 青女偷拍网| 91国精产品| 色网在线| 一区,二区,三区视频| 啊啊啊好湿久久| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 蜜乳中文字幕a在线| 欧美色干| 精品免费囯产一区二区三区| 免费男人的天堂| 后入式999| 97欧美色| 国产97综合| 国产熟码AV| 爱丝福利| 女上位精品在线| 天天天堂影视日韩亚洲91| 亚洲免费97免费| 亚洲日本男人天堂网| 夜夜爽77777| AV色天香在线| 60秒试看最爽10分钟网站| 中文一区二区婷婷视频| 一区二区国产视频在线观看| 久久婷婷苹果| 人妻天堂三区| 99久久久久久亚洲精品不卡| 色官网色综合| 多乙久久久久久| 亚洲蜜桃V妇女| 老女人碰碰在线碰碰视频| 啊啊啊骚| 久久超碰98| 日本不卡码黄色| 国内毛片热久久思思热| www.99中文字幕| 婷婷去俺也去六月色| 蜜乳Av成人片网站| 操逼网站视频漫画国产| 五月天婷婷成人网| 久久精品老司| 乱操9999| 久久春色| 亚洲欧洲中文日韩女优乱码| 婷婷AV一区二区三区| 啊v视频在线观看| 七久久久| 91久久久老司机| 33044男人的天堂深夜备| 另类图片五月天| 啊啊啊久久| 日本爽爽爽爽爽爽免费视频| 在线观看色视频| 91Chinese在线| 少妇蜜汁| 91综合天天| 五十路熟女人妻一区二区三区四区五| 久久超碰国产一区二区三区| 抽插无码高清一区| 熟女啪啪视频| 99国内熟女露脸视频| 女同性恋久久| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 日本国产二线女色| 天天伊人| 国产精品嫩草影院免费| 二色av| 欧美性天天影视| 加勒比海成人视频网 | 99热精品在线观看| 91丝袜激情在线| 激情啪啪视频| 日韩黄片影院| 日本欧美国内在线| 禁十八久久| 色哟哟av| 国内毛片热久久思思热| 欧美性爱在线无码| 亚洲黄日韩无码专区| 在线色资源| 啪啪视频免费在线观看| 国产CHASE男男GAYGA 毛多色婷婷| 另类在线| 国产精品欧美激在线| 日本大香蕉综合网红本杳社区| 欧美视频一| 免费AV播放| 诱惑人妻欧美一区在线播放| 色亚洲欧美| 眼镜人妻101.com| 五月丁香六月婷综合成人综合| 91女神在线视频| 激情四射婷婷六月天| 麻豆精品一区二区三区四区免费观看| 人人天天干干| 男人精品天堂一区| 欧美色www亚洲国产阿娇要播| 久久一区二区三区入口| 日韩av色图综合| 九久9精品| 久久久久久久九九九九九九| 丝袜美腿诱惑亚洲欧美视频在线观看 | 日本欧美韩国日产片片在线看免| 青久久| 综合网亚| 中国农村熟妇毛片视频| 久久精彩免费视频| 青青操日韩| 国产精品懂色tv影视免费观看| 国产三级多多影院2022国产AA一级毛片无码| 999日韩中文精品观看视频。| 亭亭在线资源| 2017人人操,人人摸| 性感女人网页在线观看视频| 免费视频观看60秒| 强奸乱亚洲| 亚洲欧美在线综合| 国产精品日本无码A片| 亚州伊人色综台| 亚洲在线A| 丰满高潮18xxxx| 成人十八禁日韩欧美一二三| 国产多人在线观看视频| 中文字幕精品丝袜| 91搡老女人老妇女老熟女歌词翻译| a级理论午夜日本| 熟女高潮合集-永久久久-成人AV | 啊啊啊好多水| 五月婷婷丁香| 欧美色图综合网| 女人高潮抽搐喷水视频网站| 99热日| 亚洲精品xxx| 91三级理论片播放器| 校园春色制服丝袜中文字亚洲| 日本韩国五十路六十路七十路老熟女作爱视频网站 | 熟女中出视频| 国产日产精品久久快鸭的功能介绍| 久草精品热视| 青女偷拍网| 亚洲欧洲国产综合av| 亚洲限制级| 久久久久亚洲av综合波多野制衣| 国产久久日| 午夜超爽| 亚欧中文字幕在线视频| 国产精品探花色| 日韩在线97| 欧美日韩中文亚洲v在线综合| 日本不卡一区二区三区| 污污汅18禁网站在线永久免费观看 | 国产宅男宅女在线观看| 九九草| 91天天看| 老女人爆菊| 国产97在线视频| 久妇网| 五月丁香六月综合缴清无码| 一区二区三区 丝袜 高跟 美腿| 国产一区在线播放| 青青草原人妻| 亚欧免费| 欧美爱国产综合、| 人妻久久久| 欧美天天综合网| 国产怡红院| 国产精品嫩草影院午夜两性| 性欧美精| 久久久97| 黄片www视频免费| 蜜桃中文字日产乱幕4区| 日韩福利综合一区| 蜜桃臀一区二区aV| 草草影院在线视频| 在线播放成人高清免费视频| 超97在线精品视频| 综合网少妇| 久久丁香五月婷婷| 成人国产视频在线观看| 日日干夜夜欢| 色色色综合| 襙一襙| 久草精品视频| av优播| 家庭乱伦国产| 亚洲 中文 欧美 日韩 在线| 熟女人妻av在线资源,黄色的资源 粉嫩国产精品久久粉嫩 | 国产人妻精品久久久一区二区三区 | 日本熟妇熟色97一本在线观看| 欧美国产精品久久九九| 内射黑丝袜| 亚洲欧洲另类| 精品一区二区国产日韩| 亚洲玖玖爱| 97在线免费看| 男女激情黄色网址| 男人的天堂2019| 狠狠亚洲| 女优视频第10页| 国产日韩无码一区二区三区久久区| 亚拍在线| 亚洲美女精品| 国产尤物AV尤物在线观看不卡| 东北熟女91| 日韩中文字幕宗合在线| 97精品国产97久久久久久| 国产乱伦性爱区| 97超级久久| 九热大香蕉| 欧美在线视频99| 午夜视频久久久久一区| 78操B| 欧美一级专区免费大片| 手机不卡视频不卡在线一二三区 | 爆乳免费黄网站| 欧亚性爱在线视频| 精品人妻一区二区三区日产| 日韩专区久久久| 99热aaa| 色婷婷影院| 伊人久久综合影院| 日韩av在线精品观看| 欧美色图欧美| 亚州大图综合色图| 欧美精品 - 91爱爱| 天堂精品在线| 国产 v乱码一区二| 激情综合 婷婷五月 红杏| 亚洲欧洲第二视频在线观看色图| 亚码激情| 伊人色综合网| 国产无马av| 又大又长又粗又爽又黄| 色婷婷六月丁香七月婷婷| 天天久久| AV女资源| 国产尤物在线三区| 2003天天干夜夜操| 9 9无尺码天堂网| AV天堂电影网| 女优视频第10页| 日本九九九九| 国产免费一区在线观看| 女人双腿搬开让男人桶| 国产精品干干干| 人妻偷拍一区二区三区| 俺去啦俺来也久久综合| 欲香欲色| 97综合| 九九草| 国产日韩怡红院| 天堂av最新电影网| 精品综合久久久久久97| 亚洲欧美日韩电影网站一区| 97国产色图| 欧美永久激情一区二区| 综合激情97| 欧美日韩国第一区| 另类亚洲图色| 日本日日色视频| 亚洲日韩av一区二区三区百合| 夜色五月天| 天美精品av| 国产剧情一区在线观看| 亚洲免费精品一区| 精品一区二区三区最新| 蜜桃臀 后入 一区 二区 三区 在线| www.狠狠干.coom | 亚洲综合97中文网| 丰满人妻一区二区三区在线| 精品久久久久瑟瑟| 国产精品网站免费| 欧美性生活内射| 欧美情色贴图| 日韩人妻丝袜美腿中文| 欧美精品欧美精品系列| 九九九九一级| av东京热男人的天堂| 青青久操| 色偷偷人人玩人人舔人人操人人摸人人爽| 91日日夜夜| 97人人夜| 国产精品片| 亚洲欧美综合| 波多野42部无码喷潮在线观看| 懂色av色欲av蜜臀av| 欧美熟女操屄| 久久98| 亚州宗合另类| 成人热久久精品| 超碰1997| 欧洲一区二区三区四区在线观看| 日本一二三免费久久| 熟妇女伦乱视频| 日韩综合无码一区久久92| 国产精品第一区第一页| 欧美成人四级在线播放| 亚洲AV永久无码一区仙野| 大香蕉免费中文| 99国产在线绯色一区| 97超碰亚洲| 综合97久久| 美女诱惑久久| 亚洲图片日本AⅤ欧美在线| 无码抄逼网| 操人妻少妇中文| 18岁禁 茉莉成人久久| 午夜无码熟妇丰满人妻| 91亚洲人| 精品久久久久久无码| 久草免费在线一区二区| 亚洲色鬼| 黄久在线| 黑人娇小av在线播放| 欧美黑人精品在线播放| 五月丁香啪| 日本加靬比网站发布页| 99精品九九九九九九| 色波多| 黄色AAAAA欧美| 日本3级一区二区免费| 97资源超碰| 吊色| 私人尤物在线精品不卡| 澳门黄片一香蕉视频| 成人黑料社久久| 福利偷拍视频-中文字幕2019国语完整视频大全-S91AV | 国产97在线播放| AⅤ片水多多| 欧美激情中文字幕另类小说| 亚洲91av| 亚洲清纯综合| 久久免费99精品久久久久久| 五月天婷婷欧美三区| 静品嫩模一区二区| 91成人国产综合久久精品蜜月| 96国产污污污丝袜| 精品午夜福利| 亞洲久久直播| 欧美丝袜美女电影一二三四区| 国产久久久| 老熟妇一区二区三区…| www.四虎在线| 91精品91久久久久77777| 亚洲无码日韩电影| 国产成人www免费人成看片| 亚洲AV资源| 亚洲欧美洲综合| 风流老熟女一区二区三区l| 五月香婷婷| 色爽——AV| 操国产逼| 精品国产乱码久久久久久久久1| 美女丝袜激情小说| 久久精品国产亚洲5555| 色色综合网站| 日本黄色天堂| 综合欧美激情网| 日日天天久久啊啊aaa| 国产中文字幕在线| 日逼国产| 人妻丝袜肏逼| 啪啪视频亚洲第一 | 岛国小电影| av橘色网站| 中文字幕成人理论在线| 亚洲一区二区专区-国产丝袜精品丝袜-成人AV| 日日骚中文字幕| 婷婷99| 日韩电影免费网站麻豆视频| 日人妻视频91| 久久草视频污视频| 91在线超高颜值国产| 久久久久七视频| 超碰午夜| 久久久噜噜噜久久久| 丝袜综合网| 九热视频| 94色色电影网| 色婷婷电影网| 蜜臀久久99精品久久久久久婷婷| 色99在线| 97在线亚洲| 国产a片操逼| 天天操天天射青青草| 理论久久婷婷网8| 丁香色色网| 骚妻少妇精品性色无码四色A V| 老司机深夜影院18未满| 激情情色五月天| 色乱二区| 天天影视综合色| 激情五月丁香五月| 久热这里只有精品9| 一本道综合色图| 欧美91变态| www.狠狠| 午夜精品久久久| 精品久一区免费| 日本色色视频网站| 伊人伊人LD| 亚洲一区二区三区四区视频| 欧美淫乱视频| 影音先锋中文字幕日本好一区二区| 九色 蝌蚪 熟女自| 97色色婷婷| 又大又大又大又粗爽高潮观看| 美女啊啊啊啊啊啊啊| 超碰在线人妻中文字幕| 青青草色插素人| 亚洲精品天堂久久A∨51成人漫| 国产免费一区| 99人人干| 人妻精品视频一区二区三区| 东北老女人的激情视频| 一本色道久久天天射天天干| 欧美国产操逼| 色色激情五月天| 夜夜骑夜夜操| 日本人妻天堂网站在线播放| 黄色片大香蕉| juliaann欧美丝袜办公室| 麻豆 欧美 日韩| 国产操伦| 日本不卡中文| 女一区二区| av绯色| 精人妻一区二区三区| 青娱乐导航AV| 欧美综合娱乐久久| 久久精品国产亚洲粉嫩| 夜夜爽妓女| 欧美亚洲另类在线蜜桃| 欧美碰碰综合色| 黑丝日韩av丝袜av| 91黑人无码激情在线| 天天综合欧美| 97精选久久| 婷婷丁香六月| 精品高清一区二区三区三州| 骚货操死你| 五月婷婷hd| www…国产操逼| 久久97| 97天天插| 小草精彩毛片| 国产精品久久久鸭无码的功能| 亚洲国产97| 欧美色图在线视频少妇| 超碰97欧美在线| 多毛小伙内射老太婆| 97精品一区二区三区免费| 密臀AV在线| 亚洲 日韩 欧美 国产综合体| 国产一区二区三区免费视频在性观看| 嗯嗯啊啊啊好爽| 国产中文福利| 成人夜夜爽| 国产又大又硬又长又粗| 国产91影院| 亚洲蜜臀精品视频久久| 欧美成人亚洲精品| 99热这里是精品| 久久社区一区二区三区| 精品亚洲天堂| 亚洲脚交| 伊人玖玖网| 精精夜夜| 亚洲AV成人在线| 蜜乳AV一区| 亚洲麻豆av一区二区| 国产农村妇女毛片精品久久| 美性中文综合网| 国产精品久久久亚洲一区| 日本色色的视频| AV一起草在线| 水多多映视AV| 9精品久久久久| 91国精产品| 躁躁日曰躁2020| 久久极品一区二区| 婷婷五月天av| 黄色免费网页无码| 双插性欧美一二三区| 精品无码久久久久久久久果冻糖心 | 日韩九九九| 日韩 女同 综合| 国产黄色动态精品| 欧美中文字幕男人天堂久久精品| 日本污ww视频网站| AV和黑人在线播放| 国内亚洲高清无码| 91丝袜在线观看| 人伦四五区| 97天天插| 人妻素股| www. 男人天堂成人在线| 亚洲码和欧洲精品激情系列| 91在线综合网| 大奶啊啊好爽| 欧美另类色图片| 天天综合精品| 噜噜噜无码AV一级一级久久影院| 探花一区在线| 操高情无码| 久久成人国产| 国产啊v在线免费播放| 国产区在线| 美日韩一二三区| 亚洲综合图文| 五月天久久婷婷亚洲| 亚洲爽图| 男女啪啪网站免费视频| 中文字幕一区二区三区50路| 亚洲性刺激| 婷婷20月天青娱乐| 人妻丰满熟妇av无码区蜜桃| 九九九偷拍| 日本在线15p| 亚洲中文字幕av| 男人的天堂Va| 91网站18禁| 亚洲丝袜综合| 色香天天| 亚州综合网| 国产精品美女视频诱惑| 五月天婷婷在线看| 老子午夜伦不卡影院| 人人操人人操人人人操| 一级黄色视频网| 久久久免费一级黄片| 黄色av一区二区在线| 色婷婷99| 插入综合网| 福利偷拍视频-中文字幕2019国语完整视频大全-S91AV | 日韩人妻操B| 国产专区路线| 91国产美女丝袜足交精品视频| 午夜综合在线| 一本一道久久综合久久| 日韩色香| 天天做天天爱夜夜爽毛片试看| 日本狂喷奶水在线播放212| 93人人操人人| 人成午夜免费大片| 天美av在线观看| 亚洲日本男人天堂网| 久久久久大香青草精品综合| 青青草久久在线| 欧美综合色,www| 精品少妇999| 亚洲国产欧美一区二区潘金莲| 十八岁啪啪视频免费看| 国产激情av女片自拍| 激情开心五月天| 亚洲熟妇丝袜在线观看| 东京热熟女亚洲视频网站| 热热色国产一二区AV| 欧美性性性| 日韩电影在线观看网址| 亚州操逼图| 婷婷丁香在线| 五月天黄色av| 丝袜美腿射精91| 亚洲女优有码无码高清| 777超碰| 成人AV超碰免费在线| 人人做人人妻人人夜视频| 日韩三级一区 | 又粗又长又大国产不卡| 搞中出久久| 妺妺跟我一起洗澡没忍住| 日本三级久| 玖玖爱综合| 国产精品色| 精品人妻一区二区三区四区不卡在| 国产高清自拍视频| 乱伦av麻豆| 国产精品一二三免费网站| 欧洲精品一区二区三区| 成人性交免费视屏| 人妻一二三区| 97九色人妻| 亚洲999综合| 欧美色999| 91精品人妻电影| 97免费在线视频在线观看| 99re在线视频国产| 综合第一页| 唐山老熟妇露脸啪啪叫| 人妻一区二区三区| 欧美色图20P| 日韩无码操逼片| 九九九九久久久| 青草影院内射高潮| 亚洲性爱成人| 99色在线视频| 四虎在线观看网站| 国产精品久久久吖| 91五月天| 亚洲日本天堂| 9国产超碰| 色色色网站| 日本道日本道中文字幕日本道最新日本道在线观看 | 欧美性爱精品七区| www.黄色在线| 九一综合精品视品av| 破处bbq| 亚洲天堂中文字| 91女人的网站| 久9九综合在线| 久草福利在线资源站| 欧美日韩国产电影| 91狠狠综| 国产剧情一区在线观看| 91熟女视频网| 日本午夜操逼| 东北女人被操| 国产精品久久久啊| 色五月婷婷久久| 人妻美腿丝袜日韩| 日韩精品在线观看观看| 蜜臀av一区二区三区免费观看| 国模不卡一本二本三电影| 中文字幕日韩人妻视频一区二区三区交换夫妻| 欧美激情综合网| 第一高清av中文字幕| 国产精品午夜福利视频| 欧美日韩插逼视频| 红桃视频高潮| 亚洲性刺激| 丰满人妻一区二区三区大胸懂色| 操b网站亚洲无码| 91一区二区三区蜜桃| 粉嫩国产精品久久粉嫩| 亚洲成成熟女人综合一区二区| 成人网站 免费观看| 影音综合网| 久久久久久九九九九| 亚洲国产无码精品首页久久久| 欧美亚洲宗合色性图| 免费国产视频| 992这里有精品| 欧美人妻熟女在线| 欧亚在线视频| 人人澡综合涩| 青青青国产手线观看视频2| 蜜臀久久99精品久久久久久久久| 一区二区影视| 乱老女人一区二区视频| 偷拍导航视频网站| 黄色十八禁| 免费福利视频中文字幕| 九热大香蕉| 青青操网| 欧色综合| 岛国免费视频在线| 九九九九九九成人| 人人贴人人摸| 日韩精品三级片长长久久| 欧美午夜视频免费观看| 久久色一区二区| 不卡av在线中文字幕| 牛牛久久国产精品视频一二三| 中文字幕一区二区三区字幕| 成人在线永久| 国模艳艳啪啪一区| 九九久久国产精品怡红院| 国产一级αv免费看片| 综合亚州欧美| 9久热| 国产强奸乱伦第1页| 少妇免费视频| 久久黄片国产一区二区| 亚州春色| 久久精品国产亚洲AV成人直播| 999久久芭蕾| 丁香激情五月| 超碰在线人人射| 欧美97在线观看| 日韩亚洲精品一区二区| 日韩不卡一二三四| 五月婷久久| 亚州91| 久久亚州高清| 国产日韩欧美中文在线播放| 中文一区二区| 色五月婷婷麻豆在| 日本淫乱女一区二区三区视频| 97人人爱人人做人人乐| 久久五十路熟女人妻| 亚洲欧美激情小说| 亚洲丝袜色| 青娱乐福利99| 色眯眯av| 亚州伊人色综台| 日韩成人私密一级精品av| 中文乱码99| 午夜无码精品免费看性色| 久久国产精品m码| 成 人 影视 一区 二区 三区 四区| 久艾草在线精品视频在线观看| 美女诱惑在线一区| 99久久久久| 夜夜精品视频| 97资源免费视频| 国产精品岛国片在线观看| 丰满人妻一区二区三区四区| 精品免费国产二区三区| www…国产操逼| 欧美色图91| 中 文字幕一区二区三四 五 区日 日 骚 | 99热精品在线观看| 国模无码人体一区二区三| 97超碰欧美手机在线| 亚洲色鬼| 亚洲欧美日韩精品久| 激情小说亚洲色图| 精品无码产区一区二| 麻豆精品久久久久久久| 99久久久er直播网址| 97欧美精品| 熟妇高潮二区三区| 中文字幕 一区二区 亚洲无码| 亚州操逼图| 亚洲色图91| 亚洲在线观看| 久草色悠悠在线视频| 美女自卫慰黄网站免费| 色黄污美女啪啪啪免费网站| 加勒比综合在线| 欧美91网站| 91蜜臀熟女| 在线中文字幕极品av| 婷婷色综合欧美日韩| 亚洲另类色综合网站| 亚洲av热热色| 99成人| 欧美午夜一区二区三区| 强奸乱伦AV一天堂网| 人妻熟女一区二区三区视频| 成人十八禁日韩欧美一二三| 白嫩嫩一区| 插欧洲美女欧美精品| 啊v在线观看视频| 中文字幕一区二区三四五区日日骚| 少妇超碰在线| 日韩探花精品在线视频| 91在线免费精品视频| 中文字幕福利视频一区二区三区在线观看| 91挑色欧美| 天堂九九九九九九九九九| 蜜乳av首页| 欧美另类精品xxxx| 亚洲 欧美 日韩 国产一区二区| 老司机午夜福利视频一区二区| 五月丁香啪| 日本色色色视频| 日韩综合无码色欲vv| 亚洲国产精品无码AV久久| 97中文字幕一区| 中出789在线视频| 亚洲情色1区| 操狠狠| 激情五月综合网| 蜜臀AV网站| 中文字幕一区二区韩| 少妇一区二区三区高速| 探花精品 一区二区| 三级色影综合网| 久肏视频字幕| 久久人妻一区二区三区高清| 国产精品久久久久久久久久久久久久久久久久 | 亚洲另类综合欧美| 色综合久久久久| 97最新在线播放视频| 熟女人妻一区二区三区| 免费一级特黄特色大片在线观看看| 亚洲乱色熟女一区| 乱性AV| 欧美日韩大香蕉| 人人搞人人插人人操| 92一区二区| 少妇高潮九九九九| 亚洲色人阁| 欧美激情内射| 夜夜青青无码影院| 操淫穴亚洲五月丁香| 亚洲欧美一区二区不卡视频播放| 男人干美女| 青青草国产亚洲精品久久 | 亚洲综合嫩| 国产91美女视频| 久久久久久人体| 黄色工厂这里只有精品| 日比av无码| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 十八禁黄色| 大逼色网站| 91高潮| 欧美日韩在线小说| 亚洲欧美日韩偷拍色图| 国产1024在线播放| 家庭乱伦国产精品| 国产精品白丝在线播放| 日婷婷| 无码天天操| 日本Xx性爱| 超碰91在线| 丁香婷婷色五月| 七久久久| 69人妻精品一区二区绯色| 亚洲综合97中文网| 丝袜综合色图| 97爱b| 精品乱码在线观看| 日本2020一区二区| 九九九九9999| 亚洲色图欧美激情| 亚洲国产精品V?在线播放| 超碰在线人妻中文字幕| 国产AV色黄看到爽| 日本www操操操| 九九99精品| 久久综合乱子伦国产免费| 男人亚洲91首页在线| 麻豆久久久久久久久丝袜| 超碰夫妻97| 久久精品一区二区三区蜜桃臀| 麻豆天美在线| 九九九精品| 国产福利视频精品视频| 日韩无码三级影院| 91精品无码人妻系列| 久久久久久亚洲精品不卡人乳| 大香蕉伊人网WWWn0n| 天美传媒在线一区| 91麻豆天美国产欧美高潮| 亚洲国产成人综合碰碰三级经典| 亚洲精品97| 色就色综合| 亚洲无码一区二区三区三州| 美女黄色一级A视频| 1区2区3区中文字幕日韩| 亚洲欧洲色情高清| 人妻熟女一区二区三区视频| 性无码专区2020| 日欧亚洲二三区大片不卡| 日日日日日| 91在线色| 人妻激情视频| 亚洲欧洲无码bt精品合集| 久久久精品视频免费观看| 日韩欧美麻豆大片| 亚洲综合校园春色| 加勒比综合网| 丁香五月综合| 天天肏美女| 免费亚洲国产精品久久一区| 久久精品超碰| 亚洲 自拍偷拍 欧美| 国产精品青草综合久久| 人妻精品4K4K4K4K4| 日韩国产九九精品一区二区三区毛片| 亚洲欧美另类图片| 狠狠色噜噜狠狠狠狠狠色综合久久 | 精品一区二区在线针对华人免费观看这里只有精品免费观看 | 欧美 综合 亚洲| 91爱啪| 八人操人人摸人人看| 一级久久性爱视频| 亚洲色图欧美色图制服丝袜| 超碰97.com| 一区操逼| 激情自拍 校园春色| 18岁禁 茉莉成人久久| 色综合91好| 自拍偷拍 日韩无码| 伊人五月天青青草婷婷| 欧美日韩亚洲国产中文永久天天看| 97九色| 色色色999| 免费超碰97久久| 黄色无码高清黄色无码网站| 国产一区在线观看无码AV| 久久精品一区二区三区不卡| nuu12国产麻豆精品| 亚洲无无码αⅴ每日更新| 午夜免费视频1000| 91欧洲入口| 国产欧美精品日韩区二区麻豆天美| 久日综合网| 欧美日韩另类字幕中文| 午夜精品久久久久久久久久久久久| 丝袜人妻av一区二区| 亚洲αv一区二区三区| 四季AV综合网址| 日韩中文字幕视频| 乱伦系列一区二区| 久久久不能久久久久| 男人天堂久久精品不卡| 中文人妻av高清一区| 国内精品不卡无毒99999| 国产精品另类一区大香蕉| 亚洲欧美自拍偷拍| 九九九综合精品| 日韩人妻无码不卡网站| 欧美玖玖爱免费玖玖| 丁香七月婷婷| 色色国产| 婷婷20月天青娱乐| 在线无码网站| 区一二区日韩亚洲乱码av电影| 日韩一级二级三级| 99性视频| 五月天九九日国产精品一区二区三区| 色天使亚洲综合在线观看| 亚洲色图 欧美热图 清纯唯美 另类自拍 | 肏逼视频日本| 极品色社| 97超碰色色| 99色综合| 91N综合网| 国产亚洲日韩在线三区黑人| 91久久堂| 91精品女厕偷拍视频| 久久精品72| 亚洲AV秘无码一区..| 啊啊啊啊啊操我视频| 九九碰九九爱97超| 97久久精品亚洲| 久久久久久久唑| 欧美日韩高潮喷水91| 干超碰碰熟女| 欧美国产日韩清纯唯美| 日本欧美m v精品网站加| 欧美天天综合在线| 五月香婷婷| 啊啊啊啊啊啊好多水| 色色五月天婷婷| 色悠悠伊人网五月天| 国产成人免费观看在线视频| 嫩草 我啊~嗯~在线| 中文字幕免费看大片| 九一国产精品| 无码少妇精品一区二区60岁老人| 欧美91丝袜| 日韩欧美中文日韩欧美色| 九9精品| 国产一区在线免费播放| 青青草在线视频美女| 99热这里是精品| 99re黄| 97WW精品| 国产JDAV无码视频在线观看| 久久综合精品一区二区三区| 中文字幕五月婷婷免费| 亚洲影院小综合| 久操凹凸视频| 欧美精品欧美精品系列| 无码自拍SM| 九九热九九| 中文字幕加勒比海高清无码免费视频| 亚洲男人综合| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 人妻一区二区三区四区视频|