亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色综合久久88色综合久久天天| 91oumei| 久久久久久波多野吉衣高潮| 日韩午夜精品一区二区三区电影| 蜜臀99久| 98福利在线视频| 熟女人妻一区二区三区| 干B网| 亚洲综合113页| 波多野结衣先锋影音| 日日躁天天躁狠狠躁| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 九九在线视频| 2024黄色视频| 吊色| 蜜桃传媒一区二区亚洲| 精品性爱一二三区| 操www| 毛片99-全集电影手机免费观看完整-B029AV | 天天搞欧美| 青青草九九九九九| 国产真实野战在线视频| 人人妻人射| 好爽视频在线观看视频 | 91精品91久久久中77777| 日本免费一区二| 欧美色性爱| 精品一级毛片在线观看| 色吊丝 日日骚 清纯唯美| 蜜桃在线观看一区二区三区| 天天弄天天操| 欧美顶级黄片AAAAA在线免费看| 婷婷久久五月综合激情| WWW啪啪的com| 桃花色综合影院| 欧美色吧综合| 青青操日韩| 久日91在线| 婷婷爱五月| 中文字幕成人乱码熟女精品国50 | 国产精点久久久成人| 3571色综合一区二区二区| 青青草在线视频美女| 强免费黄色网址| 深夜激情| 精品区国产区一区二区三区| 欧美色九九| 色婷婷狠狠| 超碰色老头| 人妻熟女午夜精品在线| 欧美精品23| 天天日美女的B| 天天躁日日躁XXXXYY| 玖玖超碰熟| 97色色视频| 亚洲一二三四区| 丁香婷婷九月| 欧美呦呦性爱| 啊啊啊啊网站| 欧美97视频| 欧 美 自 拍 偷 拍| 黑人精品久久97| 久草大| 国语精品av| 欧美制服网站美腿丝袜| 乱伦1色页| 蜜桃臀一区二区aV| 91美女视屏| 一级片视频啪啪| 噜噜噜亚洲精品| 嫩草影院性色| 999久久久免费精品国产牛牛| 国产污视频麻豆传媒一区二区| 精品亚洲黄色片 国产精品导航一区二区| 成人情色综合网| 91超碰人人| 欧美精品日韩久久久九| 午夜一区| 老女人老91妇女老热女| 91视频国品一二三区| 91亚洲色人| 国产日韩中文字幕欧美| 91高跟美女在线播放| 国产92麻豆天美精品色欲5| 色香综合| 97亚洲在线| 欧色综合| 亚洲青色欧美| 美腿色图| www.色婷婷| 自怕偷自怕亚洲精品| 上床啊啊啊| 伊人玖玖网| 加勒比大香蕉视频在线| 国产中文精品一区二区在线观看| 国产精品一二三区18| 男人的天堂kva| av大香蕉网站| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 亚洲激情 欧美色图| 操逼无码一区| 日本精品网站在线中文| 亚洲无码超碰免费| 激情综合网激情综合| 国产后入清纯| 91草草草| 中文字幕久久精视频久久大全| 欧亚乱色熟女一区二区| 狠狠色婷婷| 91超碰人人操| 97人人干| 丰满人妻-区二区三区免费| 乱伦AVxx| 国产精品人人爽人人做可爱福利| 久久丁香久草综合网| 亚洲黄色| 少妇熟女一区二区三区| 春色91| 国产和美国毛片| 九九九九日本| 色五月激情AV在线| 超碰97人人乐| 欧美草草| 天天综合麻豆视频| 九9精品| 性欧美天天| 清柠毛片| 伊人天堂在线| 中文字幕人妻色偷偷久久皮| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | 啊啊啊快操我视频| 欧美在线第五页| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 天天躁日日躁xxxxx| 爆操无码| 91在线页| baiduhicn.com。| 欧美日韩美女精品久草一区二区三区| 国产超碰欧美| 精品九九九九| 国产AV激情无码久久无码| 国产精品婬乱一级毛片彝族| 嗯嗯嗯好爽| 蜜桃视频精品一区二区三区| 色眯眯av| 久久性爱视频99| 成人七区| 人人天天欧洲| 极品后入免费视频| 色图综合| 女同性恋久久| 国产性刺激| 久湿久久 | 国产在线激情| 被窝影院午夜看片无码| 一区二区三区欧美激情| 国产suv精品一区二区四区999| 97精品国产精品免费观看| 亚洲中文sv| 久久精品国内Av熟女高清| 亚洲 欧美日韩 另类| 精品免费一区二区三区在线亚洲人成| 男人天堂无码| 亚洲精品人妻在线| 99久久无色码| 五月天九九日国产精品一区二区三区| 26uuu久久| 1禁看欧美黄片免费看| 亚洲性综合9| 亚熟hd视频在线| 欧美人妻制服| 欧美日韩999| 久久精品国产精品| 欧美色www亚洲国产阿娇要播| 91艹B视频| 夜夜中出国产| 丝袜美腿操av| 99热这里只有精| 日韩色女精品| 日本免费人成视频播放120秒| 99这里有精品视频| 欧美图片色五月天| 久久久久久国产无码精品| 亚洲中文字幕乱码无码一区二区| 67914在线兔费成人视频| 国产精品亚洲高清在线| 婷婷情色五月天| 9久热这里只有精品| 一级aaaaa欧美中文字幕录像片| 97舔舔| 日韩日韩日韩-国产乱码精品一区二区| 国产精品麻豆免费视频| 97精品97久久| 欧美aaaaaaa| 久久久9品一区二区三区| 97欧美资源| 成人性爱电影一区二区| 91精品少妇搡搡搡| 日韩一区二区高清在线观看的| 国产九九久久久精品| 好爽视频在线观看视频 | 中国女人内射6XXXXX| 精品176精品2| 免费αV在线视频| 亚洲天堂性爱| 看大黄色大片原件| 97天天插| 久久麻豆一区二区| 91久久久亚洲| 一区 欧美 日韩 麻豆| 久热影视| 亚洲在钱| 久久这里只精品99re66图| 久久九九热| www久久99| 欧美亚洲首页| 射欧美综合| 国产精品福利资源在线尤物| 欧美亚洲AN| 国产自产自拍| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 欧美日韩国产黄色片| 超碰97玖玖爱| 日本亚洲熟女视频| 国产久久久久久| 九九十八精品| 午夜影美女日鸡鸡天天视频国产| 高颜值美女口爆高潮浪叫| 丝袜六区| 一级黄色性爱A级片| 婷婷激情丁香| sss视频华人在线| 国产成年精品高清在线观看91| 欧美猛交黑寡妇中文字幕| 久草国产在线视频| 春色91| 亚洲蜜臀懂色| 日韩成人大片在线观看| 思思热国产高清| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 亚洲高清色综合| 久久久久久久久久久人妻| 青青免费在线视频一区| 超碰97人人乐| 欧美精品双插| 综合久久中文字幕综合日韩精品| 亚洲加勒比久久日本道| 免看60秒涩涩视频| 日韩美女久久一区二区三区| 欧美在线观看综合国产| 亚洲精品国产精品成人| 97久久精品不卡| 久久精品视频久久久| 一本大道不卡一二三区| 国产精品一区二区密臀| 久久久久9999精品九九九| 色色国产| 伊人久久88国产女| 国内毛片无码一级毛片| 久草免费福利在线播放| 凹凸视频在线一区二区| 亚洲色图欧美| 少妇高潮一区二区三区在线| 亚洲欧洲无码一区夜| 97天天爽| 日本欧美国内在线| 黑丝自慰喷水网站| 一区二区三区亚洲| 国产日韩无码一区二区三区久久区| 欧美偷偷网| 亚洲中文字幕日产无码久久| 国产精品91ai| 久久久久无码| 麻豆精品久久久久久久| 色婷婷电影网| 日日碰狠狠添天天爽超| 亚洲成a人片在线观看中文!!!| 人妻少妇久久中文字幕一区二区 麻豆 | 国产原创精品| 人妻嗯啊啊在线播放| 亚洲AV无码成人精品久久| 成人av在线播放| 99热| 日韩强奸av| 97在线看| 在线综合网| 精品久久97| 俺去啦自拍| 欧美乱妇狂野欧美在线视频| 精久久久91| 久久手机好看网站| 国产久久久9999| 久久天天摸| 九九av| 九九黄色网| 日韩中文字幕二区| 蜜臀久久99精品久久久老,,| 日韩精品 资源| 综合色播| 天美精品av| 午夜精品久久久久久久男人的天堂| 国产精品亚洲美女久久久久| 婷婷伊人| 久久熟女人| 北京专精特新企业招聘信息| 狠插 制服 自拍| 天天日天天射天天干| 欧美大香蕉97| 亚洲中文电影| 新91视频.cmp| 操逼网站网站| 中文字幕人成乱码熟女香港| 国产av波波国产精品| 欧美精品一区二区少妇免费A片| 精品日韩人妻视频| 激情接吻视频久久久久久| 色噜噜精品一区二区三| 婷婷久久五月天| 日韩97超碰中文字幕| 久久久999网站| 国产精品高潮久久AV| 东京热不卡视频| 综合激情一一91| 熟女久久| 日韩国产精品人妻无码久久久| 一区二区三区美女超清| 伊人久久大香线蕉无码| 美女被艹尤物视频| 欧美精品成人亚洲| 国产十八禁视频| 亚洲蜜臀精品视频久久| 日产操逼| 午夜久久无码1000合集| 久久婷婷一区二| 日日AV加勒比| 综合 亚洲 欧美| 亚洲图片日本AⅤ欧美在线| 亚洲αv一区二区三区| 丁香五月电影| 97视频在线观看网站| 中欧人妻丝袜中文字幕| 亚洲AV无码AV吞精久久久久| 大香蕉综合在线| 狠插 制服 自拍| 欧美日韩精品久久久久东北老熟妇| 天天综合中文字幕 91| 综合国产影视三级| 五月婷视频| 91处女视频在线观看| 中日韩久久久免费看| 人人操欧美风骚| 亚洲二区精品在线观看| 嗯~啊~快点 死我视频| 97天天插| 中文字幕五月婷婷免费| 丝袜美腿欧美| 激情综合 婷婷五月 红杏| 岛国黄片网站| 亚洲色五月| 天天操天天日青青草超碰av| 热思思免费视频| 中文字幕 国产区| 人人妻人人色| 91精品微拍福利| 伊人AAA| 五月天人妻综合| 澳门黄片一香蕉视频| 久久性爱视频| 天堂网亚洲区手机版| 国产高清成人mv在线观看| 操九九九九九九| 999国产精品999久久久久久| 91爆操视频| 日韩啪啪啪视频| 91丝袜在线观看| 久久激情网| 亚洲天堂久| 操逼片国产| 中文有码第五页| 亚洲风情在线观看| 开心五月深爱五月| 麻豆熟妇乱妇熟色A片在线看 | 91宗合网| 日日夜夜干| 青娱乐 青青青操 日逼| 黄色性爱网网| 91在线一起| 免费A V在线播放| 日韩天天本| 久久男人精品| 欧美亚洲成人在线一区二区三区| 久操网无码在线| 97色涩| 一区二区三区亚洲| 一二三四视频在线社区中文字幕| 操逼免费视频无码国产| SUV一区二区在线看| 中文字幕一区二区日韩网| 欲色影视综合吧| 一区操逼| 天天日美女的B| 黄片免费久久久久久久| 精品白丝一区| 久热9| 91熟女丨91老女人| 国产精品久久久亚洲一区| 91 丝袜在线播放| 日本天堂网| 久热在线精品免费观看| 成人片视频| 亚洲精品人妻吞精av| 蜜臀99久久精品| 人妻-91porn| 国产日韩怡红院| 伊人AAA| 人人么人人操| 天天热精品| 五月天丁香网| 中日韩免费看男女操逼大全| 91美女在线视频| 亚洲AV操| 麻豆天美一区二区| 屌妞视频久久久久久久久久久久| 熟女字幕| 男人的天堂2019| 亚洲 欧美 小说| 亚洲欧洲网站免费观看| 激情文学88| 天堂伊人久久| 天综合中文| 老司机天天操| 欧美亚洲中文字幕| a人欧美综合天堂麻豆| 亚洲精品一区二区三区在线播放| 91成人无码| 色娱乐色呦呦夜夜夜夜av| 岛国免费黄色网址| 天天天肏屄欧美| yazhououmeizongya| 97AV爱| 天天色,天天干,天天干| 97在线观| 激情五月天校园春色网| 欧美性特| 亚洲国产成人精品无码专区| 狠狠操狠狠操操| 日韩综合97P| av中文字幕在线熟女| 国产成人亚洲精品无码古代早漏男| 国产日韩美女小穴视频网站不卡| 久久久久久久久九九久孕交| 性爱综合网| 精品人妻中文字幕4399| 综合久久97| 四虎影视永久在线观看精品免费网站| 欧美第38页| 丁香五月天激情| 欧美一级特黄淫片在线观看| aa片毛片| 五月天伊人网| 51一区二区三区| 天天日天天舔东京热| 五月天婷婷基地| 视频国产精品未满十八禁止在线观看| 国产精品视频内谢女人| 大香蕉淫人网| 国产白丝网站| 国产精品动态一区二区三区四四| 操一区| 日本天堂网| 开心激情婷婷| 六月丁丁香| www.色综合| 成人免费福利在线观看| 亚洲成人av电影在线| WWW操逼| 九七超碰| 精品人妻一区二区三区日产| 麻豆av一区二区| 久久久久久久久女黄| 欧美激情亚洲情色| 老女人91| 久久人妻少妇| 一二三卡欧美日韩人妻免费精品| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | aaaa黄片| 成人日本视频人妻在线| 国内三级自拍小视频在线观看| 国产操操日韩三级黄| 波多野结衣被操50分钟免费视频| 国产女人与拘做受视频免费 | 亚洲性刺激| 好一吊区二区| 欧美草草高清日韩视频| 欧美情色亚洲| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 九99久久| 欧美春色| 日本成人在线不卡一区二区三区| 国产精品爆乳懂色蜜乳| 韩国免费播放一级毛片| 亚洲精品成人动漫在线| 性爱Av免费| 青娱乐国产精品| 亚洲最大无码中文字幕网站| 超碰人人在线| 久久久精品国产亚洲伊人| 成 人 影视 一区 二区 三区 四区| 久久久工口| 久久只有精品一区二区三区| 97操在线| 欧美春色| 熟妇综合一区二区三区| 国产最新小视频在线播放下载| 日本性爰一道本| 亚洲色图殴美色图激情乱伦| 红杏大香蕉| 91偷拍欧美亚洲| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 亚洲欧美性生活| 日日噜噜夜夜久久亚洲一区二区 | 日韩美女高潮喷水视频| 日日干日日摸| 超碰在线欧美性爱激情| 午夜爽爽爽在线观看永久入口姬片| 久久精品三级影视| 五月天春色激情网| 成年人免费观看网站| 亚洲激情视频| 99热99在线播放激情| 色噜噜婷婷| 亚洲 欧美 小说| 天天久久久久久| 91色人妻| 五月婷婷六月色| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 欧美中文字幕男人天堂久久精品 | 精品无码一区二区| 超碰在线在公开超碰在线在公开| 伊人天天久久动态图| 国产一级作爱毛片| 久久99国产综合精品女同| 中国熟女91| 日韩性爱一级片| 巨爆乳肉感一区二区三区竹菊影视| 亚洲中文字幕乱码无码一区二区| 精品人妻一区二区蜜桃视频| heyZO天然素人无码AⅤ专区| 亚洲宅男天堂| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 国产精品一区二区 尿失禁| 在线女人91| 人妻另类| 日韩国产在线观看av| 天天操天天射青青草| 97综合久第一页| 飘花国产午夜精品不卡| 黄页18禁| 伊人麻豆传媒| 久热免费视频| 超碰吊日色| 欧美黄片欧美黄片xxx| 久久中日麻豆| 一区二区三区美女超清| 精品区9| 日韩天天综合| 亚洲欧洲国产综合av| 欧美日韩婷婷中文| heyZO天然素人无码AⅤ专区| 蜜桃传媒一区二区亚洲| 大色综合| 久操高青| 一区二区乱码福利| 嗯嗯嗯啊啊啊在线免费观看| 综合色欧美| 午夜一区| 久久三区四区| 婷婷五月天小说| 伊人国产AV| 国内精品久久久久影院亚洲| 国产日韩中文字幕欧美| 强奸乱亚洲| 亚洲双插| 九九av| 国产精品乱码久久| 亚洲欧美激情另类色图| 大香蕉伊人网| 欧美日本久久精品一区| 午夜.DJ高清在线观看免费7 | 熟女人妻av在线资源,黄色的资源| 玖玖爱视频网站| 99视频内射三四| 欧美在线天堂| 国产视频三区四区| 国产一区二区在线播放量| 91精品成人| 中文字幕中文字幕一区二区| 91国产伊人大香蕉| 狠狠干狠狠色| 国产精品午夜AV完会免费| 亚洲AV乱码专区国产噜噜亚洲| 日本人妻丰满熟妇久久久久久| 嗯阿好爽好紧| 99久久婷婷丁香| 四虎精品一区| 精品久久久久久亚洲| 国产精品福利资源在线尤物| 欧美中文狠| 成人性爱美曰韩| 唯美清纯 妖精视频| 国产女上位好爽在线| 精品日韩人妻精品一二三区| 久久熟女久| 五月天社区| 日韩三级伦理中文字幕| 亚洲无限观看| 另类在线| 久久性爱精品一区| 在线色资源| 大香蕉亚洲中文| 狠狠色噜噜狠狠狠狠2018| 夜色97| 91 在线亚洲| 国产精品一区午夜福利| 99久久99九九99九九九| 青久操| 久久伊人大香蕉| 青娱乐福利99| 91天堂丝袜美腿| 日本天堂网| 5月婷婷6月六月丁香| 91在线免费精品视频| 日韩亚洲97| 江都AV在线| 日韩免费性爱视频在线观看| 日韩激情无码影院| 欧美激情 亚洲色图| 天天做天天爱天天爽AV| 欧美操人| 凹凸久久人人| 日韩熟女三十乱伦| 天天夜夜rb| 亚洲综合情色| 精品美女在线视频| 欧美午夜精品久久久久久3D| 天天做日日做天天欢。| 日韩三级在线观看网站| 亚洲小说视频| 久久久久深夜无码| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 爱妃国产亚洲视频中文字幕| 亚洲精品黄码久久久久| 亚洲天堂电影网| 超碰性爱97| 国产精品久久久亚洲一区| 黄片www.| 精品一区二区综合熟妇| 国产午夜福利电影免费在线观看 | 亚洲综合骚逼| 少妇与黑人高潮在线| 天天干天天做| 精品久久久亚洲AV成人网站| 国产大学生口爆吞精合集| 国产资源中文字幕在线| 久久激情婷婷| 亚洲男人的天堂va亚洲男人社| 日韩黄色小说| 欧美最大综合网| 亚热日本熟女| 91性高| 美女的肌被草喷水视频| 爆乳免费黄网站| 亚洲 欧美都市激情| 啪啪综合网| 久/久精品99看9| 爱射综合| 99在线精品视频| 婷婷五月天激情小说| 99自拍视频在线观看| 激情久久久| 日本123区操B视频| 黄网在线播放| 97色碰| 五月婷婷六月激情| 啊啊啊啊嗯嗯嗯用力好爽 | 91久久久久免| 欧美专区第一页| 青青草日逼视频| 国产13区| 四季AV一区二区凹凸精品小说| 青青操在线亚洲视频观看欧美在线 | 国产高清精品一区二区三区毛片| 收看日本人日bb| 三级AV入口| 久久夜黄色无码A级大片| 色色色天美视频| 亚洲福利中文字幕在线| 日本色婷婷| 天天综合精品| 啊啊啊好舒服好爽啊啊啊视频| 成人热久久精品| 熟女精品一区二区在线观看| 中文字幕无码不卡啪啪| 日韩三级av片| 91天天综合| 天天日天天搞天天干| 日韩AV无码中文一区二区| 国产精品视频精品一二| 乱精品一区字幕二区| 国产天天骚| 欧美亚洲se91| 午夜亚洲| 强奸乱伦 亚洲一区| 国产美女裸体秘 永久无遮挡| 国产区91柔拿会所技师| 99热色精品| 婷婷激情一区二区三区俺也去| 另类视频在线| 本道综合精品| 五十路六十路七十路熟婆| 国产亲戚伦亲在线| 伊人天堂在线| 精品九九九九九九九九九| 青青青草原| 婷婷超| 亚洲成人性爱在线观看| 亚洲色鬼| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 久青草影院| 一区二区 电影 亚洲| 精品久操| 极品欧美一区二区三区| 熟女突然公开看18禁影片| 欧美熟妇视频| 九一国产精品| 被窝影院午夜看片无码| 亚洲欧美国产日本一区二区三区| 国产精品久久9| 亚洲女人毛茸茸91| 91色人妻| 成人婷婷丁香| 91久久久久久久| 国产毛片片精品天天看视频| 久久一区二区三区入口| 中文97国产| 搡老女人老熟女91老熟女综合网| 伦伦成年午夜免费视频| 2001天天操| 人妻少妇精品无码专区二区密桃| 精品久久无码午夜福利| 激情99| 中文字幕免费看| 日韩无码视频黄色| 欧美日韩高潮喷水91| 欧美偷偷网| 人人看人人爰人人操| 啊啊啊用力在线观看| 91模特在线观看| 一线黄色免费性爱片| 日韩av熟女一区二区三区成人| 超碰97人妻自拍| 欧美人妻一区| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 无码视频黄色网战| 330dv亚洲成年视频网| 日本东京热久久久电影| 少妇二级| 欧美日韩久久精品爱爱| 欧美亚洲中文字幕| 日韩中文字幕精品一二三事国产精品| 国产精品嫩草久久久久| 男插女青青影院| 韩国免费播放一级毛片| 天天色香欲综合网| 亚洲色交| 香蕉在线一区二区三区| 妇女一区二区三区| 长长久久曰曰夜夜成人网| 超碰97综合在线| 五月丁香综合| 中文字幕乱妇免费视频| 久草五月| 久久免费9| 久久一二三四五六七八九区区区| 久久久青青草| 亚洲男人bt天堂| 午夜超碰| 久久久久久大| 丁香五六月啪啪| 91国产大片| 欧美日日操| 亚洲十八禁止| 一区二区三区视频在线观看免费| 97chaopenrihan| 色婷婷网| 丰满熟女一区二区三区在线播放| 国产精品国产自产拍高清AV| 无码久久亚洲高清,| 狠狠干精品一二三四五六2022| 久久久久亚洲三级电影| 在线观看视频91| 日韩成人精品视频自拍| 97国产精选| 五月丁香六月激情| 伊人国产成人av网站| 天天碰操中国年青熟妇| 十八禁的黄污污免费网站| 天堂精品| 91狠| 久久天天艹| 天天热精品| www.夜夜| 18禁无码永久免费无限制| 午夜福利在线合集| 五月大香蕉| 人人模人人看| 久草精品视频| 久久香蕉网| 超碰免费人妻人人| 在线小说视频一区| 成人综合色网| 日日插夜夜| 美女爽到高潮91| 91 丝袜在线| 國產尤物AV尤物在線觀看| 丰满人妻-区二区三区免费看| 九九九九九九九九九九九免费国产| 九九精品无码专区免费| 性高潮久久久| 欧美丝袜激情| 九色婷婷| 国产黄色影片在线观看| 人妻91少妇| 色九九九九| 色婷婷五月综合| 高潮的A片激情扒开一区| 亚洲日韩资源| 啊啊啊97视频| 婷婷久久综合| 色欲蜜臀AV| 91肉丝| 久草毛片| 自拍视频大全亚洲专媒视频/一区二区三区| 亚洲无码AV九九九| 国产精品久久久久久亚洲色欲| 久久精品99| 成人精品视频一区二区| 日本女人操逼| 人人操人人摸人人看人人干| 福利视频网站| 玖玖综合视频| 日韩丝袜高跟制服在线观看| 人妻激情另类| 亚洲欧洲国产综合av| 97色伦97色伦国产欧美| 久久这里只| 综合天天。| 久久久久9999妇女| 九九久久久久久爱| 99∨VTV| 国产精品成人蜜臀AV在线| 亚洲国产成人7777| 国产9区| 亚洲欧美91| www.acm成人黄色毛片| 国产精品suv一区| 国产天天骚| 天天综合在线4| 五月天色图| www成人啪啪18秘 免费| 国产精品视频麻豆入口| 秋霞操逼片| 青娱乐淫乱1314| 97在线视频免费| 特污精品女优骚货黄色视频在线免费观看| 粉嫩久久久极品| 亚洲综合69| 97频视在线| 啊啊啊啊操死我了| 大香蕉欧美日韩| 97 超碰 人人做 人人爱| 一牛影视久久久一区二区三区| 99这里只有精品| 人妻久久久久久| 夜夜操狠狠操| 色五月婷婷在线| 精品人妻伦一二三区久久| 国产激情视频在线观看| 97色干| 狠狠色综合网| 婷婷五月天_亚洲小说欧美激情另类_精品久久国产字幕 | 免费精品人妻一区二区三| 欧美日韩国产另类综合| 一级片在线观看高清无码| 黄色片一区二区三区四区五区| 超碰国产精品无码| 黄色电影在线播放综合网站| 91精品久久久| 永久免费发布性爱网| 亚洲AV无码黄色强奸| 插日本熟女视频| 亚洲AV成人无码一区二区三区在线观看 | 秋霞色色影院| 午夜福利一区二区影院| 亚洲三区视频| 91丨熟女丨丰满熟女| 曰韩av中文字幕专区| 色婷婷综合网| 无码91| 99抽插| 丝袜色综合| 天天干夜夜鈤| 秋霞Av理论一级在线| 五月天久久综合网| 极品尤物自安慰| 色99视频| 澳门成人网站久国产日韩| 成人色女网| 亚洲综合 欧美| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 暖暖精品二区三区观看| 国产精品久久久久久久久久久久久久久久久久 | 九九久久99| 热天堂一区二区| 天天综合网AV91| 蜜臀久久99精品久久久久电影| 亚洲情欲| 免费的很黄很污的全部视频| 中文字幕在线高清男人的天堂| 色蜜AV| 加勒比海成人视频网| 18精品一二区| 精品蜜乳AV免费观看| 欧美日韩一区二区三区四区蜜桃| 91一起操| 91精品人妻一区二区-全集完整版免费正片国语-B02AV | 日韩中文9| 色欧美亚洲| 亚洲中文一区二区三区| 五月婷视频| 另类图片亚洲加勒比另类图片亚洲加勒比另类图片亚洲加勒比 | 爱爱60秒免费视频| 自拍亚洲综合| 亚洲色宗合| 国产AV毛片| 96精品在线| www.高清无码诱惑一区.com| 天天久久久久久| 久久黄片国产一区二区| 国产亚洲国产超碰| 四虎AV影视国产精品亚洲精品| 四虎884| 少妇一级婬片免费放一级a性色.| 久热9| 色www精品视频在线观看| 天天肏天天干| 思思热免费视频观看| 中美日韩毛片| 亚洲天堂资源在线| 404操逼福利视频| 99爱久久视频频| 日本布卡一区二三区| 精品亚洲国产成人精品| 嗯嗯啊啊啊好舒服| 91A欧美电影网站| 黄色欧美性爱视频| 97看操| 综合久久少妇中文字幕| 国内三级自拍小视频在线观看 | 亚洲丝袜色| 不卡六六在线91| 又粗又长又爽在线观看| 伊人国产av| 一区二区影视| 婷婷综合网| 韩日自拍| 福利操逼| 日韩av色图综合| 国产精品午夜AV完会免费| 五月丁香色情| 人妻 欧美亚洲| 日韩久久.一级黄色片| 国产60区。| 搡老熟女免费视频| 精品国产自在在线99| 精品天堂| 五月天婷婷色| 日韩三级av片| www99热| 色噜噜日韩精品| 国产18精品亚洲精品| 免费97视频| 免费在线黄片视频| 亚洲精品97中文字幕| 交换娇妻呻吟声不停中文字幕| 后入人妻一区| 亚洲另类欧美精品| 天天日日日射| 少妇厨房愉情理伦片bd在线观看| 九九久久久九九| 亚洲影院成人| 91丝袜美女| 亚洲在线网站| 亚洲妇色| 91av一区二区在线观看| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 极品内射| 日韩熟女乱伦中出| 综合网97| 美女黄频a美女大全免费皮| 国产精品一二三| 色色婷婷五月| 成人怡红院| av在线人气| 中文字幕精品一区欧美| 欧美论理片| 操比国产| 精品人妻一区二区三区免费视频| 涩涩五月天| 国产在线综合网| 日本大香蕉| 全免费a敌肛交毛片免费| 九九九不卡| 九九天堂| A 在线网址| 51一区二区三区| 日韩av女优在线免费一区| 操逼视频国产无套| 偷拍片久久| 天天爽夜夜操| 91被操| 加勒比性爱成人在线| 色情婷婷| se吧提供国产乱老熟视频胖女人| 天天摸天天舔天天操| 天天躁日日躁AAAXX| 亚洲情色综合| 中文字幕精品久久久久人妻红杏ⅰ| 在线强奷到舒服的无码视频| 久久岛国| 蜜臀色乳| 亚洲无码99| 伊人一区二区在线播放| 天天搞欧美| 在线女人91| 日韩精品永久在线观看| 少妇久久久久久久| 国产性爱欧美性爱在线| 久久久A∨| 久久综合国产精品国产| 日日骚网站| 日韩精品人妻中文字幕久久久| 久精品无码av一区二免费国产在线观看 | 色女综合| 国产女人成人精品视频| 人人爱人人乐人人操| 91熟女少妇| 欧美九九99久久精品| 爽 好舒服 无码刺激久久| 免费精品无码一级毛片牛牛影视| 久久久久久久六六 | 久久伊人五月天| 日韩中文字幕国产| 97中文热色| 2019午夜福利视频| 欧美专利1区2区3区4区5区免费| 国产男人又猛又粗又爽| 男女啪啪啪18禁网站| 97色欧洲| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 色图综合网| 国产黑白丝在线| 日韩78m视频| 97操97色| 99精品网| 亚洲欧美一区二区三区一猛片| 欧美gv在线观看| 热热色91| 蜜臀网址在线| 国产久久久久影院老熟女| 欧洲中文字幕| 国产剧情一区在线观看| 欧美黄片视频在线观看免费 | 91精品微拍福利| 极品色| 日本大香蕉综合网| 无码精品啪啪啪一区二区三区三州| 日韩15p| 日韩97超碰中文字幕| 熟女少妇一区二区三区| 神马久久久久久伦理片| 探花精品 一区二区| 欧美日韩不卡传媒| 97舔舔| 色色毛片| 人妻人久久精品中文字幕| 伊色综合天堂色97| 人干人人人操人人摸| 97手机日韩| 亚洲十八禁止| 亚洲精品久| 丁香六月东京热| 国产无马在线| 亚欧美综合网| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 一区二区三区欧美激情| 强奸抽插av| 国产成人五月天丁香花| 日韩欧美水蜜桃人妻| 99热免费| 91婷婷| 99久久精品无码一区二区| 东北少妇高潮zzzz| 色淫网站优优视频| 东京热大香焦| 超碰中文字幕人妻草一区| 超碰97精品在线| 国产成人无码网站在线视频| 国产一区二区三区视频在线看| 性一级黄色录像片网站导航| 男人的天堂日韩| 91在线丝袜视频| 日日日啊啊啊| 久久国产精品一级二级三级| 欧美日韩第一页| 人妻aa| 日韩乱伦影音先锋| 日韩中文字幕视频| 26uuu最新| 男人天堂网站| 久久二| 哈哈操电影| 男人天堂毛片| 美女天天干| 欧美激情一| 免看60秒涩涩视频| 青青草无码视频| 超碰1997| 国产视频大全| 久久大陆| 91超碰碰在线| 亚洲少妇激情视频| 美女91在线观看| 美腿丝袜偷拍亚洲欧美| 亚洲美欧999| 亚洲色性情三级| 插老姨肥穴| 蜜臀久久久| 精品一区二区三区四区外站| 青青草男人天堂| 日韩丝袜高跟制服在线观看| 丝袜视频一区二区在线播放国产中文 | 久9综合在线| 96国产精品| 老熟妇91| 中国人高清www色视频免费| 亚州一区二区| 欧美国产精品久久九九| 无码137片内射在线影院| 九九精品无码专区免费|