亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

eMMC BKOPS機(jī)制深度解析:從MMC協(xié)議到閃存后臺維護(hù)

eMMC BKOPS機(jī)制深度解析:從MMC協(xié)議到閃存后臺維護(hù) “MMC”這個詞我第一次認(rèn)真對待是在一次遠(yuǎn)程排查Android開發(fā)板卡頓的時候。設(shè)備連續(xù)寫了幾十GB日志界面開始間歇性掉幀dmesg里全是timeout重試SSH偏偏又能連上。同事丟過來一句“看看mmc bkops是不是在忙?!边@一句話把我從文件系統(tǒng)層直接按到了存儲芯片層。翻完eMMC 5.1規(guī)范才意識到這顆不起眼的黑色BGA芯片牽扯的是閃存介質(zhì)、控制器固件、內(nèi)核驅(qū)動三層協(xié)作的一整套邏輯。這也是為什么現(xiàn)在搜“MMC”相關(guān)熱詞幾乎都會帶著bkops一起出現(xiàn)——它就像eMMC的“加班時間表”平時看不見一出現(xiàn)就影響著設(shè)備性能。這篇就把這條線從頭捋一遍從MMC的起源講到eMMC內(nèi)部原理再拆開bkops這個關(guān)鍵詞最后落到工程實踐里的避坑經(jīng)驗。1. 三個字母MMC在不同圈子里各指什么1.1 先把最容易混淆的三樣?xùn)|西分清楚MMC這個縮寫在不同領(lǐng)域里各有歸宿。Windows運維那邊CLI里敲mmc打開的是微軟管理控制臺攝影圈老玩家口中的MMC是九十年代末的多媒體存儲卡而在嵌入式、手機(jī)、平板、工控設(shè)備領(lǐng)域我們說的MMC幾乎都指向eMMC——embedded MultiMediaCard嵌入式多媒體卡。如果你拆過一臺老安卓手機(jī)的主板會看到存儲部分是一顆焊死的黑色方形芯片絲印上可能有“eMMC”“Toshiba”“Samsung”之類的字樣它就是eMMC。這里有個容易混的點MMC插卡、SD卡、eMMC三者是“血緣關(guān)系”但不是同一物種。MMC卡MultiMediaCard1997年由SanDisk和西門子推出的可拆卸存儲卡外形比SD卡略厚今天的新設(shè)備基本見不到了。SD卡從MMC演進(jìn)而來兼容MMC協(xié)議但增加了安全認(rèn)證與版權(quán)保護(hù)機(jī)制外形更薄后來統(tǒng)治了相機(jī)和開發(fā)板市場。eMMC在MMC協(xié)議基礎(chǔ)上為嵌入式場景重度改造直接焊在板上不可拆卸內(nèi)部自帶控制器整個存儲系統(tǒng)被封裝成一顆標(biāo)準(zhǔn)芯片。這三者的關(guān)系可以這樣記eMMC是“焊死的SSD思維產(chǎn)物”SD卡是“能拔下來的MMC后代”。但它們在命令協(xié)議層面共享了大量設(shè)計基因。1.2 一條時間線從可拆卸卡到手機(jī)標(biāo)配MMC的歷史起點是1997年MMCAMultiMediaCard Association成立。之后MMC標(biāo)準(zhǔn)歷經(jīng)1.0、2.0、3.0幾個版本數(shù)據(jù)線從1位擴(kuò)展到8位速度從2.5MB/s爬升到幾十MB/s。1999年前后SD卡從MMC分支出去SD卡在消費市場上反超了MMC但MMC協(xié)議本身沒有死而是換了一條賽道活著。2004年前后MMCA并入JEDEC固態(tài)技術(shù)協(xié)會eMMC標(biāo)準(zhǔn)體系正式建立。此后JEDEC連續(xù)發(fā)布多個大版本eMMC 4.3引入Boot分區(qū)、RPMB重放保護(hù)內(nèi)存塊、可靠寫等能力這階段eMMC開始成為智能手機(jī)存儲標(biāo)配。eMMC 4.4 / 4.41完善系統(tǒng)喚醒、分區(qū)切換邏輯老設(shè)備上常見。eMMC 4.5加入緩存、Sanitize徹底擦除和本文重點的BKOPS機(jī)制。eMMC 5.0引入HS400模式理論帶寬達(dá)到400MB/s同時支持增強(qiáng)類可配置分區(qū)。eMMC 5.1修正了一批生產(chǎn)制造和可靠性細(xì)節(jié)是目前最后也是使用最廣的eMMC版本。后來UFSUniversal Flash Storage在中高端手機(jī)上逐步取代eMMC但eMMC沒有因此消失——它憑借低成本和成熟生態(tài)在平板、電視盒子、車載、工業(yè)設(shè)備、網(wǎng)絡(luò)設(shè)備里依然是海量存在?!皬S商還在大批量采購eMMC”這件事本身就說明這個標(biāo)準(zhǔn)依然有很強(qiáng)的工程價值。1.3 為什么廠商愿意為“標(biāo)準(zhǔn)化的閃存管理”買單早年用裸NAND做產(chǎn)品是件痛苦的事。三星、海力士、閃迪、東芝各家的顆粒接口不同、壞塊策略不同、ECC算法不同即使同一家廠商不同制程的顆粒行為也天差地別系統(tǒng)軟件得為每顆顆粒單獨適配開發(fā)周期和故障率都居高不下。eMMC的意義在于把NAND顆粒、控制器、FTL固件Firmware Translation Layer全部封裝進(jìn)一顆標(biāo)準(zhǔn)芯片對外暴露一套統(tǒng)一、穩(wěn)定的MMC命令接口。主控端不再需要關(guān)心底層顆粒是SLC、MLC還是TLC也不需要知道壞塊管理怎么實現(xiàn)更不用糾結(jié)磨損均衡算法是否有坑。系統(tǒng)只需要會發(fā)MMC命令、處理響應(yīng)就能穩(wěn)定使用任意供應(yīng)商的eMMC芯片。這種“標(biāo)準(zhǔn)化封裝”對產(chǎn)品研發(fā)來說省掉了大量底層適配工作對供應(yīng)鏈來說則意味著可以靈活切換多家顆粒供應(yīng)商而無需修改主板和驅(qū)動。用一句工程上的話總結(jié)eMMC把閃存管理的復(fù)雜度從系統(tǒng)軟件轉(zhuǎn)移到了芯片內(nèi)部代價是性能和靈活性稍打折扣但換來的是極大的通用性。2. 拆開一枚eMMC芯片BGA封裝里的三個角色2.1 引腳與物理接口CLK、CMD、DAT[7:0]和那些電源拿到一顆eMMC芯片最直觀的是它的BGA封裝常見球數(shù)在153、169、186等規(guī)格。引腳里最重要的幾組是CLK時鐘線主機(jī)提供決定傳輸速率。HS400模式下時鐘頻率可達(dá)200MHz。CMD雙向命令/響應(yīng)線主機(jī)發(fā)命令、設(shè)備回響應(yīng)都走這一條線。這里注意CMD線只有一根所以命令交互是半雙工的。DAT[7:0]8位雙向數(shù)據(jù)線實際支持1/4/8位三種總線寬度。位數(shù)越高一次吞吐越大。RST_n硬件復(fù)位低電平有效。這個引腳能讓eMMC在系統(tǒng)異常時快速回到初始狀態(tài)省掉軟件復(fù)位流程。VCC、VCCQ等電源引腳VCC供給主閃存核心VCCQ供給信號接口和控制器邏輯。不同速率模式對VCCQ的電壓要求也不同HS400通常要求1.8V。值得一提是eMMC的數(shù)據(jù)線是可配置的。系統(tǒng)上電后默認(rèn)工作在1位模式軟件讀取EXT_CSD了解設(shè)備能力后再通過SWITCH命令切換到4位或8位模式。如果驅(qū)動在初始化階段沒有正確配置總線寬度你會發(fā)現(xiàn)eMMC讀寫的吞吐低得可疑但并不會報錯——這就是那種“查了半天參數(shù)最后發(fā)現(xiàn)總線在8位模式下沒切過去”的問題。2.2 MMC協(xié)議的工作邏輯命令、響應(yīng)與塊傳輸MMC協(xié)議是典型的主從架構(gòu)。主機(jī)是唯一的發(fā)起方設(shè)備只能被動響應(yīng)。所有操作都由主機(jī)發(fā)送命令開始設(shè)備在完成命令后返回一個或多個響應(yīng)字。說人話就是主機(jī)問一句設(shè)備答一句全程不允許設(shè)備主動開口。初始化流程大概是這樣的CMD0GO_TO_IDLE把所有設(shè)備都拉到空閑態(tài)。CMD1SEND_OP_COND主機(jī)探測設(shè)備電壓范圍和工作條件直到設(shè)備返回“上電完成”。CMD2ALL_SEND_CID讓設(shè)備上報自己的身份信息CID包括廠商ID、產(chǎn)品名、序列號等信息。CMD3SET_RELATIVE_ADDR給設(shè)備分配一個短地址RCA之后的操作都用這個地址尋址。CMD9/CMD7等讀取CSD選定當(dāng)前操作的設(shè)備。CMD6SWITCH讀取或?qū)慐XT_CSD寄存器這是后續(xù)配置分區(qū)、總線寬度、DDR模式、bkops的關(guān)鍵命令。讀寫數(shù)據(jù)的流程則更直接主機(jī)發(fā)CMD17讀單塊或CMD18讀多塊再發(fā)CMD24寫單塊或CMD25寫多塊。多塊寫之前還可以用CMD23指定塊數(shù)避免由于邊界不確定導(dǎo)致跨塊寫被設(shè)備放大。這里要理解一個關(guān)鍵點MMC設(shè)備暴露給主機(jī)的地址空間是線性的、邏輯的。主機(jī)眼里這是一個又一個4KB的塊但設(shè)備內(nèi)部把這些邏輯塊映射到物理頁。這種“主機(jī)只管邏輯地址”的設(shè)計大大降低了上層軟件復(fù)雜度代價是每次寫放大、垃圾回收的實際情況主機(jī)并不能實時完全掌握。2.3 控制器和固件的三件大事映射、回收、磨損均衡eMMC內(nèi)部負(fù)責(zé)存儲管理的是一個微型“SSD主控”它內(nèi)置了FTL固件負(fù)責(zé)把上層邏輯地址翻譯成閃存物理地址。為什么要這套機(jī)制因為NAND閃存有兩條物理鐵律必須先擦除才能寫入而且擦的最小單位是塊Block一般大小為幾MB。寫的單位是頁Page一般4KB或8KB但寫入量小于一頁時也會占掉整頁多余空間稱為“寫放大”。因此如果主機(jī)要覆蓋寫某個邏輯頁里的幾個字節(jié)FTL不會真的去覆蓋那塊物理頁而是把新數(shù)據(jù)寫入一個空閑物理頁再把邏輯到物理的映射表更新過去。原來那個物理頁就變成了“無效頁”等這一塊里無效頁攢多了控制器會觸發(fā)垃圾回收把仍有效的頁搬家到別的空閑塊然后整塊擦除。磨損均衡也在這里做文章。垃圾回收會讓有些塊被反復(fù)擦寫有些塊卻幾乎沒動過。FTL要做的是讓所有物理塊的擦寫次數(shù)盡量接近否則個別塊提前到壽命上限整個設(shè)備的可用容量就會縮水。動態(tài)磨損均衡處理頻繁更新的熱數(shù)據(jù)塊靜態(tài)磨損均衡則會把長期不動的靜態(tài)數(shù)據(jù)搬去磨損較少的塊讓那些低頻塊也參與消耗。這三件事全部由控制器在芯片內(nèi)部悄悄完成不占用主機(jī)CPU。這也是為什么eMMC“只是個存儲芯片”但對系統(tǒng)體驗的影響卻可以很大——控制器內(nèi)部一旦忙碌外面的命令就會排隊等待表現(xiàn)在應(yīng)用層就是I/O延遲波動。3. bkops這條熱搜詞背后閃存為什么要“偷偷加班”3.1 閃存不自律數(shù)據(jù)保持、讀干擾和擦寫不對稱如果你只看FTL的日常似乎只要GC和磨損均衡做好就夠了。但閃存還有一些更陰間的物理特性需要在“沒事做”的時候定期維護(hù)這類維護(hù)操作就是Background Operations簡稱BKOPS。第一個問題叫數(shù)據(jù)保持。NAND閃存里的電荷會隨時間慢慢泄漏尤其是TLC和QLC顆粒電荷窗口小泄漏風(fēng)險高。一顆eMMC設(shè)備可能出廠后放在倉庫里半年再上電讀取時發(fā)現(xiàn)某頁的比特翻轉(zhuǎn)已經(jīng)超出ECC糾錯能力。設(shè)備內(nèi)部的讀刷新Read Refresh機(jī)制要把那些快要失效的物理頁讀出來重新編程一遍防止靜默數(shù)據(jù)損壞。第二個問題叫讀干擾。頻繁讀同一個塊會讓相鄰塊里的浮柵電荷受到影響久而久之也會出現(xiàn)位錯誤??刂破餍枰ㄆ趻呙枘切┳x密集的區(qū)域把內(nèi)容搬到新位置并擦掉被“讀亂”的原始塊。第三個問題是磨損均衡的滯后性。FTL的靜態(tài)磨損均衡不會每次寫入都立即執(zhí)行因為頻繁搬動靜態(tài)數(shù)據(jù)反而會造成額外寫放大??刂破鲿鹊较到y(tǒng)有一定空閑資源時分批次地調(diào)整那些磨損不均的塊。這些維護(hù)操作必須在設(shè)備上電后、主機(jī)發(fā)命令的間隙完成因為eMMC不知道下一秒會不會掉電。如果它永遠(yuǎn)等不到“空閑”就會在主機(jī)的下一次讀寫時強(qiáng)行插隊表現(xiàn)出來就是突發(fā)延遲。3.2 Manual BKOPS與Auto BKOPS兩種觸發(fā)方式的門道eMMC 4.5開始JEDEC正式把BKOPS機(jī)制寫進(jìn)規(guī)范。大體分為Manual BKOPS和Auto BKOPS兩種。Manual BKOPS手動后臺操作邏輯如下主機(jī)在合適的時候執(zhí)行SWITCH命令去讀EXT_CSD里的BKOPS_STATUS字段。該字段會給出一個狀態(tài)常見狀態(tài)包括無需操作No BKOPS、需要操作BKOPS Needed、緊急操作BKOPS Urgent。如果狀態(tài)顯示需要或緊急主機(jī)通過SWITCH寫入BKOPS_START告訴設(shè)備“你可以執(zhí)行后臺維護(hù)了”。設(shè)備開始內(nèi)部維護(hù)期間主機(jī)依然可以發(fā)其他命令但性能必然受影響。設(shè)備維護(hù)完成后再把BKOPS_STATUS清回No BKOPS狀態(tài)。Auto BKOPS則更進(jìn)一步。如果主機(jī)在EXT_CSD的BKOPS_EN字段里寫入使能值設(shè)備就可以在內(nèi)部自己判斷時機(jī)在命令間隙自動啟動后臺維護(hù)不必每次都等主機(jī)來“催”。問題恰恰出在這里Auto BKOPS會讓設(shè)備更積極地做維護(hù)但也更不可控。你沒法精確知道它什么時候在“偷偷加班”某次大數(shù)據(jù)量寫入撞上它內(nèi)部GCI/O延遲就可能突然抬升。Manual BKOPS雖然可預(yù)期卻要求驅(qū)動和系統(tǒng)設(shè)計者配合好在空閑窗口主動觸發(fā)如果一直不觸發(fā)設(shè)備只能被迫在工作時刻占用帶寬體驗更差。內(nèi)核里對這兩種模式的取舍標(biāo)準(zhǔn)概括起來就是Devices with poor random write performance often benefit from enabling BKOPS。這句話翻譯成人話就是顆粒越差越需要系統(tǒng)主動幫它安排“加班時間”。3.3 一個真實卡頓案例持續(xù)寫入后性能為什么會崩我在調(diào)試那臺開發(fā)板時復(fù)現(xiàn)性能問題的方式很簡單用dd做幾百兆的持續(xù)寫入同時監(jiān)控iostat。正常前幾秒寫吞吐能到幾十MB/s。持續(xù)寫入幾十秒后吞吐會掉到個位數(shù)并且伴隨明顯的RTO波動。iostat里w_await從十幾毫秒飆到幾百毫秒甚至上秒。這時候查dmesg能看到mmc0: Timeout waiting for hardware interrupt這就是典型的設(shè)備內(nèi)部正在做維護(hù)而主機(jī)等不到響應(yīng)。繼續(xù)用mmc-utils的extcsd讀取可以看到BKOPS_STATUS已經(jīng)處于非No BKOPS狀態(tài)說明設(shè)備覺得自己“有事要做”但主機(jī)沒有及時給它維護(hù)窗口。這個案例復(fù)盤時問題不是設(shè)備壞了而是系統(tǒng)里IO調(diào)度策略太激進(jìn)。我們把所有線程都壓著寫沒有給eMMC留下任何空閑間隙設(shè)備找不到機(jī)會執(zhí)行內(nèi)部GC只能在下一次命令時強(qiáng)行“插隊”把性能波動放大給了每一個上層應(yīng)用。3.4 實操觀測在Linux下查看bkops狀態(tài)與壽命信息想驗證eMMC有沒有在忙后臺操作Linux下最直接的路徑是sysfs和mmc-utils。查看設(shè)備基本信息和壽命估算cat /sys/block/mmcblk0/device/life_time cat /sys/block/mmcblk0/device/pre_eol_infolife_time文件的格式通常是兩個十六進(jìn)制數(shù)分別對應(yīng)類型A和類型B的壽命估算。值越小越好例如0x01通常表示壽命消耗在10%以內(nèi)。pre_eol_info正常值是0x1對應(yīng)“Normal”如果出現(xiàn)0x2Warning甚至0x3Urgent說明保留塊耗盡程度已經(jīng)到了警告線。用mmc-utils看EXT_CSDmmc extcsd read /dev/mmcblk0在輸出里重點找這些字段BKOPS_EN0x01表示Auto BKOPS已使能。BKOPS_STATUS0x00表示當(dāng)前無需后臺操作非0則表示有維護(hù)需求。PRE_EOL_INFO生命周期預(yù)警信息。DEVICE_LIFE_TIME_EST_TYP_A / TYPE_B類型A/B的壽命估算。生產(chǎn)環(huán)境下建議把這些信息接入告警平臺定期記錄壽命消耗曲線。如果一臺設(shè)備life_time在很短時間從0x01跳到0x06不要猶豫優(yōu)先查散熱、掉電次數(shù)和寫入壓力大概率是環(huán)境或配置出了問題。4. 從手機(jī)到工業(yè)設(shè)備eMMC的真實應(yīng)用圖景4.1 手機(jī)上的eMMC存量巨大、體驗寬窄不一手機(jī)是eMMC最經(jīng)典的戰(zhàn)場。安卓早期到中期的存儲幾乎全靠eMMC從eMMC 4.3到5.1每一代升級都在解決體驗問題。后來UFS憑借全雙工、命令隊列等特性把順序讀速度拉到了千兆級別成為旗艦機(jī)首選。但定位入門機(jī)和低端平板的設(shè)備到今天仍在大量使用eMMC。eMMC在手機(jī)里的運行方式簡單直觀Boot1分區(qū)存放引導(dǎo)加載器Boot2分區(qū)常用來放恢復(fù)系統(tǒng)RPMB分區(qū)存密鑰、防回滾計數(shù)器等安全數(shù)據(jù)用戶數(shù)據(jù)區(qū)則被分區(qū)成system、vendor、data等。啟動過程中ROM先讀Boot1拉起bootloaderbootloader再通過MMC命令讀取用戶分區(qū)的system鏡像逐步加載內(nèi)核和文件系統(tǒng)。由于eMMC內(nèi)部沒有命令隊列同一時刻只能有一個命令在跑所以多線程隨機(jī)讀寫很容易排隊。這就是為什么低端機(jī)玩一會兒微信就覺得卡——大量小文件隨機(jī)寫擠在一條命令隊列里吞吐自然上不去。UFS引入命令隊列后這個瓶頸被解除了但成本也上去了。4.2 工業(yè)與車載場景對壽命、溫度和確定性的苛刻要求消費級eMMC已經(jīng)很成熟但工業(yè)和車載場景對存儲的要求要嚴(yán)苛得多。溫度是第一個分水嶺。普通消費級eMMC工作溫度通常在-25°C到85°C工業(yè)級可以做到-40°C到85°C有些車規(guī)級產(chǎn)品甚至要求-40°C到105°C。溫度對NAND電荷保持的影響是指數(shù)級的高溫加速泄漏低溫又影響寫入穩(wěn)定。選型時一定要看顆粒供應(yīng)商明確標(biāo)注的溫度等級別拿消費級片子冒充工業(yè)級用。壽命是第二個問題。車載設(shè)備往往要服役7到10年行車記錄儀一類設(shè)備會持續(xù)寫入視頻流。選TLC還是MLC、留多少OPOver-Provisioning空間、控制器固件的磨損均衡策略是否激進(jìn)這些直接決定幾年后設(shè)備是否突然“變磚”。經(jīng)驗上長時間連續(xù)寫入的場景盡量選壽命余量更大的顆粒類型或更高等級eMMC并配合溫度管理措施散熱片不是可選項。RPMB在工業(yè)和車載里也扮演重要角色。安全啟動的密鑰、設(shè)備唯一ID、防止固件回滾的計數(shù)器都存放在RPMB里利用HMAC-SHA256做訪問認(rèn)證能有效防止冷數(shù)據(jù)被惡意重放。如果新板卡連RPMB的基礎(chǔ)讀寫都調(diào)不通基本是密鑰管理流程和驅(qū)動配合沒做好。4.3 選型決策eMMC、UFS、SD卡還是裸NAND選存儲方案不要只迷信參數(shù)表先看你的系統(tǒng)軟件棧、成本約束和生命周期再決定接口。維度eMMCUFSSD卡裸NAND接口8位并行半雙工M-PHY串行全雙工SD協(xié)議/SPI自定義最高理論速度400MB/sHS400830MB/s起幾十到200MB/s取決于主機(jī)實現(xiàn)命令隊列無有無無軟件復(fù)雜度低中低高壞塊/磨損管理芯片內(nèi)部處理芯片內(nèi)部處理設(shè)備端主機(jī)必須自己做使用場景手機(jī)/平板/工業(yè)/車載旗艦手機(jī)/筆記本/高性能嵌入式相機(jī)/樹莓派/消費電子定制SSD/極簡系統(tǒng)裸NAND看著便宜但把FTL、壞塊管理、ECC全交給主機(jī)端開發(fā)周期和風(fēng)險會顯著拉高不適合大多數(shù)產(chǎn)品團(tuán)隊。SD卡接口簡單但可靠性、溫度范圍和固定安裝方式都不如焊接式方案。UFS性能最好但成本高而且啟動流程、固件適配相對復(fù)雜。對絕大多數(shù)中低端嵌入式產(chǎn)品來說eMMC仍然是性價比和可靠性最平衡的選項。5. 工程落地避坑記錄對齊、掉電與壽命監(jiān)控5.1 分區(qū)對齊一個小設(shè)置影響整盤GC效率eMMC內(nèi)部光看邏輯塊地址好像很規(guī)律但物理頁、物理塊之間有固定對齊關(guān)系。如果系統(tǒng)給eMMC分區(qū)時起始扇區(qū)不是整數(shù)倍塊邊界對齊比如一個4KB塊被分成兩個分區(qū)跨邊界的寫入就會被FTL拆成多次內(nèi)部操作垃圾回收復(fù)雜度上升寫放大系數(shù)跟著惡化。排查方法很簡單parted /dev/mmcblk0 align-check optimal 1如果顯示不理想重新分區(qū)時讓起始扇區(qū)為8192的整數(shù)倍對應(yīng)4MB對齊這是一個兼顧性能和兼容性的常用做法。很多量產(chǎn)腳本里用fdisk時默認(rèn)起始扇區(qū)是2048在eMMC上雖然也能用但并不是所有顆粒的最優(yōu)選擇。別嫌這步麻煩分區(qū)對齊不對齊在長期運行后的壽命和性能差異是能測出來的。5.2 掉電保護(hù)別以為eMMC能扛住一切eMMC控制器有緩存和內(nèi)部映射表掉電瞬間正在寫入的數(shù)據(jù)不一定落盤。雖然大多數(shù)eMMC有掉電恢復(fù)機(jī)制能保證已經(jīng)返回“寫成功”的數(shù)據(jù)不丟但如果系統(tǒng)沒有正確使用刷新命令數(shù)據(jù)可靠性還是打折扣。Linux下常見的坑是文件系統(tǒng)雖然掛在ext4上但沒明確開啟barrier或者上層應(yīng)用不關(guān)心fsync。壓力測試時大文件寫入看著完成了實際上數(shù)據(jù)還躺在內(nèi)存頁緩存里一斷電就丟。更隱蔽的是控制器內(nèi)部的寫緩存需要發(fā)送FLUSH_CACHE命令才能真正落盤。做掉電測試時我的做法是準(zhǔn)備一套循環(huán)腳本交替寫入隨機(jī)數(shù)據(jù)和校驗數(shù)據(jù)。每次寫完固定大小數(shù)據(jù)后調(diào)用fsync并記錄數(shù)據(jù)位置。隨機(jī)時間點切斷電源。重新上電后掛載文件系統(tǒng)并校驗已記錄的數(shù)據(jù)內(nèi)容。反復(fù)跑幾十輪才能對板子的掉電可靠性有底。只做一次冷啟動驗證根本不叫測試。5.3 用sysfs和mmc-utils做壽命監(jiān)控eMMC的壽命不會突然歸零它有明確的“提前量”。定期讀取下面這些信息能幫你預(yù)判設(shè)備剩余壽命。mmc extcsd read /dev/mmcblk0 | grep -E PRE_EOL|LIFE_TIME|BKOPS把每次讀取的結(jié)果記錄下來配合時間戳形成趨勢圖。如果看到pre_eol_info從Normal變成Warning就要開始規(guī)劃設(shè)備輪換或減少寫入了。如果BKOPS_EN一直處于未使能狀態(tài)而設(shè)備又頻繁出現(xiàn)性能抖動可以嘗試在系統(tǒng)啟動早期啟用Auto BKOPS再觀察延遲曲線。有些設(shè)備的壽命信息只能在“可編程區(qū)域”里讀少量廠商還會故意隱藏部分字段。遇到這種情況先確認(rèn)你使用的mmc-utils版本和內(nèi)核版本是否較新再查廠商手冊是否有專有命令。5.4 三個真實踩坑記錄坑一某批次設(shè)備使用半年后壽命估算數(shù)據(jù)異常偏高。排查鏈路是先看dmesg有無異常ECC錯誤再看life_time并配合寫入量估算最后發(fā)現(xiàn)是量產(chǎn)階段的持續(xù)寫入壓力測試次數(shù)過多導(dǎo)致顆粒磨損集中。解決方法是調(diào)整產(chǎn)測流程將全盤寫測試從每臺多次改為抽檢并加軟件升級階段白名單避免每臺機(jī)器都重復(fù)整盤刷寫。坑二開發(fā)板在做持續(xù)數(shù)小時的日志寫入測試時出現(xiàn)周期性卡頓。我一度以為是文件系統(tǒng)問題后來抓取iostat發(fā)現(xiàn)w_await周期性飆升再讀BKOPS_STATUS確認(rèn)是有后臺操作發(fā)生。解決方式是調(diào)整測試腳本每寫一段數(shù)據(jù)后主動追加sleep間隙同時在內(nèi)核配置里打開Auto BKOPS讓設(shè)備提前利用這些間隙做維護(hù)卡頓現(xiàn)象明顯緩解??尤彻た卦O(shè)備在高溫老化工序后上報的啟動時間變長。排查發(fā)現(xiàn)是高溫箱內(nèi)溫度達(dá)到85°C以上NAND讀干擾和電荷泄漏加重FTL頻繁做讀刷新和重試。解決方案是把老化溫度上限調(diào)低到70°C并在老化后的開機(jī)流程里增加文件系統(tǒng)自檢同時加入溫度降額控制邏輯高溫環(huán)境下主動限制寫入頻率。這三個坑有一個共同點都不是eMMC芯片“壞了”而是系統(tǒng)沒有充分理解存儲介質(zhì)的工作方式。對齊、掉電、溫度、維護(hù)窗口這些詞看起來是參數(shù)手冊里的小字實際卻是決定產(chǎn)品長期可靠性的關(guān)鍵?;氐介_頭那個問題“mmc bkops”為什么會被反復(fù)搜索因為它代表了eMMC性能世界里最不可預(yù)測的那部分。對普通開發(fā)者來說建議不要只停留在“性能變差就換芯片”的層面先學(xué)會看BKOPS_STATUS、壽命字段和寫放大數(shù)據(jù)很多時候優(yōu)化一個后臺操作的窗口比整體更換存儲方案更有效。我現(xiàn)在做新板卡選型時都會把BKOPS機(jī)制是否可調(diào)、壽命監(jiān)控是否有標(biāo)準(zhǔn)接口放進(jìn)評估表。存儲這行沒有玄學(xué)所有看似突然的故障翻開手冊都能找到源頭。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲双插| 精品一级毛片在线观看| 色欧美综合| 国产精品黑人一区二区三区| 久久久人体| 久久久成人精品| 午夜精品久久久| 中文久久爆乳| 久久精品天美| 不卡在线观看视频| 婷婷99| 东京热av男人的天堂| 91性网| 黄片免费看黄片免费看| 色网在线| 嫩呦国产一区二区三区AV| 欧美亚洲日韩人妻在线观看| 综合久久2017| 四虎AV无码| 国内伊人久久久久久网站视频| www.色操逼| av东京热男人的天堂| a片自拍直播视频| 久久a久久| 国产青青综合伊人| 九九无码视频| 超碰综合97在线| 激情小说在线视频| 91在线|亚| 永久电影三级在线观看| 夜夜嗷嗷一区二区| 久久婷色| 国产精品丝袜在线| 18一区二区三区| 久久久久国产精品久久久| 色九月| 亚洲成人ab| 久99热| 综合网亚洲在线| 天天干天天狼在线视频| 亚洲脚交| 超碰av在线| 78操B| 五月丁香婷婷综合网| 亚洲欧美天| 五月天婷婷欧美三区| 人人妻人人澡人人爽久久av| 啊啊啊com| 日韩国产精品人妻无码久久久| AND人妻系列| 浓厚中出中文字幕在线| 91麻豆天美国产欧美高潮| 中文字幕av乱伦| 狠狠入| 性感女人网页在线观看视频| 国产综合在线视频网站| 欧洲自拍色图gif在线| 乱伦一区二区三区‘| 另类成人首页一区| 丝袜美腿诱惑亚洲欧美视频在线观看| 国产日韩在线播放av| 久久久男人的天堂| 男人的天堂2019AV| 久久久精品中文字幕爱豆| 青娱乐蜜桃臀AV色婷| 人人操人人搞人人草| 日韩综合97p| 日日骚 av| 大香网站| 亚洲毛片一级带毛片基地| 十八禁电影伊人网| 久久精品亚洲婷婷| 天天干人妇| 国产毛片片精品天天看视频| 日日躁狠狠躁天天躁精品| 麻豆人妻精品一区二区| 麻花传媒免费网站在线观看| 婷婷超| 好屌色综合| 色婷婷影视| 国产欧美日本亚洲精品 | 91av一区二区在线观看| 天天性射网| 超碰亚洲97| 国产综合永久精品日韩鬼片| 午夜性生活av免费在线看| 九七毛片九九毛片| 一牛影视久久久一区二区三区| 影音先锋乱| av网站国产主播在线| 久久久久深夜无码| 欧美九九99久久精品| 久99久视频| av爱爱爱| 97在线观看免费视频| 天天干人妻| 熟妇人妻一区二区三区| 婷婷色婷婷| 日日摸夜夜夜夜爽| 天天谢天天干| 亚洲一区在线观看欧洲 | 色性荡荡荡荡视频| 婷婷九月色| 国产传媒操逼视频| 大伊香蕉在线视频免费| 婷婷六月色| 国产A v无码专区| 激情综合网亚洲| 国产91美女视频| 97综合国产精品高潮久久| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 一级片在线观看高清无码| 熟女少妇视频| 亚洲中文丝袜美腿诱惑字幕| 欧美黑人日韩少妇色情| 亚洲国产中文字幕| 男人天堂免费| 日本黄页视频在线观看| 欧美美女在线高潮999| av操操不卡| 色香阁在线| 91在线美女| 欧美午夜精品久久久久久超碰| 欧美成va视频网站| 热九九精品| 久操不卡视频| 欧美日韩99| 色99视频| 青青操青娱乐| 99精品丰满人妻无| 亚洲色图欧美另类在线| 国精综合一二三区影视| 欧美亚洲涩涩| 亚洲女人毛茸茸91| 熟女少妇一区二区三区| 超碰99re| 欧美精品成人一区二区在线观看 | 青青草字幕AV| 天美传媒av一区二区| 啊啊啊不要好爽日韩无码一区| 国内黄色精品| 北京美女一区二区| 韩国毛片一区二区三区| 98超碰欧美| juliaann欧美丝袜办公室| 婷婷五月天激情四射| 精品人妻中文字幕高清| 亚洲欧美日韩免费电影| 大香蕉五月天| 中文字幕一二三区| 色综合久久夜色精品国产天堂| 搞中出视频在线观看| 白丝在线一区| 日日骚网站| 亚洲色狠| 亚洲强奸乱伦影视网| 两性综合网| 久久99操天天日| 啊啊好多水| 伊人色综合欧美| 日韩精品大香蕉伊人在线| 伦理日韩国产久久| 羞涩视频| 1769成人国产精品视频| 精品国产肉丝袜在线拍国语 | 天操天操夜操夜月月年年操操| 免费精品AB| 婷婷五月天激情四射| 国产亚洲欧美每日在线| 97久久精品亚洲| 密臀视频一区二区三区| 久操免费观看| 久操视频资源站公开| 97天天搞在线| 日韩射图| 狼狼色丁香久久婷婷综合五月| 超碰99在线观看| 综合网欧| 婷婷综合伊人一区| 国产偷拍自拍在线视频| 男女91| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 大稥蕉免费视频这里只有精品| 一本大道综合伊人精品热热| 女色综合| 婷婷操逼| 久久精品女同亚洲女同13| 青青草中文字幕| 激情小说成人日本无码一| 色妹子A V| 青青草中出视频 | 97操在线| 欧美天天综合| 激情五月激情综合网| 欧美一级专区免费大片| 国产精品ⅴ无码大片在线看.| 天天狠| 蜜臀aV午夜一区二区三区| 女性喷水高潮在线观看| 日韩精品区二区三区不卡| 性性久久| 亚洲天堂2020| 玖玖在线视频| 97亚洲自在精品在线观看| 欧洲综合无码| 久久男人网| 久操免费在线| 免费农村成人少妇人妻Aa一区二区视频 | 黄片色区软件| 欧美一二级| 日韩人妻制服丝袜av| 国产精品麻豆成人AV艾秋| 久久99久久99精品天美传媒棢·纸:.| 亚洲天堂7777| 天美欧美国产| ..日韩av毛片精品久久久| 精产国品一区二三产品| 岛国激情视频在线观看| 亚洲精品骚逼| 成人无码在线视频网站| 久欲AV| 99久久e免费热视| 日韩操呦呦影院在线观看| 久久精品福利影院| 天天操天天7| www久久99| 日天天九九天堂666| 大伊香蕉在线视频免费| 久久9久久| 久热伊人| 97干在线视频| 精品国产自在在线99| 91伊人久久在线| 91精品国产高清久久久久久,亚洲成人 | 欧美综合另类| 九九自拍伦理| 欧美后进式| 久久天堂| 亚州乱码中文字幕综合久久久| 日韩免费福利在线观看| 99999精品成人| www.色吧5.com| 久久草视频污视频| 乱色视频中文字幕| 激情小说亚洲| 青青欧洲黑| 亚洲最大的综合性av| 亚洲自拍小说| 97WW精品| 久久久国产成人一区二区三区在线 | 日本三级A片网站com| 亚洲熟女乱综合一区二区三区| PMv在线观看| 狠色婷婷久久一区二区三区_| 亚洲 国产 精品一区| 啊啊啊啊啊在线视频| 操逼操2| 亚洲自拍欧美国产首页网曝| 粉嫩不卡一区二区性爱| 久久久久少妇| 九九九九九九综合| 亚洲欲| 五月婷婷六月色| 国产高清亚洲日韩一区| 干妹子| 久久久久成人蜜桃精品| 人人操人人插人www| 久久久久久中文| 97亚洲综合电影| 亚洲天堂AV在线播放| 青青草国产一区二区三区| 极品五月天噜噜| 国产美女mm131爽爽爽爽| 香蕉视频欧美一卡二卡| 97久久超碰亚洲| 精品网站9999| 操逼网免费无码视频| 色色97爱| 亚洲AV色图一区| 伊人大香蕉在线| 人人妻人人狠人人| wwwxxx日本爽| 亚洲不雅视频1区二区| 操逼999| 超碰亚洲97| 偷看洗澡一二三区美女| 3d成人精品一区二区| 乱伦熟女论坛| 无码78| 夜夜久久| 中文字日本乱码| 91一起操| 乱伦熟女区| 在线播放一级无码视频| 日本成熟少妇A∨网站| 限制级中的三级片中的黑粗大屌屌日人妻熟女 | 爱妻综合网| 蜜伊人色综合97| 天天天天干| 九九RE视频在线精品| 男人女人18禁片免费看网站| 国产精品视频内谢女人| 国产女大学生AV| 蜜臀久久99精品久久久久久婷婷 | 国产精品无套内谢| 国产偷拍网站| 日本精品五区| 日本不卡一区| 襙一襙| 日韩少妇无码| 日韩肏逼视频| 激情综合网亚洲| 91另类| 精品九九九九九九| 九九九国产| 亚洲国产97在线精品一区| 欧美极品少妇| 欧美操逼录像国产黄色国产| 亚州综合图片| 日本加勒比无码专区一二三| 91欧美少妇| 清纯唯美综合亚洲| av天堂电影网| 亚洲风情在线观看| 高清有码一区二区| 国产女人极品高潮毛片| 人、人、摸,人、人、草| 嫖老熟女A片一二三区| 激情综合网五月婷婷五月天| 大香蕉五月天婷婷| 日韩三级网址| 久久少妇人妻| 亚洲精品乱码久久久久久蜜桃麻豆 | 亚洲伊人a线观看视频| 国产一区二区在线播放量| 69少妇一区二区| 51一区二区三区| 5月婷婷6月六月丁香| 深爱五月婷婷| 成人久久无码www| 天堂伊人久久| 天天欧美| 精品无码一区二区三区| 88xx成人精品视频| 国产成人www免费人成看片| 9久热| 亚州操操穴网| 亚洲AV在线资源| 男人的天堂com| 水多多映视AV| 人妻日日干| 又黄又爽在线观看视频 | 五十路一区无码| 久久久久久99AV无码免费网站| 26uuu性| 综合网色| 丝袜综合| 九九碰九九爱97超| 人妻日日干| 中文字幕在线观看第二页| 欧美91久久久久| 综合欧美亚洲| 成人免费福利在线观看| 人妻人人澡人人爽人人| 久久尹人大香焦视| 欧美日韩国产高清在线一二三区 | 精品视频在线观看| 天天躁日日躁XXXXYY| 亚州操操穴网| 99re这里只有精品2| 翔田千里无码一区| 97干在线视频| 视频在线中文字幕| 国内偷自视频区视频综合 | 免费福利视频中文字幕| 色婷婷综合久久久久中文一区二区| 97久久国产精品| 成人自拍三级在线观看| 色欧美天天| 黑人粗大V S日韩女优视频| 中文字幕人乱码中文字的预防方法| 97色在线视频| 久久草在线综合视频| 啊啊啊啊啊啊啊好爽不要| 另类欧美色| 懂色AV蜜臀无码精品APP| 国产性感骚丝袜在线| 欧美熟女妇同| 91色人妻| 日韩一区二区熟女| 精品一级毛片在线观看| 日韩AV一区二区三区四四| 91精品少妇搡搡搡| 日韩乱伦影音先锋| 人人九九精| 亚洲精品人妻在线| 五月婷婷hd| 天堂无码| 久久久久密| 丰满人妻一区二区三区蜜桃视频| 欧美人妻精品一区二区| 国产精品午夜福利视频| 国产无码精品高清| 91网站视频在线观看| 91香蕉国产尤物视频| 人妻AV 中文字幕的| 亚洲色婷婷综合久久一区二区三区| 乱伦av麻豆| Julia Annxxxxx| 国产福利小视频高清在线观看| 久久熟女久| 精品人妻一区二区三区日产乱码| 欧美色图亚洲色图成人在在线| 97精品全部| AV九九| 自拍六区| 999日韩中文精品观看视频。| 中文乱码字幕观看视频| 欧美日不卡| 亚洲成a人v欧美综合天堂下载| 免费观看欧美日韩操逼视频| 高清国产精品福利网站| 操死我了嗯嗯嗯| 国产免费操逼| 国产免费小视频| 美女黄色一级A视频| 国产精品操| 丝袜综合色图| 蜜乳AV一区二区三区四| 欧美极品色| 涩五月婷婷| 3PAV乱伦视频| 无码欧美有限公司| 国产91精品福利在线| 亚洲日本大香蕉1| 麻豆久久久一区二区| 欧美国产精品久久九九| 久久超碰av在线| 久久五月丁香| 99久久亚洲精品无码毛片潘甜甜| 九一精品牛牛一区二区| 九月丁香| 多毛小伙内射老太婆| 校园春色美腿丝袜| 青青草视频在线观看一区二区| 日韩亚洲中文有码视频| 2020中文字幕在线| 色妹子A V| 国产无码成人无码| 天天综合网合集91| 国产一区二区啪啪视频| 亚洲伊人久久综合97| 91伊人久久在线| 在线 制服丝袜中出 人妻| 欧美欧美啪啪视频| 99蜜桃臀久久久欧美精品网站| 亚洲色啪| jk白丝没脱就开始啪啪| 91少妇人妻| 激情四射熟女丝袜| 国产性感骚丝袜在线| 亚洲天堂无码| 天堂v无码免费视频| 台湾佬中文娱乐网久久久久久久久久com | 亚洲国产欧美一区二区潘金莲| 熟妇人妻一二三区免费| 欧美三级免费伊人| 99热精品免费| 久久亚洲AV无码专区国产精品| 国产女人视频三四五区| 啊灬快c我灬啊灬用力灬啊灬-国产精品性做久久久久久-成人AV | 黄片www.| 国产精品嫩草久久久久| 无码不卡八戒| 人人妻人人爱人人玩| av 模特一区了| 欧洲中文字幕| 国产精品久久久亚洲一区| 强奸乱伦av电影| 日本高清视频xxxx| 久草免费在线视频| 国产精品另类一区大香蕉| 日韩精品操少妇| 中文字幕在在线观看网站| 婷婷大香蕉| 欧美劲爆视频一区二区| 精品国产一区探花在线观看| 久久久久久久久久久久97 | 中国一级操逼视频| 欧美福利视频啊啊啊啊| 放黄片放3级黄片没穿衣服| 国产精品农村妇女精品| 好屌色综合| 91欧美美女日韩国产婷婷| 国产久久久9999| 日本在线一二 | 0755午夜福利视频| 婷婷人妻激情| 亚洲系列欧美| 激情四射熟女丝袜| 蜜桃狠狠色伊人亚洲综合 | 天天看夜夜看日日干| AV女优男人的天堂| 女生91网站| 韩国三级色呦呦| 欧美亚洲小说| 26uuu久久| 欧美性爱一区二区三区| 丰满搜索结果 -第18页- 久久高清无码 | 亚洲97精品| 一区二区影视| 天天综合91| 丁香五六月啪啪| 欧美大香蕉久| 色哟哟511老熟女| 欧美精品日韩久久久九| 国产超碰AV在线精品| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 久久精品操| 亚洲精品黄码久久久久| 青青操日韩| 亚洲国产日韩精品久久久| 91第一页| 99亚洲国产精品色一区二区三区| 久久东京伊人一本到鬼色| 久久成人国产| 十八禁成人网站在线观看| 激情干在线| 99热这里是精品| 日韩素人无码一区二区三区三州| 国精品一区二区三| 啊啊啊不要嗯嗯在线观看| 91欧洲入口| 九九碰九九爱97超| 日韩欧美tv一区二区在线观看| 99精品久久久久久久婷婷| 亚洲超碰在线| 超碰99热中文字幕| 91九色丨国产丨爆乳| 中文字幕超碰CAO| 蜜桃香蕉久草精品在线| 欧美九九九| 国产成人超碰在线| 屁屁影院一区二区三区国产| 男人高清无码一区二区| 超碰人人色| 日本天堂网| 久久日本熟女精品一区| 久久嫩草| 乳欲人妻办公室奶水| 日韩不卡av一二三| 日韩精品熟妇| 男女香蕉一区二区| 99热这里只有精品18| 熟女五十路一区二区三| 亚州色图第三区| 中文乱码99| 性高潮久久久| 一个国产在线综合网站| caorenqi shipin| 无码操逼天堂| 强奸抽插av| 美女国产一区二区久久| 涩爱AV在线| 精品人妻久久久| 日韩激情小说一区二区| 婷色五月| 91狠狠狠| 1禁看欧美黄片免费看| 中文字幕日产av人| 狠狠色五月亚洲91| 97国产高清视频在线观看| 亚洲一区二区三区麻豆传媒| 精品视频一二三中文| av凤凰久久久| 色色色网站| 久久大陆| 激情五月天插| 欧亚日韩三区| 亚洲欧美一区二区网址| 国产后入精品| 高清肉丝中文无码| 日本色色视频网站| 狠狠干,狠狠操| 精品无人区麻豆乱码1区2区图片| 中文精品一区二去| 热久久99999| 人妻少妇久久中文字幕一区二区 麻豆| 婷婷91| 破处bbq| 国产操偷| 久久偷拍人| 国产91av在线播放| 国产黄色动态精品| 午夜亚洲WWW湿好大| 亚洲射综合网| 亚洲啪AⅤ永久无码| 中文久久一区| 免费视频在线一区二区不卡| 97色碰| 少妇的嫩逼图片| 欧美劲爆视频一区二区| 精品乱码在线观看| 久久免费精品视频免一| 伊人久久久日韩一区| 黄片国产精品一区二区| 亚洲欧美日韩电影网站一区 | 欧美成97爱| 五月婷婷色| 丝袜足交视频| 亚洲情色婷婷五月天| 最新亚洲黄色免费电影| 一区二区日韩欧美久久| 九九九热| 人人澡人人弄| 成人日本视频人妻在线| 欧美三级偷拍| 人人喜人人妻| 2020中文在线一区二区三区| 国产99999久久精品| 在线v中文字幕一区二区三区| 91操人| 91综合在线| 蜜臀无码视频在线观看| 免费成人在线熟妇网| 婷婷影院入口| 1区2区3区视频| 欧美日本天堂| 丁香五月激情综合国产| 亚洲久久久久| 欧美天天综合站| 国产亚洲一黄| 色天使亚洲综合在线观看| 亚洲男人天堂网站| 蜜臀AV成人精品蜜臀AV久久| 岛国片在线播放| 人妻人久久精品中文字幕| 久草成人福利导航| 久久久久亚洲AV无码专区少妇| 国产AV天美传媒一区二区三区| 偷拍欧美激情| 伊人女女资源在线观看| 欧美后入| 青青草五月份天| 五月丁香婷婷啪啪| 国产精品原创巨作?v网站| 天天天做天天天爱天天天爽| 熟妇视频一区二区三区在线观看| 免费啪啪一级视频| 日韩av免费一级电影| 欧美丝袜91| 99RE在线视频精品,这里只有精品| 女人被添高潮免费视频| 翔田千里Av在线| 日韩有码专区| 男人的天堂日韩| 亚洲色图20p| 成人片在线播放| 欧美强奸乱能| 人人看人人插| 亚洲天天综合| 丝袜美腿操av| 久久熟妇五十路一区| 超碰在线91| 日韩丰满熟妇| 亚洲av国产av综合av卡| 日韩淫色网| 97视频在| 啪啪视频mP4| 国产一级黄色片在线观看| 天天躁日日躁狠狠躁| 国产精品午夜福利| 国产一区麻豆免费观看| www.91色综合| 久99热| 国产三级日产三级韩国三级| 人人操我人人干| 欧美极品| 天堂男人网| 东京热,男人的天堂| 国产和美国毛片| 欧美日动态视频| 成人精品视频一区二区| 按摩中文字幕| 夜夜狼人妻| 大香蕉伊人亚洲| 中文字幕一区 二区三四五 区日 日骚 | 九九九草| 久久AV色| 欧美性,色九九| av婷婷色网| 99re6国产精品99re在线| 九九热精品在线| 久久久久久久久久久六六| 丁香九月激情| 婷婷导航| www.色婷婷| 天天干天天做| 精品区9| 精品 码产区一区二-1080P高清在线www-B029AV | 好湿好紧好爽 视频| 男人的天堂激情| 人人操天天爽| 目产99999久久999| 久啪| AV色五月| 色亚洲欧美| 女人久久久| 91久久久亚洲| 亚洲精品无码成人久久久99| 1024人妻熟女一区二区三区| 精品成人av一区二区三区在线| 国产精品久久久久综合| 国产99热| 婷婷五月天丁香花| 久久香蕉国产传媒一区剧情天美| 91网站18在线观看| 欧美青青视频| 91精品国| 国产一区二区在线看| 97人人夜| 中文字幕精品码亚洲| 日本久久女同性恋视频| 精品亚洲一区在线观看| 思思热国产在线视频| 一区二区三区免费视频入口| 久久精品中文字幕观看| 国产97色在线| av婷婷色网| 久湿久久 | 国模限制级电影| www.高清无码诱惑一区.com| 精品免费成人久久| 91亚洲综合| 日韩国产欧美伦理在线| 日韩精品黄片免费观看| 乱精品一区字幕二区| 大香蕉免| 丰满欧美放荡少妇在线| 欧美的精品的视频| 亚洲精品尤物yw在线影院| 精品久久人妻成人网| 韩国轻伦国内自拍一区| 啊啊啊啊操死我了| 欧美性爱超碰97| 欧美牲| 日韩丰满熟妇| 欧美最婬乱婬爆婬性视频 | 精品国产精品一区二区| 免费农村成人少妇人妻Aa一区二区视频 | 国产美女裸体秘 永久无遮挡| 欧美成人一区二区三区在线播放| 黄色乱论网站| 久久青娱乐| 青娱乐国产剧情av一区| 日韩不卡a级视频专区| 九一屌逼| 亚洲三级。日韩三级| 日逼逼免费看| 国产农村一一级特黄毛片| 99999精品成人| 色亚洲欧美| 色婷婷九月天天综合| 国产精品制服丝袜中文字幕日韩一区二区三区 | 人人操人人插 - 百度 - 百度| 久久久国产成人一区二区三区在线| 国产人伦精品一区二区三区| 国产精品白丝www| 双插性欧美一二三区| 北条麻妃99精品青青久久| 日日骚av| 日日夜夜国产综合| 加勒比伊人综合| 五月丁香激情四射| 人人干人人操人人..com| 夜夜操夜夜爽夜夜高潮| 东京热综合久久一区二区| 伊人网综合在线视频| 国产一区二区三区不卡手机在线| 国内一级精品| 亚洲AV成人无码一区二区三区在线观看 | 亚洲精品 大香蕉| 欧美综合狠| 2020中文在线一区二区三区| 亚洲91网。| 天天色图| 久久综合五月天| 天天天干977| 国产免费一区在线观看| 国产欧美日产一区二区三区 - 国产欧美日| 爽极品影院| 99抽插| 精品一区二区三区丰满熟女-亚洲欧美一区| 日韩av在线播放不卡| 北野未奈加勒比av| 浪人综合网| 亚洲欧美日韩电影网站一区| 怡红院成人视频| 99精品久久| 99999久久精| 大香蕉综合网| 亚欧操逼片在线观看| 日韩不卡a级视频专区| 精品人妻伦一区二区三区久久| 综合免费无码中文| 亚洲极品| 狠狠综合网| 九九九九九精品视频| 情侣开房子拍 日韩无码 女的很漂亮| 亚洲在钱| 色丁香五月婷婷| 欧美熟妇精品黑人巨大91| 91 亚洲 欧洲| 欧美精品三级黄片| 在线综合 亚洲 欧美中文字幕 | 一区二区三区探花在线观看| 五月天亚洲网| 欧美99热| 九九热re99re6在线精品| 午夜精品一区二区三区三上悠亚| 亚洲日韩电影| 91色鬼| 日本熟女中文字幕一区| 久9爱精品| 日本三级久| 人人操 欧美| 国桃视频产巨乳精品一区二区在线| 久久久久成人亚洲国产| 狠狠入| 射丝袜高跟鞋99| av最新免费中文字幕| 亚洲少妇激情一区二区三区| 色色色综合网| 中文字幕乱在线伦视频中文字幕乱码在线| 日韩av情韩国爱禁区av一区二区| 网页导航五月天免费一二三区| 久久久精品,3| 91在线限制级| 特级毛片特黄久久免费看| 欧美激情内射| 九九热精彩视频| 婷婷久久五月天| 国产狂喷潮在线精品| 免费网站观看www在线观| 熟女人妇一区二区三区| 男人天堂资源| 久草精品一区| 国产有码一区| 国产伦乱91| 翔田千里A片一区二区| 日本熟妇自慰性高潮一区二区三区| 97九色人妻| 国产亚洲精品无码三区| 亚州欧美在线| 99色婷婷中文字幕乱色| 婷婷色网| 乱伦图一区| 免费国产电影一区二区| 热热色青青草| 白嫩嫩一区| 屁屁影院一区二区三区国产| 百度百度日本操逼| 久久精品女同亚洲女同13| 在线 亚洲 网爆 自拍| 在线观看日韩av不卡| 激情婷婷综合久久| 99re黄| 91国精产品| 亚洲 欧美都市激情| 婷婷中文网| 亚洲欧洲无码bt精品合集| 青青草国产一区二区三区| 亚洲色图20p| 99精品无码| 亚洲精品人妻吞精av| 亚洲91在线播放影院| 成人精品无码| 美女91在线| 青草伊人网| 欧美熟女丝袜| 亚洲天堂自拍| 欧美最婬乱婬爆婬性视频 | 免费a v| 亚洲成人ab| 97草草| 97超级欧美| 这里是精品| 欧美性爱97超碰| 九九色影院| 日韩激情中文字幕有码| 秋霞无码av鲁丝片一区| 97人妻免费中文字幕| 人人操人人摸avav| 亚洲成a人v欧美综合天堂下载| 久热久| 亚洲限制级在线| 情色日播放AV| 国产青一二三| 黄色小说亚洲| 熟女自慰久久久| 91人人看| 国产夜夜艹| 丰满人妻一区二区三区在线| 国产久久一区二区午夜| 久久久一热在线播放| 少妇二级| 亚洲情色第一页| 性色一线| 色婷婷aV一区二区三区麻豆综合| 午夜精品一区二区三区三上悠亚| 亚洲无码色| 熟女精品一区二区三区| 农村妇女一级二级三级视频| 九色 人妻 大香蕉| 蜜桃臀 后入 一区 二区 三区 在线| 日本天天吊| 国产视频一区二区三区久久亚洲天堂| 日韩丝袜人妻AV| 欧美.亚洲.另类.丝袜.制服.诱惑| 人妻丝袜无 码视频专区| 日本色婷婷| 亚洲天堂男人在线| 国产熟女一区二区丰满| 夜夜福利| 大屁股熟女一区二区三区| 亚洲自拍青操视频| 91欧美少妇| 96久久久久久久| 国产精品九九九| 国产高清吃奶免费视频网站| 91精品国产日韩欧美综合| 中文字幕 国产区| 国产精品一二三免费网站| 久久精品视-一级做a爰片性色毛片16美国-中国女与老外在线精品 | 久久后入制服| 人人澡人人干| 伊人一级免费黄片| 可以免费观看的日韩av毛片| 久久综合九九| 欧美成人亚洲精品| 久久高清无码夜夜操| 亚洲国产97在线精品一区| 大香蕉中文| 人人操,人人插| 日韩在线观看字幕精品| 丁香激情五月天| 天美一二三在线观看Av| 91美女视频电影| 亚洲天堂男人| 亚洲AV秘 精品久久老牛影视| 中文字幕91页| 天天拍天天操| 亚码激情| 麻豆精品三区视频| 密臀在线一区尤物| 国产精品日韩在线一区| 国产 亚洲 丝袜 制服| 大稥蕉免费视频这里只有精品| 国产25页| 久久久96| 日本一区二区不卡精品| 97国产色综合| 九草九九九| 婷婷伊人五月| 亚洲夜夜欢无码一区二区| 美女的肌被草喷水视频| 亚洲丝袜二区在线| 中文字幕美女91| 久久久激情| 久久久中文版| 91高清欧美| 亚洲免费成人在线高清无码视频| 色色无码| 亚洲综合草草| 级做a爱无码性色永久免费| 99操碰| 精品乱码久久久久| 中文久久久| 国产一区二区av综合| 台湾肥佬网一区二区三区| 农村少妇久久久久久久| 日本东京热加勒比久久| 日韩99神马视频播放片在线播放| 日本黄色天堂| 九九视频黄色片| 国产在线76页| 欧美啪啪啪91| 人人操人人大香蕉| 欧美国产一区二区三区麻豆传媒| 97鸡把在线视频| 欧美亚洲另类在线蜜桃| 中文字日本乱码| 好属操| 亚洲综合激情五月久久| AV在线播放网址| 无码国产精品96久久久久孕妇| 熟女人妇一区二区三区| 亚洲色入欧美| 中国一级αV| 久久五月份| 欧美色图在线视频少妇| 免费公开人人操| 丰满搜索结果 -第18页- 久久高清无码 | 国产成人无码a| 亚州人妻| 国产高清吃奶免费视频网站| 男人兔费天堂| 91亚洲综合在线| 综合色99| 色色97爱| 秋霞蝌科网日本一区| 国产精品一区二区后入| 最新av中文字幕高清| 97干色天堂| 日韩图色| 另类图片五月| 传媒在线观看一区二区三区| 91超级碰| 欧美线天码中字| 日韩亚洲精品一区二区| 欧美夜色| 操逼视频亚洲| 97超级色碰碰| 日本精品一区二区中文字幕| 校园春色宗合网| 日本性爱少妇| 91爱欧美| 国模吧 一区二区三区| aV中文麻| 99热精品在线播放| 欧美综合网A| 亚洲情色五月天 | 欧美综合色综合| 国产久久久久久久久一区二区 | 首页亚洲国产高跟丝袜诱惑视频| 伊人九九九| 欧美综合骚| 国产又猛又粗又爽又黄| 啊啊啊好大好湿| 午夜乱轮操逼视频免费看| 少妇丝袜在线观看AV| 国产粉嫩出水在线播放| 亚洲97网站| 日韩在线女优天天干| 日韩操逼性鲍| 色婷婷日韩精品一区二区三区| 欧美色图天堂在线| 久久久亚洲熟妇熟女| 九热大香蕉| 黄片直播三级黄片两女一男| 人人妻人人爽| 性色高清在线| gogogo免费高清看中国国语| 97超碰中文| 丁香激情网| 强奸乱伦AV一天堂网| 一区二区视频你懂的| 无色无码| 亚洲国产丝袜熟女av| 蜜桃一区二区三区| 激情第四色| 国产精品久久久久久久久久久久| 97在线青| 五月天婷婷成人网| 色在线综合| 91精品人妻一品二品三品| 在线天堂999| 激情AV| 久久精品国产亚洲AV高清演员表| 欧美色图校园春色| 亚洲不卡不卡中文字幕不卡| 亚洲少妇综合在线播放| 久久精品一区二区一8| 日韩精彩视频| 超碰97玖玖爱| 亚洲va综合va国产va中文| 啪啪啪综合网| 久久噜噜噜精品国产亚洲综合| 91色女| 久久国内| 操逼视频国产无套| 一区二区影视| 中文字幕在线第二页| 91欧美美女日韩国产婷婷| 91操人| 少妇高潮对白在线观看| 欧美熟妇成人一区二区| 色色97爱| 久9爱经典视频| 91色五月俺来也| 9九九九九视频在线观看| 亚洲av综合色区无码一| 九九九不卡| 亚洲色图欧美另类在线| 99热免费| 狠狠欧美| 亚洲黄色影视| 国产精点久久久成人| 热思思免费视频| 亚洲综合97| 超碰精品97| 熟妇人妻一区二区三区| 男人的天堂亚洲| 91精品大奶人妻| 一区二区三区精品视频| 午夜激情成人在线观看| 国产 日韩 欧美一区| 伊香蕉综合久久久久久久噜噜噜| 区自美91| 97超碰超欧美。| 爽爽歪在线视频| 大香蕉碰碰| 综合熟女| 9999久久久久| 高清国产av无码| 性爱av在线免费观看| 欧美午夜一区二区三区| 国产偷拍自拍在线视频| 精品人体无圣光凹凸| 蜜乳AV一区| 青娱乐亚洲自拍| 国产色精品午夜大片| 欧美精品xxxwww| 日韩在线欧美精品一区二区| 操逼操2| 久久精品国产Aⅴ| 日日干天天干夜夜爽| 99无码狠狠久久| 99久久精品国产系列| 国产无码成人无码| 国产精品com| 欧美福利视频啊啊啊啊| 777琪琪午夜免费A片| 国产一级特黄大片处女| 性爱边摸边日免费AV| 久久原创中文| 91大胆欧美| 天美传媒av 在线| 69超碰综合| 天天操女人| 欧美色66| SUV一区二区在线看| 欧美色日| 天天欲望网| 97久久网| 精品成人亚洲午夜电影| 亚洲最新中文字幕免费| 国产色呦呦| 亚洲激情在线| 久久久久9久久久久| 超碰在线人妻不卡| 国产熟女高潮一区二区三区| 黄色交缠性感爆操91国产精品免费一区二区三区| 久久久月天| 久久久久久久| 中国91AV| 成人av福利在线观看| AⅤ片水多多| 十八禁成人网站在线观看| 国产黄片在线免费观看|