亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南

Zabbix監(jiān)控Nginx:stub_status+UserParameter配置實戰(zhàn)指南 Nginx 監(jiān)控這件事很多人一開始想復雜了。Zabbix 要拿到 Nginx 的運行狀態(tài)并不需要裝額外探針也不一定非要解析訪問日志最穩(wěn)定的入口其實是 Nginx 自帶的 stub_status 狀態(tài)頁。只要把它打開再用 Zabbix Agent 把里面的幾個數(shù)字讀回來就能完成請求量、并發(fā)連接、讀寫狀態(tài)的監(jiān)控再配上觸發(fā)器和圖形連接數(shù)異常、請求速率突變這些情況都能直接看到。這篇內(nèi)容按實際落地順序來拆先講 Nginx 狀態(tài)頁每個字段是什么意思再講怎么讓 Zabbix Agent 把數(shù)據(jù)采回來然后是 Zabbix 前端里的監(jiān)控項、觸發(fā)器和圖形怎么配最后做一輪實測把請求打起來再去看統(tǒng)計結(jié)果怎么解讀。適合剛接觸 Zabbix 監(jiān)控 Nginx 的人也適合已經(jīng)在用 shell 腳本采集、但想轉(zhuǎn)成 Zabbix 規(guī)范化監(jiān)控的人。1. 先搞清楚 nginx 狀態(tài)頁Zabbix 監(jiān)控 Nginx 的數(shù)據(jù)從哪來1.1 stub_status 輸出字段對照Zabbix 監(jiān)控 Nginx底層數(shù)據(jù)源不是日志而是 Nginx 自己維護的計數(shù)器。只要在 Nginx 配置里啟用 stub_status訪問狀態(tài)頁就能看到一小段純文本Active connections: 291 server accepts handled requests 16630948 16630948 31070465 Reading: 6 Writing: 179 Waiting: 106這段文本雖然短但每個字段都有明確含義。字段含義類型Active connections當前活動連接數(shù)瞬時值acceptsNginx 啟動以來累計接受的客戶端連接總數(shù)累計值handled成功處理的連接總數(shù)累計值requests累計處理的客戶端請求總數(shù)累計值Reading正在讀取請求頭的連接數(shù)瞬時值Writing正在讀取請求體、處理請求或?qū)戫憫倪B接數(shù)瞬時值Waiting空閑的 keep-alive 連接數(shù)瞬時值第一行Active connections是當前活動連接數(shù)。注意它包含后面 Reading、Writing、Waiting 三類的總和所以只要 Nginx 活著這個數(shù)值通常不會是 0。第二行是固定表頭server accepts handled requests。第三行的三個數(shù)字分別對應表頭都是只增不減的累計計數(shù)器只有 Nginx 重啟才會歸零。第四行的 Reading、Writing、Waiting 是三個瞬時值。一個請求從進入到結(jié)束通常會依次經(jīng)過 Reading、Writing 兩個階段最后進入 Waiting或者直接關閉連接。這幾個字段之間的換算關系是Active connections Reading Writing Waiting。理解這個關系后面看圖形和觸發(fā)器才不會被數(shù)字騙到。1.2 哪些指標值得接進 Zabbix不是每個字段都必須接進來但下面這幾個我建議至少都要有。請求速率是最核心的指標對應 requests 計數(shù)器看的是單位時間內(nèi)處理了多少請求也就是平時說的 QPS。只看累計值沒有意義必須換算成速率。新建連接速率對應 accepts 計數(shù)器看的是單位時間內(nèi)來了多少新連接。這個值和 QPS 的區(qū)別在于keep-alive 生效的情況下一個連接上可以連續(xù)發(fā)多個請求所以請求速率通常遠大于連接速率。當前并發(fā)連接數(shù)對應 Active connections是最直觀的負載指標。但它不能單獨說明問題必須結(jié)合 Reading、Writing、Waiting 一起看。Reading 如果持續(xù)偏高說明有一些客戶端請求頭發(fā)得很慢或者請求頭一直沒發(fā)完。Writing 持續(xù)偏高說明 Nginx 正在大量往客戶端寫響應這時候要關注帶寬和上游服務能不能跟上。Waiting 高反而是正?,F(xiàn)象說明大量連接是空閑 keep-alive對靜態(tài)資源或高并發(fā) Web 服務很常見。把這些字段全部接進 Zabbix才算真正把 Nginx 的運行狀態(tài)看完整。2. 環(huán)境準備與最小配置讓 Nginx 先吐出狀態(tài)數(shù)據(jù)2.1 確認 Nginx 是否支持 stub_statusstub_status 不是所有 Nginx 都默認包含。編譯 Nginx 時如果沒有加--with-http_stub_status_module這個功能就不存在配置寫了也會報錯。先檢查當前 Nginx 有沒有這個模塊nginx -V 21 | grep -o http_stub_status_module如果輸出里有http_stub_status_module說明支持。如果沒有有兩個方向重新編譯 Nginx 時加上這個模塊或者換成已經(jīng)默認包含該模塊的發(fā)行版軟件包。很多發(fā)行版和官方倉庫自帶的 Nginx 都已經(jīng)開啟了這個模塊但自編譯版本一定要單獨確認。這里提醒一下執(zhí)行nginx -V時編譯參數(shù)是在標準錯誤輸出里所以我加了21把錯誤輸出重定向到同一路。很多人第一次只看第一行 version以為不支持其實是沒看全。2.2 Nginx 狀態(tài)頁配置示例與安全限制確認模塊存在后在 Nginx 的 server 配置里加一個 location。以下是一份最小配置server { listen 80; server_name _; location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; } }這里最關鍵的是allow和deny。stub_status 本身沒有任何認證機制任何人能訪問就能看到你的連接數(shù)、請求量和連接狀態(tài)。如果把狀態(tài)頁暴露到公網(wǎng)內(nèi)部運行信息等于公開了。所以默認只允許本機訪問是最穩(wěn)妥的做法。如果你的 Zabbix Agent 和 Nginx 不在同一臺機器上不要直接把deny all刪掉應該改成只允許采集機 IP 訪問location /nginx_status { stub_status on; access_log off; allow 192.168.1.100; deny all; }改完配置先檢查再重載nginx -t nginx -s reloadnginx -t這一步不能省。stub_status 的 location 如果配置在錯誤的上下文里或者和已有配置沖突reload 會直接失敗。2.3 用 curl 驗證狀態(tài)頁是否生效配置完成之后先在 Nginx 所在機器上驗證curl -s http://127.0.0.1/nginx_status如果能看到開頭那段文本說明狀態(tài)頁已經(jīng)可以訪問了。如果返回 404說明 location 沒生效或者配置在了錯誤的 server 塊里。如果返回 403大概率是deny all生效了而你的請求來源 IP 不在allow列表里。這里有個容易忽略的點如果你的 Nginx 不是監(jiān)聽 80 端口或者同時有 HTTPSURL 里要帶上實際協(xié)議和端口例如http://127.0.0.1:8080/nginx_status。先花一分鐘把 curl 這步跑通后面會省很多時間。3. Zabbix Agent 接入一條 UserParameter 和一個監(jiān)控項的關系3.1 安裝與基礎配置 Zabbix AgentZabbix Agent 是部署在 Nginx 所在機器上的采集程序。它的作用和 Nginx 狀態(tài)頁互補狀態(tài)頁負責提供數(shù)據(jù)Agent 負責把數(shù)據(jù)讀出來再交給 Zabbix Server。安裝方式要看你的系統(tǒng)和 Zabbix 版本直接使用官方倉庫安裝 zabbix-agent 即可。裝完需要修改配置文件常見要確認三個參數(shù)Server192.168.1.10 ServerActive192.168.1.10 Hostnameweb01Server是允許給這臺 Agent 下發(fā)被動采集請求的 Zabbix Server 地址。ServerActive是主動上報要連接的 Server 地址。Hostname是 Agent 上報時使用的名字在 Zabbix 前端添加主機時要保持一致特別是主動檢查時Hostname 對不上會直接導致數(shù)據(jù)丟失。這里解釋一下被動檢查和主動檢查的區(qū)別。被動檢查是 Zabbix Server 主動連接 Agent 的 10050 端口要數(shù)據(jù)主動檢查是 Agent 主動連接 Server 的 10051 端口上報數(shù)據(jù)。自定義 UserParameter 兩種方式都支持但排查問題時的思路不一樣后面會詳細說。改完配置啟動服務systemctl restart zabbix-agent systemctl status zabbix-agent3.2 通過 UserParameter 把 nginx_status 轉(zhuǎn)成監(jiān)控項Zabbix Agent 默認不認識 nginx 的 key需要通過 UserParameter 來定義。UserParameter 的格式很簡單一個 key一個命令Agent 執(zhí)行命令把標準輸出作為監(jiān)控值返回。在/etc/zabbix/zabbix_agentd.d/目錄下創(chuàng)建一個 nginx.conf寫入以下內(nèi)容UserParameternginx.active,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Active connections/{print $3} UserParameternginx.accepts,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $1} UserParameternginx.handled,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $2} UserParameternginx.requests,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk NR3{print $3} UserParameternginx.reading,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Reading/{print $2} UserParameternginx.writing,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Writing/{print $4} UserParameternginx.waiting,/usr/bin/curl -s --max-time 3 http://127.0.0.1/nginx_status | awk /Waiting/{print $6}逐個拆一下。每行都是一個 key例如nginx.active。后面的命令先用 curl 抓取狀態(tài)頁再用 awk 提取對應字段。awk 的寫法要特別注意。第三行的 accepts、handled、requests 是三個連續(xù)數(shù)字所以分別用NR3定位到第三行再打印第 1、2、3 列。Reading、Writing、Waiting 在同一行里所以要先用正則匹配到這一行再打印對應列。Writing 是第 4 列Waiting 是第 6 列這個順序很多人會弄錯。命令里的--max-time 3不是隨便加的。如果狀態(tài)頁異常導致 curl 一直掛住Agent 執(zhí)行這個 UserParameter 就會卡住嚴重時會占滿 Agent 的檢查線程影響這臺機器上的其他監(jiān)控項。加上超時時間最壞 3 秒也會退出。改完配置后重啟 Agentsystemctl restart zabbix-agent3.3 先用 zabbix_get 還是前端測試功能配置完 UserParameter不要急著去 Zabbix 前端創(chuàng)建主機先在命令行驗證一遍 key 能不能查到值。在有 zabbix-get 工具的機器上執(zhí)行它通常在 Zabbix Server 或 Proxy 上zabbix_get -s 192.168.1.20 -k nginx.requests返回一個數(shù)字說明這條鏈路通了。如果提示 Not supported 或者沒有輸出先不要懷疑 Zabbix 配置回到 Nginx 機器上直接執(zhí)行那條 UserParameter 命令看有沒有結(jié)果。這里有個容易踩的坑你手動執(zhí)行命令時用的是 root 用戶而 Zabbix Agent 運行時的用戶通常是 zabbix兩個用戶的環(huán)境變量、權(quán)限、可執(zhí)行路徑可能都不一樣。比如 zabbix 用戶沒有權(quán)限訪問某個目錄或者 SELinux 攔截了 zabbix 用戶執(zhí)行 curl都會導致手動執(zhí)行正常、Agent 執(zhí)行失敗。新版 Zabbix 前端在監(jiān)控項配置里也有一個 Test 按鈕可以直接測試當前主機上的 key返回結(jié)果和報錯更直觀。實際排查時我一般按三個地方順序看Agent 所在機器手動執(zhí)行命令、zabbix_get 從 Server 端測試、前端 Test 按鈕看報錯。4. 創(chuàng)建主機、監(jiān)控項、觸發(fā)器數(shù)據(jù)到告警的完整鏈路4.1 在 Zabbix 前端添加主機與監(jiān)控項命令行驗證通過后進入 Zabbix Web 界面按照 配置 → 主機 → 創(chuàng)建主機 的路徑添加一臺主機。填寫主機名時要注意Agent 配置文件里的 Hostname 和這里的主機名必須一致否則主動檢查會失敗。接口配置里選擇 Agent填寫 Nginx 所在機器的 IP 和默認端口 10050。添加監(jiān)控項有兩條路線。一條是直接鏈接模板Zabbix 模板庫里有 Nginx by HTTP、Nginx by Zabbix agent 2 這類現(xiàn)成模板不同版本的模板數(shù)量和名稱會有差異底層采集方式也是去讀狀態(tài)頁適合不想自己維護 key 的人。另一條是手動創(chuàng)建監(jiān)控項用剛才定義的 UserParameter 鍵值自由度更高也更容易理解每個數(shù)字怎么來的。如果你是第一次做我更建議先手動創(chuàng)建。原因很簡單自動模板會隱藏很多細節(jié)一旦出了問題你很難判斷是狀態(tài)頁的問題、Agent 的問題還是模板映射的問題。手動創(chuàng)建一遍等于把鏈路里的每個環(huán)節(jié)都摸清楚了。手動創(chuàng)建監(jiān)控項時以nginx.requests為例名稱Nginx Requests類型Zabbix Agent鍵值nginx.requests信息類型數(shù)字無正負更新間隔1m 或 30s 都可以歷史數(shù)據(jù)保留7d趨勢數(shù)據(jù)保留365d其他幾個 key 按同樣方法創(chuàng)建。4.2 請求速率、連接數(shù)怎么存儲和計算單位這里要解決一個關鍵問題accepts、handled、requests 這三個字段是累計值直接存進 Zabbix 只能看到一根一直向上的線很難判斷當前請求量到底是多少。所以必須讓 Zabbix 把累計值換算成速率。在 Zabbix 監(jiān)控項配置里有一個字段叫“存儲值”可以選“原樣存儲”“增量簡單變化”和“增量每秒速率”。存儲方式適用場景示例原樣存儲瞬時值當前是多少就存多少active、reading、writing、waiting增量簡單變化累計值的兩次差值accepts 每次變化量增量每秒速率累計值換算成每秒速率requests、accepts、handled對 requests、accepts、handled 這三個累計計數(shù)器應該選擇“增量每秒速率”單位寫成 req/s 或 conn/s。這樣 Zabbix 會在后臺自動計算兩次采集之間的差值再除以時間間隔得到每秒速率。如果你不想在監(jiān)控項里改存儲方式也可以用預處理步驟里的“每秒更改量”來實現(xiàn)同樣效果。兩者本質(zhì)上是一樣的看你習慣哪種。唯一要注意的是如果 Nginx 在兩次采集之間重啟過計數(shù)器歸零速率可能會出現(xiàn)一次很大的負值或異常值統(tǒng)計圖形上會出現(xiàn)明顯的斷點這是正?,F(xiàn)象不是系統(tǒng)崩潰。active、reading、writing、waiting 這四個瞬時值就保持“原樣存儲”它們的數(shù)值本身就是當前狀態(tài)不需要做速率換算。4.3 觸發(fā)器和告警閾值怎么定監(jiān)控項建好后數(shù)據(jù)會不斷進入 Zabbix但沒人盯著圖形的話異常還是發(fā)現(xiàn)不了。觸發(fā)器的意義就是自動判斷數(shù)值是否超過預期。觸發(fā)器配置路徑是 配置 → 主機 → 觸發(fā)器 → 創(chuàng)建觸發(fā)器。以活躍連接數(shù)為例一個簡單表達式last(/web01/nginx.active)10000含義是當前活躍連接數(shù)大于 10000 時觸發(fā)警告。再比如請求速率min(/web01/nginx.requests,5m)5000含義是最近 5 分鐘請求速率平均值超過 5000 req/s 時觸發(fā)。閾值定多少沒有標準答案取決于你的業(yè)務。我建議先讓 Zabbix 跑兩三天積累一段基線數(shù)據(jù)再根據(jù)圖形里的峰值來定警告和嚴重閾值不要憑感覺拍腦袋。第一次設置可以把閾值放寬一點確認告警鏈路能正常觸發(fā)后再往回收。觸發(fā)器還可以設置恢復表達式也就是數(shù)值降到多少以下時自動恢復為正常。這個最好一起配好否則每次數(shù)值震蕩都會反復觸發(fā)、恢復告警會很吵。要測試告警鏈路的完整效果除了觸發(fā)器還需要配置好動作和通知方式。如果暫時沒配郵件或其他通知也可以先只做觸發(fā)器通過 Zabbix 首頁的告警記錄來確認觸發(fā)是否成功。5. 實測一輪用請求壓一壓再去看統(tǒng)計結(jié)果和圖形5.1 制造流量curl 循環(huán)或 ab 簡單壓測配置完成之后最關鍵的一步就是實測。沒有流量監(jiān)控圖形是一條平線你很難判斷數(shù)據(jù)到底有沒有采集成功。最簡單的測試方法是用 curl 發(fā)一批請求。在 Nginx 機器上執(zhí)行for i in $(seq 1 1000); do curl -s -o /dev/null http://127.0.0.1/; done這個循環(huán)會向本機 Nginx 發(fā)送 1000 次請求每次丟棄響應內(nèi)容。優(yōu)點是環(huán)境干凈不需要額外工具。缺點是速度不夠快產(chǎn)生的請求速率不會特別高。如果你機器上有 ab也就是 ApacheBench可以壓得更明顯一些ab -n 5000 -c 100 -k http://127.0.0.1/這條命令的含義是總共發(fā)送 5000 個請求同時保持 100 個并發(fā)連接-k表示啟用 keep-alive。ab 在測試時會持續(xù)請求能把 Nginx 的請求速率和活躍連接數(shù)明顯拉起來。執(zhí)行的時候建議一次只跑一種跑完等一分鐘讓 Zabbix 完成幾個采集周期再去前端看數(shù)據(jù)。如果立刻去看采集周期還沒到可能什么都看不到。5.2 分析 Latest data 和 Graphs進入 Zabbix 前端的“監(jiān)測 → 最新數(shù)據(jù)”選擇剛才創(chuàng)建的主機就能看到每條監(jiān)控項的當前值。這時候你看到的應該是有具體數(shù)字的綠色狀態(tài)而不是“不支持”或“無數(shù)據(jù)”。以剛才 ab 壓測為例壓測過程中可以看到 requests 數(shù)值沖上去壓測結(jié)束后又會回落。如果配上圖形把請求速率、活躍連接、Reading、Writing、Waiting 放在同一張圖里觀察能很直觀地看到整個請求生命周期的變化。如果你沒有在監(jiān)控項里單獨創(chuàng)建圖形也可以在儀表盤中添加一個圖表組件數(shù)據(jù)源選擇對應主機的監(jiān)控項。Zabbix 的圖表組件支持把多個監(jiān)控項疊加到同一張圖上非常適合對比 Active connections、Reading、Writing、Waiting 這幾個相關指標。5.3 從數(shù)據(jù)反向判斷 Nginx 狀態(tài)是否健康數(shù)據(jù)有了接下來的重點是怎么讀這些數(shù)字。先看 active connections 和 waiting 的關系。如果活躍連接數(shù)很高但 waiting 也很高說明大量連接是空閑 keep-aliveNginx 實際壓力不大只是在維持長連接。如果活躍連接數(shù)高waiting 卻很低說明連接都在真正干活這時候負載才是真的高。再看 accepts 和 handled 的對比。正常情況下這兩個數(shù)值應該非常接近。如果 handled 長期明顯小于 accepts說明有一部分連接沒有被 Nginx 成功處理可能原因是 worker_connections 配置過低連接數(shù)被系統(tǒng)層面拒絕了。通過 Zabbix 監(jiān)控這兩個值的曲線差值能比看錯誤日志更早發(fā)現(xiàn)問題。再看請求速率和連接速率的關系。用 requests 速率除以 accepts 速率可以得到平均每個連接上的請求數(shù)。如果這個值接近 1說明 keep-alive 基本沒起作用客戶端每次請求都新建連接連接效率很低。如果明顯大于 1說明 keep-alive 生效良好一個連接上處理了多個請求。Reading 和 Writing 是更細的觀察點。靜態(tài)資源站點在壓測時Writing 會明顯升高因為 Nginx 正在往客戶端輸出響應。如果 Writing 持續(xù)高位但 requests 并不高可能是網(wǎng)絡帶寬打滿了響應寫不出去。Reading 持續(xù)高位則要小心可能是客戶端請求頭發(fā)送緩慢也可能是存在慢連接這種情況即使活躍連接數(shù)不高worker 也可能被拖住。這些判斷不能只看一兩個采樣點最好結(jié)合 5 分鐘、1 小時的時間窗口來看趨勢。這也是為什么前面建議把趨勢數(shù)據(jù)保留時間設長一些。6. 常見問題排查與生產(chǎn)環(huán)境落地的邊界6.1 Agent 顯示 Not supported 時按什么順序查Zabbix Agent 返回 Not supported 是監(jiān)控 Nginx 時最常遇到的問題。很多人第一反應是去改 Zabbix 配置其實大多數(shù)時候問題出在 Agent 側(cè)。我的排查順序是固定的。第一步直接手動執(zhí)行那條 UserParameter 命令看有沒有輸出。如果命令本身就沒輸出說明狀態(tài)頁、curl、awk 里有一環(huán)斷了。第二步確認執(zhí)行用戶。Zabbix Agent 通常以 zabbix 用戶運行手動用 root 執(zhí)行成功不代表 zabbix 用戶能執(zhí)行。可以用su - zabbix -s /bin/bash -c 命令來模擬 Agent 的執(zhí)行環(huán)境。第三步看 Agent 日志默認在 /var/log/zabbix/zabbix_agentd.log。日志里會記錄 key 對應的錯誤信息比如命令找不到、執(zhí)行超時、權(quán)限不足等。第四步改完 UserParameter 后確認重啟了 Agent。UserParameter 是在 Agent 啟動時讀取的不重啟不會生效。第五步從 Server 端用 zabbix_get 測試連通性。這一步能區(qū)分問題是出在 Agent 執(zhí)行命令還是 Server 與 Agent 之間的網(wǎng)絡、端口、密鑰配置上。還有一個常見問題Linux 有 SELinux 或 AppArmor 環(huán)境時zabbix 用戶執(zhí)行 curl 連接本機端口可能會被攔截。手動執(zhí)行正常Agent 執(zhí)行就是失敗排查到這一步時要看安全審計日志確認是不是被策略攔截了。6.2 狀態(tài)頁不能直接暴露在公網(wǎng)前面配置 Nginx 狀態(tài)頁時寫了 allow 和 deny這個限制在正式環(huán)境同樣重要。stub_status 只有數(shù)據(jù)輸出沒有認證、沒有訪問控制任何人拿到狀態(tài)頁地址就能看到你所有虛擬主機的連接數(shù)、請求量等信息。這些數(shù)據(jù)單獨看不算機密但結(jié)合業(yè)務時序可能暴露促銷活動、低谷期等運營信息。所以生產(chǎn)環(huán)境要遵守幾個原則狀態(tài)頁只監(jiān)聽內(nèi)網(wǎng)地址或只允許內(nèi)網(wǎng)訪問。Zabbix Agent 與 Nginx 部署在一起時直接限制為 127.0.0.1。如果需要遠程采集優(yōu)先讓 Agent 本機讀取不要讓其他機器直接 HTTP 訪問狀態(tài)頁。Nginx 服務本身就開啟了公網(wǎng)監(jiān)聽時更要檢查 allow 列表不要把公網(wǎng)網(wǎng)段放進去。另外狀態(tài)頁建議使用獨立 location不要放在一個會匹配大量路徑的通用規(guī)則里避免被掃描工具順帶發(fā)現(xiàn)。access_log off也要保留否則每個狀態(tài)頁請求都會寫一條訪問日志白白增加磁盤 IO。6.3 多實例和規(guī)范化模板、宏、命名規(guī)則如果只有一臺機器手動創(chuàng)建監(jiān)控項沒什么問題。一旦機器多起來比如七八臺 Nginx 都要監(jiān)控逐臺手動創(chuàng)建就很痛苦而且容易漏配。這時候應該把監(jiān)控項、觸發(fā)器、圖形整理成模板。在模板里創(chuàng)建好 nginx.active、nginx.requests 這些監(jiān)控項和對應的觸發(fā)器再把模板鏈接到主機上所有主機自動繼承配置。后續(xù)要加閾值、加圖形只需要改模板一處所有主機同步生效。模板里的閾值可以做成宏比如{$NGINX_ACTIVE_WARN}、{$NGINX_REQ_HIGH}。這樣在不同業(yè)務機器上可以差異化覆蓋不用復制整個模板。比如 A 機器請求量本來就大警告閾值定 8000B 機器是小業(yè)務閾值定 1000。用宏就能在同一套模板下按主機單獨調(diào)整。key 的命名也要規(guī)范。前面用的 nginx.active、nginx.requests 就是比較清晰的命名方式。如果一臺機器上有多個 Nginx 實例建議在 key 里帶實例編號比如 nginx1.active、nginx2.active避免數(shù)據(jù)串臺。6.4 歷史數(shù)據(jù)保留和監(jiān)控頻率最后聊一下采集頻率和數(shù)據(jù)保留。對 Nginx 監(jiān)控來說30 秒到 1 分鐘的采集間隔已經(jīng)足夠。不要看到別人用 1 秒間隔就覺得越快越好越短的間隔意味著越多的 Agent 執(zhí)行、越多的 Server 輪詢和越大的存儲開銷。尤其是自定義 UserParameter 每次都執(zhí)行 curl 命令如果一臺機器上有 7 個 nginx key每個采集周期就有 7 次 curl。機器數(shù)量一多這個開銷會被明顯放大。如果想降低開銷有兩個方向。一個方向是把采集間隔統(tǒng)一調(diào)大成 1 分鐘。Nginx 的指標本來就是慢變量1 分鐘內(nèi)的尖峰對告警影響不大。另一個方向是寫一個單獨的采集腳本一次抓取狀態(tài)頁把結(jié)果寫到臨時文件再由多個 UserParameter 去讀文件避免每次都重新 curl。后一種方案適合機器多、又不愿意放寬采集間隔的場景但腳本邏輯和錯誤處理要寫得更嚴謹否則一個腳本崩了所有 nginx key 都會失效。歷史數(shù)據(jù)保留方面原始監(jiān)控值保留 7 到 14 天足夠趨勢數(shù)據(jù)保留 365 天用于回顧容量。如果你發(fā)現(xiàn)自己經(jīng)常要回溯更久之前的 Nginx 指標建議單獨導出到外部存儲不要無限拉長 Zabbix 的保留周期否則數(shù)據(jù)庫膨脹之后整個監(jiān)控系統(tǒng)的查詢速度都會受影響。我個人更建議按這個順序落地先把狀態(tài)頁和 curl 驗證跑通再用 zabbix_get 確認 key 有數(shù)據(jù)然后創(chuàng)建主機和監(jiān)控項最后才是觸發(fā)器和圖形??雌饋砹鞒谈L但每一步都有明確的成功標準出了問題也知道在哪一段排查。真正跑過一輪測試之后你會發(fā)現(xiàn) Zabbix 監(jiān)控 Nginx 并不復雜難點反而不是工具而是你愿不愿意把一個累計計數(shù)器、一個狀態(tài)頁字段吃透。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
综合亚洲情色| 少妇久久久久久| 国产精品成人蜜臀AV在线| 欧美综合亚洲| 91天天c| 亚洲黄色视频在线观看视频| 亚码人妻| JULIA一区二区三区在线播放| av橘色网站| 无码免费一区二区三区啪啪| 免费看一级a性色生活片久久无| 欧美AB在线| 亚州中文字幕超碰97| 老熟女乱子伦中文字幕一区二区| 天天看片青娱乐| 久久一区无码| 操91| 色青青久久影视| 日语五十路和六十路亚洲国产精品| 九九亚洲精品| 久久av色| 色色婷| 日韩中文字幕精品一区在线| 亚洲图片欧美色图| 亚洲熟妇白浆无码AV| 99精品在线| 91亚洲色人| 97资源站日韩| 99999国产| 9九九国产| 九九九精品一区二区无码| 校园春色之综合网| 后入美女国产| 国产极品999| 黑人精品XXX一区一二区| 亚洲精品乱码久久久久久蜜桃麻豆| 欧美亚洲美少妇一区二区| 国产三级电影免费观看| 日韩国产在线观看av| 91处女在线观看| 啊啊啊操死我了| 国产成自自拍在线观看| 日韩亚洲97| 欧美亚洲第1页| 婷婷伊人| 中文字幕一区日韩精| 免费超碰97在线观看| 亚洲婷婷综合网| 久久人| 日韩欧美中文字亚洲慕| 无卡一区=区| 欧美日韩精品久久| 殴洲老熟女| 九九英色视频| 国产欧洲精品亚洲午夜拍精品| 色九月综合| 国产精品国产自产拍高清AV| 成人热久久精品| x97av| 2020中文字幕在线| 日韩国产九九精品一区二区三区毛片 | 操www| 久久久新亚洲AV| 校园春色综合网| 97在线免费视频| 超碰精品国产无码| 亚洲,日韩,欧美,成人播放| 台湾一区国产高清在线| 久久午夜鲁丝片| 国产精品内射婷婷一级二| 亚洲日韩天堂| 久久产精品一区二区三区电影| 99中文字幕| 亚洲天堂一区| 久操网无码在线| 亚乱色| 国产精品激情久久久久久久| 久妇网| 亚洲美女30b| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 激情五月天色播| 后入美女国产| 可乐操亚洲蜜911| 亚州综合网| 国产精品毛片?v一区二区三区 | 亚州少妇| 综合97亚洲| 欧美色交| 日韩欧美大力操| 日本精品第一视频在'| 囯产精品一区二区三区线|亚洲人成无码网WWW动漫|国产精品免费一级... | 啊啊啊啊嗯嗯嗯用力好爽| 色性荡荡荡荡视频| 久久精品国产97欧美精品亚洲| 麻豆av一区二区| 一本色道综合久久欧美| 亚洲无线码一区国产欧美国| 手机久操欧美综合色码| 九九九九AV| 国产精品成人久久一区二区三区| 婷婷激情综合网| 欲射影视| 国产品精品自在在线午夜免费| 伊人久久综合精品欧美| 亚av顶级裸体一区二区三区四区五区| 欧美色图第一页| 欧美日韩另类在线播放| 亚洲一二三精品久久网| 亚洲久久天堂| 久草免费福利在线播放| 狼人综合婷婷激情四射 | 欧美天天综合网版| 丰满少妇乱子伦精品无| 好看的91视频| 色香综合| 亚州精品一区二区三区香中文字幕在线| 97丝袜亚洲在线播放| 97精品免费视频网站| 亚洲最大成人a毛毛片| 色呦呦、国产精品| 97欧美色综合| 精品中文字幕一区二区| 超碰97网址| 91 丝袜在线播放| 91九久| 亚欧美色| 五月天激情国产综合婷婷婷| 四方色播| 免费观看欧美日韩操逼视频| 亚洲在线a| 六月婷婷综合| 中文字幕久久婷婷丁香五月天| 综合一区中亚洲国产成人综合精品 | 九九热精品| 国产欧美日产一区二区三区 - 国产欧美日 | 亚一综合久久久久久久久久| 91麻豆一二三区| 日日噜噜夜夜狠狠视频无| 欧美精品丝袜久久久中文字幕| 久久超碰97| 少妇 综合| 神马麻豆福利院| 天天综合91在线| 超碰99在线| 日本在线一二| 日本人妻伦在线中文字幕| 在线综合 亚洲 欧美中文字幕| 亚洲91色| 黄色成品网站| 人妻啪| 中文字幕日韩情色| 激情久久久| 丝袜 中出 制服 人妻 美腿 中文字幕| 国产欧美亚洲精品a第2页| 夜夜黄| 99视频内射三四| 久久久久久久唑| 91原创在线观看| 国产高清视频无码在线| 熟妇女人妻呻吟久久AV| 中文字幕 国产区| 人妻久久| 国产精品网站免费| 色婷婷狠狠| 偷拍 欧美 日韩| 天堂涩涩| 亚洲性爱高潮影院| 亚洲 日本 国产 综合| rivers-china.com| 91殴美大片| 国产精品探花视频| 九九九九一区| 澳门人妻久久| 少妇啪啪自拍| 国产伊人精品在线| 午夜后入| 久久手机视直播| 不卡中文字幕aⅴ在线| 91精品免费| 麻豆 欧美 日韩| 亚洲阿v天堂无码z2018| 熟女少妇视频| 欧美色自拍| 97国产精品国| 极品色www影院| 性久久久| 91精品人妻| 天天看高清麻豆| 精品妇女一区二区三区| 狠狠色婷婷7777久| 在线中文字幕极品av| 国产精品com| 我爱操| 青青欧洲黑| 亚洲色图超碰在线| 超碰精品在线| 国产一区二区欧美日本| 国产一区二区av综合| 日本操逼aaaaa| 天堂网亚洲区手机版| 试看福利| 久久久久久久久久久久黄色 | 久草草一二三四区久久| 青青草国产亚洲精品久久| 99视频自拍| 国语国产操逼伊人AV网| 亚洲91在线播放影院| 亚洲色图亚洲| 久肏视频字幕| 超碰综合97在线| 区一二区日韩亚洲乱码av电影| ′ !γ}丶。。久久精品欧美一区二区三区 | 欧日a| 亚洲图片激情综合另类| 久草尤物| 6080YYY午夜理论片在线观看| 国产一级内射高清视频| 男女一进一出视频久久| 欧差乱伦二三| 免费观看国产小粉嫩喷水精品午| 7777奇米影视久久| 天天搞在线综合网| 九月激情婷婷| www.av在线视频| 精品国产无码中文| 日本免费中文字幕在线| 婷婷亚洲五月***久久| 日韩成人性爱AV| 国语国产操逼伊人AV网| 精品国产一级久久| 麻豆国产尤物AV| 91网站18在线观看| 亭亭丁香激情| 97超碰免费生活| 伊人久久亚洲色欲综合网站| 日夜伊人网| 婷婷爽人人婷婷爽视频| 久久午夜鲁丝片| 三级特黄60分钟播放| 人人操,人人液| 韩三级a视频在线观看| 黄色片一区二区三区四区五区| 亚洲日韩AV视色| 激情小说亚洲视频| 综合熟妇一区二区三区| 精品午夜福利| 嫩呦国产一区二区三区AV| 精品一区二区综合熟妇| 精品国产精品一区二区| 国产青视频| 亚洲大胆人体av| 91日日夜夜| 亚洲女人91| 中文字幕精品探花视频| 日韩综合无码色欲vv| 日本五十路熟女一区二区| 久久精品色欧美aⅴ一区二区| 国产精品午夜高潮呻吟久久av| 色噜噜综合网| 人人摸人人干| 亚洲第二页| 日韩欧美加勒比| 51国产午夜精品视频| 视频国产精品未满十八禁止在线观看| 日本一级黄色电影| 在线观看A啊啊啊| 91操熟女视频| 无码精品久久久天天影视| 人人看人人摸人人色| 超碰超碰95| 校园春色综合香蕉| 免费操逼91| 午夜理论片在线观看免费| 夜夜爽77777| 国产福利夜| 久久久久96| 9色国产精品一区粉嫩| 亚洲系列第一页| 啊啊啊啊啊啊啊国| 超碰在线91| 亚洲欧美中文一区二区三| 亚洲欧美校园另类春色| 亚州,欧美在线| 人人妻碰人人免费| 久草精品热视| 亚洲国产精品无码AV久久| 黄色欧美性爱视频| 欧美色天堂网在线视频| 淫荡网址| 欧洲色色| 美女好片色日本| 美国人人操人人操| 东京热99999| 国产亚洲精品无码三区| 中文字幕加勒比海高清无码免费视频| 超碰在线免费一区二区三区| 99精品久久久久久久婷婷| 97超碰色屌| 欧美懂色综合网| 久久久久久人妻| 欧美色图在线视频少妇| 国产精品视频一区二区三区八戒| 九九热超碰97亚洲最新香蕉| 91色人妻| 神马久久中文字幕| 国产日韩色综合| 91丝袜美女| 另类图片综合| 亚洲中文人妻色| 亚洲色图一区二区三区| 久久久久久性爱片| 日韩精品人妻| 久久久影院| 亚洲欧美电影| 少妇天堂网络| 国产精品一区av在线| 日本最新免费韩国1区2区视频播放| 老外又粗又长一晚做五次| 午夜久久一区二区无码中出 | 国产精品无码论坛| 青青草原成人| 综合激情五月丁香| 亚洲色图欧美一区二区不卡| 97亚洲欧美日韩| 99久久婷婷丁香| 日韩在线97| 亚洲精品第一| 91欧美网| 亚射在线| 思思热影视| 久草毛片| 久久久久9久久久久| 欧美一二三级精品在线| 9999久久久久| 亚洲成av人片色午夜乱码| 久久久久久久久久9| 天天影视综合网欧美精品| 亚洲网站一区二区在线| 中文字幕乱偷人妻久久艾草网| 亚洲欧洲国产综合av| 亚欧洲日韩国产精品| 另类图片五月| 91久久久亚洲| 啊啊啊在线看| 青青青操| 精品国产乱码久久久久久口爆网站| 色与欲影视天天看综合网| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 影视综合无码少妇| 久久久久女教师免费一区| 97精品国产97久久久久久户外免费| 国产精品原创巨作?v网站| 五月天欧美色图| 天堂精品在线| 精品久久久久久中文| 伊人九九| 97精品在线| 久操九九九九| 日韩在线观看中文字幕视频| 日韩精品资源专区二区| 婷婷20月天青娱乐| 精品999日本| 久久人妻丝袜一区二区三| 亚洲?V无码专区在线电影| 青青草原伊人网| 夜夜騷av、一區二區| 综合一区中亚洲国产成人综合精品| 啊啊啊操死我| 亚洲区小说| 久久国色天香香蕉| 99在线精品观看99| 亚洲天堂中文字| 亚洲天堂资源网| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 亚洲一区二区精品福利| 中文字幕高清精品一区| 国产97亚洲| 安微少妇操BBB| 性色av一区二区| 国产精品老熟女一区二区| 亚洲一卡2卡3卡4卡乱码网站| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 久久草在线综合视频| 最新av网站在线观看| 欧美日韩传媒| 欧美日韩另类激情图片| 久久精品国产99久久,亚洲日韩久久日本一区一区三区 | 亚洲欧美97√| 安微少妇操BBB| 91欧美巨乳| 日韩一级二级三级免费看完整版国语版| 91在线免费观看处女| 国产91美女高潮| 色播五月丁香| 丁香五月天啪啪| 91GD.COM| 五月天综合| 综合五月婷婷| 97色色色| 色嘟嘟人妻天堂网| 日日日啊啊啊| 97在线欧洲| 粉嫩少妇自慰在线| 日韩精品大香蕉伊人在线| 久久久18禁| 97在线观视频免费观看| 日本高清熟女久久一区| 一级免费精品| 蜜臀Av一区二区三区| 久草色在线观看| 人人操人人摸超碰| 草草草视频在线免费看| 一本精品日本在线视频精品 | 99国产人成精品| 口爆综合网| 久jiu久神马影院| 99999精品成人| 99蜜桃臀久久久欧美精品网站| 综合天天网| 欧美性区| 欧亚日本情色| 欧美超碰97| 韩三级a视频在线观看| 亚洲精品国产专区在线观看| 日韩性爱电影一区 | 亚洲素人综合| 人人妻人人爱人人玩| 在线免费观看高清无码视频| 艹精品| 亚洲乱熟女一区二区三区大香蕉| 天美传媒av 在线| 欧亚久久偷拍视频| 少妇的嫩逼图片| 人人弄人人摸| 5月婷婷6月六月丁香| 五月丁香六月婷| 成人日韩中文字幕| 国产精品农村妇女| 91伊人久| 东京热亚洲一区二区| 精久久久91| 91欧美情色| 精品一区二区国产日韩| 亚洲欧美经典一区二区| 97色欧州| 97av在线观看| 404操逼福利视频| 伊人天堂在线| 亚欧操逼片在线观看| 亚洲人体视频在线观看| 小少妇| 在线五区| 人人操人人操人人人操| 无码91| 欧洲一区二区| 亚洲日韩美国人妻| 久久久久久性爱视频| 日韩97超碰| 日日夜夜精品| 久久精品72| 亚洲日本大香蕉1| 亚洲精品尤物yw在线影院| 奸色色 男人天堂 天天射| 亚州国产成人精品女人久久| 一级特黄aaa大片在线观看成人一级片在线观看 | 懂色Av| 日韩成人大片一区二区| 新视频sss国产| 亚洲 无码 偷拍| 五月丁香成人网| 亚洲色欧| 婷婷丁香六月天| 国产人妻精品一区二区三区秋霞| 一区二区三区高清天码| 97久久免费| 蜜乳中文字幕a在线| 久久黄黄| 欧美第一页| 熟女丝袜视频| 狠狠爱综合网| 啊啊啊啊啊啊啊国| 黑人娇小av在线播放 | 91色综合色| 美女天天干| 视频在线观看一二三区| 超碰97色| 九九成人精品| 日韩人妻有码免费视频| 天天舔九色婷婷| 亚洲精品久久久久毛片A片拉屎| 人人操av| 亚州综合在线| 欧美性战999| 永久电影三级在线观看| 亚洲蜜臀懂色| 岛国黄| 欧美传媒一区| 亚洲Av无码成人精品国产| 中文字幕色AV| 亚洲nv男人的天堂网| 久久精品熟妇丰满人妻99| 亚洲天堂,男人| 极品另类| 97在线青| 免费精品福利在线观看| 日本男人天堂| 欧美爆操91| 操国产逼| 人妻内射一区二区在线视频| 永久免费发布性爱网| 我想要啊 啊 啊| 99热精品在线| 日韩99999| 亚洲国产一区二区三区在线| 国产女同视频在线播放| 夜夜嗨TV| 久插综合| 婷婷色色五月天| 性饥渴少妇av无码毛片| 欧美伦乱| 久久免费看高潮毛片韩国| 色伊人91| 日本阿v天堂在线观看| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 操操逼视频| 亚洲熟女一区| av天天在线观看| AV和黑人在线播放| 国产99999| 国产成人精品一区| 天堂岛av| 国产精品久久久久久久黄无码| 中文区中文字幕免费看| 婷婷另类小说| 九九天堂| 欧美色性爱| 日本不卡二区| 男人的天堂kva| 天天天乱色综合全| 亚洲天堂人妻一区二区| 久久无码成人| 襙一襙| 成人性交免费视屏| 日本黄页视频在线观看| 图色综合网| 首页亚洲国产高跟丝袜诱惑视频| 女人 A一级| 岛国黄片网站| 中文字幕99999| 97色欧洲| 中文字幕78| 亚洲国产精品乱码在线观看| 99操碰| 午夜福利免费福利视频| 天堂а√在线最新版在线| 亚洲精品久久久久久久蜜桃臀| 欲色啪| 亚洲日韩XXX| 美骚妇av高清在线| 欧美成人亚洲精品| 日韩美女久久一区二区三区| 九九亚洲| 五月婷视频| 国产女人成人精品视频| 国产亚洲精品美女久久久m| 日小BB小视频| 亚洲熟女精品| 九月丁香婷婷色| 亚洲乱色熟女一区| 五月丁香六月综合缴清无码| 成人蜜乳小视频网站| 久久久久九九九| 日日不卡av| 久草资源在线| 丝袜美腿亚洲| 欧美欧美啪啪视频| 日本高清免费一本视频在线观看| 尹人免费观看视频在线| 美国黄片aaa| 家庭乱伦国产| 三级特黄60分钟播放| 午夜超爽| 亚洲成熟国产精品美女| a级理论午夜日本| 搡老熟女老女人老熟妇免费视频| 99久久婷婷丁香| 伊人五月天激情| 91人人臊| 国产精品一二三区福利| 91欧美偷拍| 国产高清1234区| 欧美性区| 视频黄站| 熟女人妻精品一区二区视频 | 黑人免费福利视频| 成年人三级黄色片视频| 综合免费无码中文| 99色热| 中文字幕片| 久草精品视频| 超碰97久| 少妇一区二区三区高速| 人人做人人妻人人夜视频| 婷婷在线视频| 日韩超碰精品综合| 一区超碰一区| 日韩成年人性爱视频| 超碰色男人操熟女| 欧美啪啪女女| 看黑丝美女操逼青青网站| 日韩亚洲97| 少妇高潮喷水无套久久久久久| 伊色久人大在线| 亚洲熟伦熟妇AV无码春色| 男人a天堂手机在线版| 久久久人妻| 91精品成人www| 91女优在线观看| 精品视频在线观看| 黄色毛片A片| 在线天堂999| 四季av一区二区凹凸精品小说| 天天看天天日| 久久久久亚洲av综合波多野制衣| 日韩高潮一区| 天天爱综合网| 人人操人人插 - 百度 - 百度| 黄aaaaaaaaaaaaaaaaaa色网站| 亚洲另类久操网| 亚洲揄拍网| 欧美极品| 五月激情视频| 欧美玖玖爱免费玖玖| 日本一区二区中文字幕久久| 激情综合婷婷| 东方亚洲在线操逼天堂| 综合久久久久久久久91| 99亚亚热| 国产精品乱码久久久| 91人精品妻入口| 啊啊啊啊嗯嗯嗯用力好爽 | 久久久久久精品免费看A级| 91大胆欧美| 国产一区二区精品在线视频| 少妇熟女1区2区3区| 26uuu性物| 午夜成人福利影视| 欧美亚洲中文| 中文字幕黑人大片| 午夜传煤十二区精品| 日操粉逼逼| 久久亚洲色图中文字幕| 成人26uuu| 中文一区二区婷婷视频| 国产精品毛片| 免费观看成人www精品视频| 3571色综合一区二区二区| 99热线麻豆| 欧美色宗合| 伊人天堂在线| 国产一区二区二区按摩精品啪视频| 超碰久热| 日本天天干天天操一区| 另类天堂| 92久久| 防屏蔽在线视频| 美女9118禁| 日本色婷婷| 日韩欧美加勒比| 啊啊啊啊啊啊啊国| 国产精品黑人一区二区三区| 久久熟妇五十路一区| 欧美成年人性爱视频免费观看| 天天综合网站| 在线观看中文字幕| 91亚州欧美| 欧美操逼熟女| 大香蕉日韩欧美| 国内精品久久久久影院亚洲| 亚洲a色| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 97人人夜| 内射白嫩美女| 人人操我人人干| 97干综合网| 国产精品久久久久综合| 另类欧美色| 亚洲日韩精品在线播放| 欧美亚洲首页| 高树玛利亚无码流出| av一区二区三区四区| 国产69精品久久久久99尤物| 人人么人人操| 国产青青美女玩逼视频| 国产自偷自拍一区| 极品白嫩美少妇在地板上位骑射淫水泛滥| 能看的av| WWW操逼| 欧美亚洲高清晰| 91N欧美| 手机在线中文字幕国产| 天天舔日美女视频| 69人妻精品丰满熟女区| 3p国产色噜噜一区| 免费精品无码一级毛片牛牛影视| 96免费视频在线| 狠狠色伊人亚洲综合网站色| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 一本久道久久综合狠狠爱| 操国产逼| 精品国产乱码久久久久久久| 99热在线不卡| 99热免费| 色成人Www精品永久观看| 色偷偷人人玩人人舔人人操人人摸人人爽 | AV一起草在线| 天天影视综合色| 激情图片亚洲色图| 亚洲精品色| 国产精品欧美日韩久久| 麻豆天美91| 69综合网| 亚洲天堂,男人| 国产 亚洲 丝袜 制服| 亚洲欧美人妻| 97中文综合| 国产精品天干天干综合网麻豆 | www.91色综合| 国产精点久久久成人| 懂色Av| sewuyueav| 精品一区二区三区蜜桃臀www| 99re6久热只有精品6在线直播| 久久久麻豆精品| 国产高清精品一区二区三区毛片| 黑人在线91| 日韩 女同 综合| 小骚逼被操的爽不爽| 伊人97色天使| 久久色人体| 99精品久久| JULIA一区二区三区在线播放| 成人麻豆av电影网站| 国产精品一区二区a| www亚洲欧美| 久久亚洲一区女同性恋中文字幕| 熟女人妻av在线资源,黄色的资源| 在线视频日韩欧美国产| 欧美经典一区二区三区| 国产多人在线观看视频| 国产精品人妻一区二区| 午夜舔阴达高潮视频免费看| 大香蕉欧美| 97超碰久久| 久久69| 色99999| 国产午夜在线观看| 国产一区二区成人av在线播放| 传媒在线观看一区二区三区| 伊人国产AV| 欧美97免费| 丝袜高跟澳门91视频| 夜夜骑操视频| 久热99999| 国产中文字幕在线观看| 亚洲影视第一页| www.成人无码| 任我爽在线视频免费观看| 亚欧美综合网。| 国产精品久久久久久久久久久久久久久 | 无码操逼网| 亚洲国产一级精品毛一级精品看免费视频| 无套内射人妻在线播放| 中国乱伦一区二区| av天堂5| 992这里有精品| 91亚洲黑人| 九九热这里只有在线精品视 伊人草 成人菠萝蜜视频在线观看 | 亚洲男人天堂视频| 快播电影网日韩新片| 日本精品一区二区三| 午夜福利 成人 91| 日少妇视频| 五十路六十路素人熟女| 亚洲色图日韩精品| a久久| 嗯~啊~快点 死我视频| 人妻少妇精品久久久| 一区超碰一区| 少妇久久久| 99精品视频在线观看免费| 亚川综合视频| 99操视频| 嗯~啊~快点 死我视频| 97丝袜亚洲在线播放| 亚洲久久天堂| 三级日本一区二区三区| 偷拍三区| 婷婷久久综合久| 欧美丝袜激情| 亚洲青色欧美| 香蕉99秘 一区精品蜜桃臀| 边做饭边操逼逼| 日本色色的视频| 久热伊人99re| 嗯~啊~轻一点 视频| 狠狠久久手机视频精品| 久久久免费一级黄片| 99自拍B亚洲 | 操人妻逼91| 91男人综合| 91在线精品一区二区三区| 搡老熟女老女人老熟妇免费视频| 日韩三级久久久| 欧美页片| 天天噜| 色一色综合网| 日本999精品视频| 大香久久| 亚洲av淫乱| 国产超碰在线一区| 欧美色图综合网| 囯产乱伦一区二区三女| 丝袜综合| 97在线免费视频| 9999久久久久| 欧美日韩人妻婷婷一区| A级在线视频| 婷婷五月成人| 亚洲午夜蜜臀| 久久毛卡| 操一区| 人人操人人摸超碰| 国产亚洲精品自在线亚洲情侣| 亚洲一本色码中文字幕| 国产精品久久久啊| 草草影院在线视频| 伊人精品国产| 精品综合久久久久久五月天| 大香蕉综合在线| 一区二区三区网站日日骚| 久久久极品| 亚洲一卡2卡3卡4卡乱码网站| 九九九久久久久| 日本人妻伦在线中文字幕| 亚洲天堂男人在线| 欧美天堂在线| 91啪啪| 亚洲丝袜在线观看| 日本在线视频导航| 双插在线| 国产9 9在线 | 亚洲| 欧美天天谢综合网| 家庭乱伦麻豆| 国产农村妇女精品一二区| 东北女人无套内谢视频| 欧美熟女少妇| 91美女在线观看| 天天干天天日天天射黄色| 亚洲色狠| 亚洲国产剧情少妇激情| 国产91会所女技师在线观看| 97超碰天天| 人妻少妇被猛烈进入中| jiujiujiujingpin| 乱伦日本色图AⅤ| 久9久9久9久9久9久9| 亚洲国产成人福利在线观看| 大香蕉综合在线| 久久丁香久草综合网| 亚爽爽爽爽爽爽爽爽| 亚洲无码免费看| 日韩欧美成人大香蕉| 久久久久久久九九九九九九| 亚洲一二三| 免费作爱一级视频| 中文字幕人乱码中文字的预防方法 | 丁香六月婷婷久久综合| 爱爱动态60秒| 99天天超碰| 男女激情黄色网址| 偷拍导航视频网站| 一级性爱aaaa| 一卡二卡三卡| 夜夜爽妓女| 国产在线能看的你懂的| 中国的操老妇女| 屌逼传媒| 福利社区午夜一区二区| 久久精品国产97欧美精品亚洲 | 久久精品一区二区一8| 60秒试看最爽10分钟网站| 女同性恋久久| 高颜值美女口爆高潮浪叫| 好吊色一区| 欧美色婷婷| 狠狠色噜噜狠狠狠狠2018| 91少妇高潮| 97资源欧美| 婷婷五月在线视频| 啪啪视频亚洲第一| 懂色Av| 精品久操| 激情终合网| 夜夜操二区| 国岛片视频| 亚洲欧美国产中文视频| 久久精品六区| 精品无码久久久久| 欧美性爱97超碰 | 97伪v| 久草成人福利导航| 美女被艹尤物视频| 涩综合导航| 久操免费在线| 好色美女九七第一页| 麻豆天美传媒在线视频天堂| 色色色99| 欧美一区二区亚洲天堂| 欧美aaaaaaa| 12一15性XXXX粉嫩国产| 97超碰9| 欧美日本视频一区| 中文字幕第23区| 久久人妻四季| 亚洲91少妇| 婷婷丁香六月| 中国探花熟女| a v网站在线播放| 亚洲欧洲中文日韩女优乱码| 91精品国产综合久久久蜜臀酒店| 亚洲欧美综合网站| 久久综合久色欧美综合狠狠| 欧美精品成人亚洲| 亚洲国产欧美日韩人妻日中文| 激情五月丁香五月| 国产日本久久免费精品| 综合久久六月久久婷婷| 一级岛国大片| 国产9 9在线 | 亚洲| 国产怡红院在线| 综合自拍| 久草综合网| 久久99干一本高清| 91中出在线| 午夜精品久久久99热蜜桃的功能特点| 久久精品国产精品| 日韩97视频| 国产欧美后入| 午夜福利一区二区三区四区五区色婷婷| 国产乱弄免费在线视频。| aaa淫乱视频| 精品国产一区二区三区久久久蜜臀 | av绯色| 蜜乳AV一区二区三区四| 日韩丰满熟妇| 天美麻花大全视频| 久久精品国产72国产精品福利| 无码精品人妻一区二区三区妖精 | 九九视品黄色| 天天综合影院91| 欧美精品久久96人妻无码| 久久久99999久网站| 超碰98综合网| 久草综合网| 97在线免费观看| 欧美亚洲自拍另类人妻| 精品中文字幕第一页| 欧美色视频在线| 777奇米影视777四色| 青娱乐欧美激情一区二区| 99久久精品无码一区二区| 久久曰曰| 欧日韩不卡视.频| 亚洲成人精品久久久| 亚洲和欧美裸体美女双飞视频| 欧美亚洲清纯| 91中出| 日韩图区 偷拍| 久久99视频| 野狼激情网| 久久亚洲天天做| 东北操逼| 欧美日韩97| 在线播放成人高清免费视频| 欧美顶级黄色大片免费| 清柠毛片| 高潮嗯啊性感美女久久久| 亚州黄站| 日韩欧美亚洲自拍偷拍| 玖玖爱免费观看视频| 日韩精品99999| 五月婷婷hd| 偷拍导航视频网站| a男人的天堂久久一级A毛片| 亚洲女毛多水多21P| 久久免费老司机精品| 中文字幕AV片| 国产精品96| 熟女激情综合网| 婷婷91| 熟女欧美日韩综合婷婷| 97中文字幕一区| 欧美伊人久久综合网| 丁香五月天啪啪| 丝袜视频一区二区在线播放国产中文| 亚洲成人帖图| 韩国免费播放一级毛片| 国产乱伦性爱AV| 日本999精品| 诱惑网综合| 最近2019中文字幕国语免费版| 亚洲 欧美 中文 日韩超碰| 精品人妻视频一区二区在线播放| 无码久久国产| 丁香六月啪| 中文字幕伊人| 91福利网在线观看| 婷婷五月天福利| 死我十八禁| 久久日韩精品一区二区| 国产青一二三| 香蕉视频精品亚洲一区二区三区在线播| 白天啪啪晚上啪啪视频| 日韩精品高清资源在线| 大逼色网站| 亚洲精品乱码久久久久久蜜桃麻豆 | 日韩紧密久久| 97网色| 午夜婷婷| 欧美色九九| 欧美成人黄网色网站| 天海翼久久| 午夜国产乱伦视频| 青青草十区九区爱夜| 国产高清成人免费视频| a在线观看| 2017天天操天天日| 国产无马av| 操老熟女AV| 美国aaaaa一级黄片| 骚逼一区二区| 蜜乳AV.COM| 久久鲁夜| 国产欧美日本亚洲精品| 一区二区三区日韩欧美 | 日韩卡一卡二卡三在线| 色娱乐色呦呦夜夜夜夜av| 欧美日韩另类在线播放| 宅男91视频在线播放| 精品无码一区二区三区色欲| xxx亚洲午夜天堂| 毛片一区二区| 久久人人爽爽爽人久久久| 超碰97欧美| 日韩AV色图| 高清无码在线播放网站| 久久一二三四不卡| 国产精品熟女九色九色蜜臀| 亚洲欧美日韩国产丝袜自拍中文| 热久久国产| 国产人妻精品一区二区三区秋霞| 欧美日韩国内不卡| 综合色久欲| 精品少妇一区二区三区免费观看| 亚洲九九视频| 国产成人综合网| 男人亚洲天堂| 精品乱子一区二区三区99| 亚洲三区视频| 97操碰| 亚洲精品视频二区| 欧美中文字幕日韩在线| 91久久久老司机| 乱伦3P视频| 精品一区二区三区丰满熟女-亚洲欧美一区| 日本 成 人 小说 电影 一区二区| 91天天综合日韩欧美| 欧美日本久久精品一区 | 曰韩香蕉97| 思思热在线视频精品| 尤物av网站免费在线播放| 欧美熟妇操操视频| 亚卅熟女乱色| 久久久精品网站| 粉嫩AV一区夜夜嗨| 亚洲色综合| 丰满人妻一区二区三区性色| 日日骚精品视频| 高清无码网址| 欧洲综合无码| 欧美综合亚洲| 九九英色视频| 国产亲戚伦亲在线| 欧美熟妇精品黑人巨大91| 天美国产精品| 伊人黄色视频免费观看| 亚洲情色综合| 欧美日韩青操| 中文字幕国产精品1区| 色哟哟511老熟女| 超碰导航97| 欧美性天天影院| 久久国产99精品72福利| 久草视频在线视频在线视频在线观看 | 亚欧成人一级片在线播放| 夜夜人妻爽| 婷婷丁香五月综合| 近亲乱伦一区二区| 一级性爱视频免费观看 | 美女裸体无遮挡永久免费观看网站| 99re综合伊人| 欧美狠狠弄| 丁香五月天堂| 色呦呦呦在线观看视频| 亚洲人成网站7777| 久草综合网| 老熟女中文字幕高清| 丰满人妻一区二区三区在线| 五月天黄色激情视频| 1人人看人人摸人人操| 久久久久久精| 91亚.色| 日韩八十路老熟女| 精品96久久| 亚洲情色五月天| 久久精彩免费视频| 3p国产欧美99热| 午夜精品五区| AV一起草在线| 夜草网站| 亚洲97在线| 精品超碰色| 后入日本1234| 操老熟女AV| 国产丰满少妇久久久精品影院| 97资源超碰| 国产女人高潮视频| 国产激情在线观看| 在线观看国产黄色| 丰满人妻无码一区二区三区| 男人干美女| 美中日韩无码| 美女极品一区二区三区| 天天看夜夜看日日干| 97这里只有精品| 精品国产乱码久久| 久久久青青草| 老熟女91视频| 色香天天| 亚洲中文字幕一区二区| 国产美女高潮视频| 国产精品丝袜在线| 亚洲清纯唯美| 欧美久久久| 亚洲AV色图一区| 久草电影网| 超碰精品97| 992视频一区| 亚洲九九九九|