亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析

Zabbix監(jiān)控Nginx實(shí)戰(zhàn):Agent端配置與狀態(tài)頁采集全解析 先說結(jié)論Zabbix 監(jiān)控 Nginx最關(guān)鍵的環(huán)節(jié)不在 Server 端怎么寫監(jiān)控項(xiàng)而在 Agent 端怎么把 Nginx 的實(shí)時(shí)狀態(tài)穩(wěn)定采集上來。很多人裝了一堆組件最后發(fā)現(xiàn)數(shù)據(jù)過不來問題大多出在 Nginx 狀態(tài)頁沒開、Agent 配置文件沒改對(duì)、自定義監(jiān)控項(xiàng)寫錯(cuò)這三個(gè)地方。這篇文章適合兩類人。一類是剛開始接觸 Zabbix想用 Agent 方式給 Nginx 加監(jiān)控的新手另一類是已經(jīng)把 Zabbix Server 跑起來但搞不清客戶端、狀態(tài)頁、自定義 key 之間關(guān)系的人??赐曛竽隳馨错樞虼畛鲆粭l完整鏈路Nginx 暴露狀態(tài)頁Agent 執(zhí)行采集命令Zabbix Server 通過 key 拿到數(shù)據(jù)最終在 Web 界面看到指標(biāo)曲線和告警。下面按實(shí)際落地順序拆一遍。1. 先把Zabbix監(jiān)控Nginx的數(shù)據(jù)鏈路拆清楚1.1 Agent在監(jiān)控鏈路里到底干什么Zabbix 監(jiān)控 Nginx 可以有多種方式比如直接用 SNMP、用 Zabbix Agent、或者讓 Zabbix Server 主動(dòng)去請(qǐng)求 HTTP 接口。最常見、也最適合多數(shù)企業(yè)內(nèi)部場(chǎng)景的就是Zabbix Agent方式。Agent 本質(zhì)上是一個(gè)安裝在被監(jiān)控機(jī)器上的小服務(wù)。它負(fù)責(zé)做三件事接收 Zabbix Server 或 Zabbix Proxy 發(fā)來的數(shù)據(jù)請(qǐng)求執(zhí)行本地的采集命令、腳本或從狀態(tài)頁讀取數(shù)據(jù)把結(jié)果返回給 Server 端。所以Agent 不是直接“連”上 Nginx而是起到了一個(gè)翻譯和采集的作用。Nginx 本身不會(huì)主動(dòng)告訴 Zabbix “我的并發(fā)連接是多少”Agent 需要自己去讀 Nginx 暴露出來的狀態(tài)信息然后轉(zhuǎn)換成 Zabbix 能識(shí)別的數(shù)值。理解這條鏈路非常重要。很多人直接照著網(wǎng)上配置往配置文件里寫了幾行UserParameter發(fā)現(xiàn)沒數(shù)據(jù)就以為是 Zabbix 的問題。實(shí)際上往往是 Nginx 狀態(tài)頁本身打不開或者 Agent 所在用戶沒有權(quán)限執(zhí)行 curl又或者 key 名稱寫錯(cuò)了導(dǎo)致 Server 端拿不到結(jié)果。1.2 基礎(chǔ)監(jiān)控項(xiàng)可以直接用高級(jí)指標(biāo)要靠狀態(tài)頁或腳本如果你只是監(jiān)控“進(jìn)程在不在”那 Zabbix 自帶的模板和內(nèi)置 key 就夠了。比如用proc.num[nginx]或proc.num[nginx.exe]判斷 Nginx 進(jìn)程數(shù)量用system.cpu.load看 CPU 負(fù)載用net.if.in、net.if.out看網(wǎng)卡流量。這些不需要改動(dòng) Nginx 配置Agent 裝上之后就能用。但如果你想監(jiān)控 Nginx 的業(yè)務(wù)指標(biāo)比如當(dāng)前活躍連接數(shù)總連接數(shù)總請(qǐng)求數(shù)每秒請(qǐng)求數(shù)Reading、Writing、Waiting 的數(shù)量那一定要開啟 Nginx 的stub_status模塊并配置一個(gè)狀態(tài)頁。然后通過 Agent 的UserParameter去讀取解析。這里有一個(gè)常見誤解以為 Zabbix 官方模板會(huì)自動(dòng)采集這些數(shù)據(jù)。實(shí)際上官方模板里包含這些監(jiān)控項(xiàng)但前提是 Agent 端已經(jīng)裝好了 Nginx 狀態(tài)頁采集腳本或自定義 key。模板只是“裝了 CPU 插座”還得你自己把“電源線”接上。1.3 環(huán)境準(zhǔn)備和判斷標(biāo)準(zhǔn)準(zhǔn)備環(huán)境時(shí)先確認(rèn)以下條件Zabbix Server 已經(jīng)安裝并運(yùn)行Web 界面可以打開被監(jiān)控的 Nginx 服務(wù)器能訪問 Zabbix Server/Serve 端也能訪問 Agent 的監(jiān)聽端口Agent 版本盡量和 Server 主版本接近避免低版本 agent 不支持某些 keyNginx 編譯時(shí)帶上了--with-http_stub_status_module或者本身就是發(fā)行版默認(rèn)編譯好的版本如果是 Docker 部署的 Nginx也要確認(rèn)容器內(nèi)是否有 curl、grep、awk 這些基礎(chǔ)命令后面腳本采集時(shí)會(huì)用到。其中“Agent 版本和 Server 版本盡量一致”這條很多人會(huì)忽略。雖然 Zabbix Agent 大體上向后兼容但高版本 Server 搭配特別老的 Agent可能出現(xiàn)監(jiān)控項(xiàng)顯示“不支持”的情況。建議落地前先統(tǒng)一版本。如果只是學(xué)習(xí)測(cè)試單機(jī)部署一臺(tái) VM 就夠如果要進(jìn)生產(chǎn)建議把 Zabbix Server 和 Agent 分別部署在不同機(jī)器上避免性能干擾。2. Agent端安裝和基礎(chǔ)配置決定后面少踩一半坑2.1 安裝方式選擇Zabbix Agent 的安裝方式取決于操作系統(tǒng)。常見的有使用發(fā)行版官方倉庫或 Zabbix 官方倉庫安裝下載源碼編譯安裝使用 Docker 容器運(yùn)行 agent如果是 Windows Nginx還需要安裝 Windows 版本的 agent。安裝時(shí)最好不要用“從網(wǎng)上隨手找個(gè)包”的方式因?yàn)?Zabbix 官方倉庫會(huì)根據(jù)你使用的系統(tǒng)版本提供對(duì)應(yīng)的 agent 包依賴也能自動(dòng)處理。具體安裝命令這里不給死版本因?yàn)椴煌到y(tǒng)和 Zabbix 版本的倉庫地址差異很大。建議參考官方安裝文檔或者直接看倉庫安裝提示按照“添加官方倉庫 - 刷新包列表 - 安裝 zabbix-agent”的順序走。安裝完成后先不著急改配置確認(rèn) agent 二進(jìn)制文件已經(jīng)存在。which zabbix_agentd或者zabbix_agentd --version如果命令能打印出版本信息說明安裝成功。這一步能提前發(fā)現(xiàn)“安裝到一半缺依賴”“架構(gòu)不對(duì)”等問題。2.2 修改Agent配置文件Agent 的主配置文件一般叫zabbix_agentd.conf在 Linux 上常見路徑有/etc/zabbix/zabbix_agentd.conf、/usr/local/etc/zabbix_agentd.conf。Windows 上通常安裝在 agent 安裝目錄下。需要重點(diǎn)關(guān)注這幾個(gè)參數(shù)參數(shù)作用填寫建議Server允許向本 Agent 請(qǐng)求數(shù)據(jù)的 Zabbix Server 或 Proxy IP寫 Server 的實(shí)際 IP不要寫 0.0.0.0ServerActiveAgent 主動(dòng)連接 Server 的地址用于主動(dòng)模式同樣寫 Server IP 和端口HostnameAgent 在 Server 端注冊(cè)或顯示的主機(jī)名必須和 Web 界面創(chuàng)建的主機(jī)名一致UnsafeUserParameters是否允許自定義 key 包含特殊字符或帶參數(shù)如果自定義命令很簡(jiǎn)單可以設(shè)為 0如果帶參數(shù)、管道最好設(shè)為 1UserParameter自定義監(jiān)控項(xiàng) key 和采集命令可以寫在單獨(dú)文件里引用一個(gè)常見的問題是同時(shí)配置了Server和ServerActive但 Hostname 寫錯(cuò)了。結(jié)果就是 Zabbix Server 能看到主機(jī)但數(shù)據(jù)全斷斷續(xù)續(xù)。原因是被動(dòng)模式下 Server 根據(jù) IP 來找 Agent主動(dòng)模式下 Agent 要上報(bào)自己的 Hostname兩套機(jī)制的校驗(yàn)方式不一樣。我給你一個(gè)比較穩(wěn)妥的配置習(xí)慣先只配置被動(dòng)模式也就是Server和Hostname確認(rèn) zabbix_get 能取到數(shù)據(jù)后再按需開啟主動(dòng)模式不要一上來就同時(shí)開兩個(gè)模式排查起來不方便。2.3 啟動(dòng)與連通性驗(yàn)證配置文件改完后重啟 Agent 服務(wù)。systemctl restart zabbix-agent確認(rèn)進(jìn)程狀態(tài)systemctl status zabbix-agent然后看 Agent 日志確認(rèn)沒有報(bào)錯(cuò)。日志位置通常在/var/log/zabbix/zabbix_agentd.log。如果 Agent 和服務(wù)在同一臺(tái)機(jī)器可以用zabbix_get命令模擬 Server 拉取數(shù)據(jù)。zabbix_get -s 127.0.0.1 -k agent.ping返回1代表 Agent 活著。返回超時(shí)或cannot connect就要檢查端口監(jiān)聽和防火墻。接下來用同樣方式測(cè)試 Nginx 相關(guān)的內(nèi)置 key比如zabbix_get -s 127.0.0.1 -k proc.num[nginx]如果返回?cái)?shù)字說明 Agent 部署正常已經(jīng)能獲取系統(tǒng)數(shù)據(jù)。到這里基礎(chǔ)的 Agent 鏈路算通了。3. Nginx狀態(tài)頁開啟核心指標(biāo)都從這里來3.1 檢查Nginx是否帶stub_status模塊Nginx 的stub_status是官方自帶的一個(gè)模塊但很多源碼編譯的 Nginx 默認(rèn)并沒有把它帶上。所以第一步是先確認(rèn)??匆寻惭b Nginx 是否包含該模塊nginx -V 21 | grep stub_status如果有輸出說明模塊已經(jīng)編譯進(jìn)去了。如果沒有輸出有兩種處理方式重新編譯 Nginx在 configure 參數(shù)中加上--with-http_stub_status_module如果用的是發(fā)行版默認(rèn) Nginx可以檢查是否已經(jīng)默認(rèn)帶了這個(gè)模塊。比如某些 Linux 發(fā)行版的 nginx 包會(huì)默認(rèn)包含。重新編譯相對(duì)麻煩尤其會(huì)影響現(xiàn)有 Nginx 的平滑升級(jí)。建議先在測(cè)試環(huán)境驗(yàn)證不要直接在線上操作。如果線上 Nginx 是別人裝的你也不清楚編譯參數(shù)那就先跑nginx -V看看結(jié)果。3.2 配置location /nginx_status在 Nginx 配置中增加一個(gè)狀態(tài)頁 location。常見做法是新增一個(gè)獨(dú)立配置文件或者在server塊中新增 location。location /nginx_status { stub_status on; access_log off; allow 127.0.0.1; deny all; }這里最重要的不是stub_status on;而是allow和deny的訪問控制。默認(rèn)情況下這個(gè)頁面會(huì)暴露 Nginx 當(dāng)前所有連接和請(qǐng)求狀態(tài)。如果不做限制外網(wǎng)可以隨便訪問等于泄露了服務(wù)運(yùn)行基礎(chǔ)信息。所以一般只允許本機(jī)或內(nèi)網(wǎng)監(jiān)控網(wǎng)段訪問。如果 Agent 和 Nginx 在同一臺(tái)機(jī)器allow 127.0.0.1就夠了。如果 Agent 要從另一臺(tái)機(jī)器抓取就把a(bǔ)llow換成監(jiān)控網(wǎng)段但這樣會(huì)對(duì) Nginx 暴露一個(gè) HTTP 端點(diǎn)必須在防火墻層面做好限制。有些朋友會(huì)問不是 Agent 本機(jī)采集嗎為什么還要允許局域網(wǎng)因?yàn)槿绻愕牟杉_本是跑在 Agent 本機(jī)通過http://127.0.0.1/nginx_status訪問那確實(shí)只需要允許本機(jī)。但如果你嘗試從 Zabbix Server 直接用 HTTP agent 監(jiān)控 Nginx那就必須允許 Server IP。本文統(tǒng)一采用 Agent 本機(jī)采集的方式所以只允許 127.0.0.1 最穩(wěn)。配置完成后重載 Nginx。nginx -t nginx -s reload3.3 本地curl驗(yàn)證輸出格式在 Agent 本機(jī)執(zhí)行curl http://127.0.0.1/nginx_status正常情況下會(huì)看到類似這樣的輸出Active connections: 12 server accepts handled requests 100 100 200 Reading: 0 Writing: 1 Waiting: 11四行數(shù)據(jù)的含義第一行當(dāng)前活躍連接數(shù)第二行三個(gè)計(jì)數(shù)器的標(biāo)題第三行總接受連接數(shù)、總握手連接數(shù)、總請(qǐng)求數(shù)第四行正在讀取請(qǐng)求頭的連接數(shù)、正在寫入響應(yīng)的連接數(shù)、空閑等待請(qǐng)求的連接數(shù)。如果 curl 返回空或者 403、404先查 Nginx 配置是否真正生效再查防火墻。403 通常是 allow/deny 規(guī)則問題404 通常是 location 路徑或配置文件沒加載。4. 自定義監(jiān)控項(xiàng)把status頁轉(zhuǎn)換成Zabbix能識(shí)別的數(shù)據(jù)4.1 用UserParameter定義KeyAgent 拿到 Nginx 狀態(tài)頁內(nèi)容之后還需要把它解析成獨(dú)立指標(biāo)。Zabbix 是通過自定義 key 來實(shí)現(xiàn)的。在/etc/zabbix/zabbix_agentd.d/目錄下新建一個(gè)配置文件比如userparameter_nginx.conf寫入U(xiǎn)serParameternginx.active,curl -s http://127.0.0.1/nginx_status | grep Active | awk {print $NF} UserParameternginx.requests,curl -s http://127.0.0.1/nginx_status | sed -n 3p | awk {print $3} UserParameternginx.reading,curl -s http://127.0.0.1/nginx_status | grep Reading | awk {print $2} UserParameternginx.writing,curl -s http://127.0.0.1/nginx_status | grep Writing | awk {print $4} UserParameternginx.waiting,curl -s http://127.0.0.1/nginx_status | grep Waiting | awk {print $6}注意這里的命令里用到了管道和grep所以UnsafeUserParameters需要設(shè)為1否則 Agent 可能拒絕執(zhí)行這類帶特殊字符的命令。配置完重啟 Agentsystemctl restart zabbix-agent用zabbix_get測(cè)試zabbix_get -s 127.0.0.1 -k nginx.active如果返回?cái)?shù)字說明自定義 key 已經(jīng)生效。4.2 用腳本代替多條命令上面的寫法雖然簡(jiǎn)單但每條 key 都執(zhí)行一次 curl而且解析邏輯各不相同。如果有 5 個(gè)指標(biāo)每次采集都要重復(fù)請(qǐng)求 5 次狀態(tài)頁。雖然對(duì)單機(jī)來說影響不大但會(huì)讓監(jiān)控?cái)?shù)據(jù)點(diǎn)的時(shí)間不完全一致尤其是 active、connections、requests 三個(gè)值是不同時(shí)間快照畫圖時(shí)可能看到輕微波動(dòng)。更好的方式是寫一個(gè)采集腳本一次請(qǐng)求拿到所有值再按需輸出。#!/bin/bash STATUS$(curl -s http://127.0.0.1/nginx_status) case $1 in active) echo $STATUS | grep Active | awk {print $NF} ;; requests) echo $STATUS | sed -n 3p | awk {print $3} ;; reading) echo $STATUS | grep Reading | awk {print $2} ;; writing) echo $STATUS | grep Writing | awk {print $4} ;; waiting) echo $STATUS | grep Waiting | awk {print $6} ;; *) echo UNKNOWN ;; esac把這個(gè)腳本放到/usr/local/bin/nginx_status.sh并加執(zhí)行權(quán)限chmod x /usr/local/bin/nginx_status.sh然后配置 userparameterUserParameternginx.status[*],/usr/local/bin/nginx_status.sh $1這樣在 Zabbix Server 端可以用nginx.status[active]、nginx.status[waiting]讀取不同指標(biāo)每次采集只請(qǐng)求一次 Nginx 狀態(tài)頁。這類腳本方案適合指標(biāo)多、采集頻率高的場(chǎng)景。缺點(diǎn)是腳本出了問題排查難度更大所以腳本里盡量減少對(duì)系統(tǒng)命令路徑的依賴。4.3 主動(dòng)模式和被動(dòng)模式對(duì)自定義key的影響自定義 key 本身不區(qū)分主動(dòng)還是被動(dòng)兩種模式都支持。區(qū)別在于被動(dòng)模式Zabbix Server 發(fā)起 TCP 連接向 Agent 請(qǐng)求 keyAgent 執(zhí)行命令返回結(jié)果。適合監(jiān)控項(xiàng)不多、Server 并發(fā)壓力不大的場(chǎng)景。主動(dòng)模式Agent 每隔一段時(shí)間主動(dòng)去向 Server 獲取監(jiān)控項(xiàng)列表然后執(zhí)行并上報(bào)結(jié)果。適合監(jiān)控項(xiàng)很多、網(wǎng)絡(luò)分區(qū)復(fù)雜的場(chǎng)景。如果你使用主動(dòng)模式ServerActive必須配置正確并且 Agent 能訪問 Server 的 10051 端口。同時(shí) Hostname 必須和 Web 界面創(chuàng)建的主機(jī)名完全一致否則 Agent 上報(bào)的數(shù)據(jù)找不到歸屬主機(jī)。在測(cè)試階段建議先使用被動(dòng)模式因?yàn)閦abbix_get就是模擬被動(dòng)模式的請(qǐng)求排錯(cuò)更直觀。5. Server端把主機(jī)和監(jiān)控項(xiàng)綁定起來5.1 在Web界面添加主機(jī)Zabbix Server 裝好并配置好 Agent 后登錄 Web 界面在“數(shù)據(jù)采集 - 主機(jī)”里創(chuàng)建新主機(jī)。需要填寫的內(nèi)容主機(jī)名稱必須與 Agent 配置里的Hostname一致可見名稱可以自定義顯示在頁面上模板可以先選擇自帶模板測(cè)試連接性群組選一個(gè)已有主機(jī)組或者新建一個(gè) Nginx 組Interface選擇 Agent填寫被監(jiān)控機(jī)器 IP 地址端口默認(rèn) 10050。創(chuàng)建時(shí)如果勾選了“添加后啟用”保存后主機(jī)應(yīng)該會(huì)出現(xiàn)在可用主機(jī)列表里。很多人第一次配置時(shí)會(huì)把“主機(jī)名稱”和“可見名稱”混在一起。實(shí)際上主機(jī)名稱是 Zabbix 內(nèi)部用于匹配 Agent 上報(bào)的標(biāo)識(shí)必須嚴(yán)格對(duì)應(yīng)可見名稱可以隨便寫。如果主機(jī)名稱填錯(cuò)主動(dòng)模式下數(shù)據(jù)絕對(duì)不來被動(dòng)模式下有時(shí)還能通過 IP 匹配所以這個(gè)坑要記住。5.2 關(guān)聯(lián)模板或手動(dòng)添加監(jiān)控項(xiàng)Zabbix 官方提供了 Nginx by Zabbix agent 模板里面已經(jīng)定義好了監(jiān)控項(xiàng)和觸發(fā)器。如果你的 Agent 端已經(jīng)配好了對(duì)應(yīng)的自定義 key直接關(guān)聯(lián)模板就能看到數(shù)據(jù)。關(guān)聯(lián)模板之后建議先看“最新數(shù)據(jù)”。如果監(jiān)控項(xiàng)顯示“不支持”說明模板里引用的 key 在 Agent 端并沒有定義要么是自定義配置文件沒生效要么是 key 名稱不匹配。不使用模板的情況下也可以手動(dòng)創(chuàng)建監(jiān)控項(xiàng)字段示例名稱Nginx 活躍連接數(shù)類型Zabbix agent鍵值nginx.status[active]信息類型數(shù)字無正負(fù)更新時(shí)間30s手動(dòng)創(chuàng)建的好處是靈活壞處是每臺(tái)主機(jī)都要配一遍效率低。建議至少從模板開始再按需修改。5.3 最新數(shù)據(jù)驗(yàn)證添加監(jiān)控項(xiàng)后等一兩個(gè)更新周期再到“監(jiān)測(cè) - 最新數(shù)據(jù)”里查看。判斷標(biāo)準(zhǔn)有數(shù)值且持續(xù)更新鏈路完全通顯示不支持Agent 執(zhí)行命令失敗或 key 名稱不對(duì)顯示“不支持”但 zabbix_get 正常檢查 Server 端 Agent 配置的 IP 和端口有數(shù)據(jù)但一直不變檢查腳本是否用了緩存或者 Nginx 狀態(tài)頁是否更新異常。有時(shí)候 Agent 端剛改了自定義配置需要等 Agent 重啟后才會(huì)重新加載。如果發(fā)現(xiàn)改了配置但沒生效先確認(rèn)是否重啟了 zabbix-agent。我用 zabbix_get 排查時(shí)會(huì)習(xí)慣在前面加一個(gè)timeouttimeout 5 zabbix_get -s 192.168.1.10 -k nginx.status[active]加上 timeout 可以避免命令長(zhǎng)時(shí)間卡住尤其當(dāng)腳本內(nèi)部頻繁請(qǐng)求外部地址時(shí)。生產(chǎn)上不建議讓監(jiān)控采集命令永久阻塞Zabbix Agent 本身有 timeout 限制但腳本內(nèi)部如果卡在某個(gè)命令上也會(huì)拖慢采集。6. 數(shù)據(jù)沒到、不支持、為0時(shí)按這個(gè)順序排查6.1 Agent狀態(tài)不可達(dá)現(xiàn)象Zabbix Server 頁面顯示主機(jī)離線zabbix_get -s 目標(biāo)IP -k agent.ping超時(shí)或 cannot connect。排查順序先確認(rèn)目標(biāo) IP 是否通ping 目標(biāo)IP確認(rèn) Agent 端口監(jiān)聽是否正常ss -lntp | grep 10050確認(rèn)防火墻是否放行端口Linux 檢查firewalld或iptables確認(rèn) Zabbix Server 能否連接到該端口用telnet 目標(biāo)IP 10050或nc -vz 目標(biāo)IP 10050如果前面都正???Agent 日志可能有配置錯(cuò)誤或啟動(dòng)失敗。大多數(shù)“不可達(dá)”不是 Zabbix Server 的問題而是防火墻或者 Agent 沒啟動(dòng)。6.2 監(jiān)控項(xiàng)顯示不支持現(xiàn)象agent.ping正常但 Nginx 相關(guān)監(jiān)控項(xiàng)顯示“不支持”。在 Agent 本機(jī)執(zhí)行zabbix_get -s 127.0.0.1 -k nginx.status[active]如果返回非數(shù)字或報(bào)錯(cuò)繼續(xù)看key 名稱是否和 Server 端完全一致自定義配置文件是否生效腳本是否有執(zhí)行權(quán)限腳本里的 curl 是否能訪問 Nginx 狀態(tài)頁Agent 日志里是否有cannot run command之類的記錄。這一層最常見的問題有兩個(gè)一個(gè)是UnsafeUserParameters0導(dǎo)致帶管道或參數(shù)字符的命令被攔截另一個(gè)是腳本權(quán)限不對(duì)Agent 執(zhí)行腳本時(shí)沒有執(zhí)行權(quán)限返回空值。6.3 數(shù)據(jù)為0或長(zhǎng)時(shí)間不變?nèi)绻?zabbix_get 能返回?cái)?shù)字但 Web 界面數(shù)據(jù)為 0 或不變可能的原因監(jiān)控項(xiàng)類型設(shè)置錯(cuò)誤比如把整數(shù)項(xiàng)配置成字符型更新周期太長(zhǎng)短時(shí)間內(nèi)看不到變化Agent 端腳本使用了緩存文件但緩存文件沒有及時(shí)更新Nginx 狀態(tài)頁的數(shù)值確實(shí)沒變化尤其是 Reading/Writing/Waiting請(qǐng)求量低的時(shí)候波動(dòng)很小。遇到這種問題先把監(jiān)控項(xiàng)改成 10s 更新間隔觀察同時(shí)把采集腳本手動(dòng)執(zhí)行幾次對(duì)比結(jié)果。如果手動(dòng)執(zhí)行有變化而 Zabbix 一直取舊值多半是 Agent 端緩存或 Server 端歷史數(shù)據(jù)存儲(chǔ)延遲。6.4 檢查權(quán)限和SELinux這個(gè)坑在 Linux 生產(chǎn)環(huán)境中非常普遍。如果 Agent 和 Nginx 都在同一臺(tái)機(jī)器Agent 執(zhí)行 curl 訪問http://127.0.0.1/nginx_status一般沒問題。但如果 SELinux 開啟可能會(huì)有連接被拒的情況。排查時(shí)先看/var/log/audit/audit.log有沒有 denied 記錄。有的話可以采用兩種方式放通相關(guān)端口或者把 SELinux 臨時(shí)轉(zhuǎn)為 permissive 測(cè)試。不要一上來就永久關(guān)閉 SELinux先確認(rèn)是不是它的原因。Zabbix Agent 默認(rèn)以zabbix用戶運(yùn)行這個(gè)用戶對(duì) Nginx 狀態(tài)頁的訪問是走 HTTP 協(xié)議的不涉及文件系統(tǒng)權(quán)限但要在操作系統(tǒng)層面允許它建立本地網(wǎng)絡(luò)連接。如果連本機(jī)回環(huán)都被限制curl 會(huì)返回空。7. 從單臺(tái)試跑到批量部署還要補(bǔ)三件事7.1 批量部署Agent單機(jī)跑通后批量監(jiān)控也別急著手工逐臺(tái)配置。建議提前準(zhǔn)備好 Agent 配置文件模板和安裝腳本利用自動(dòng)化運(yùn)維工具分發(fā)安裝。批量部署時(shí)每臺(tái)機(jī)器需要變化的內(nèi)容主要有兩個(gè)Hostname和Server。Server通常都指向同一個(gè) Zabbix ServerHostname則建議用機(jī)器名或業(yè)務(wù)名方便識(shí)別。如果沒有自動(dòng)化工具可以寫一個(gè)簡(jiǎn)單的 Shell 腳本在一批機(jī)器上執(zhí)行安裝、寫入配置、啟動(dòng)服務(wù)。關(guān)鍵點(diǎn)在于腳本要冪等重復(fù)執(zhí)行不會(huì)產(chǎn)生重復(fù)監(jiān)控項(xiàng)或配置沖突。7.2 模板復(fù)用和指標(biāo)命名規(guī)范批量部署前先定義一套統(tǒng)一的監(jiān)控項(xiàng)命名規(guī)范。比如nginx.active nginx.requests nginx.reading nginx.writing nginx.waiting不要每臺(tái)機(jī)器都用不同的 key 名。否則后面加圖形、加聚合、加告警時(shí)工作量會(huì)翻好幾倍。在 Zabbix 里一套完整的 Nginx 監(jiān)控模板應(yīng)該包含監(jiān)控項(xiàng)連接數(shù)、請(qǐng)求數(shù)、Reading、Writing、Waiting觸發(fā)器活躍連接數(shù)過高、請(qǐng)求數(shù)異常下降、Nginx 進(jìn)程數(shù)小于 1圖形連接數(shù)和請(qǐng)求數(shù)趨勢(shì)圖聚合原型如果需要按集群視圖查看可以配置聚合監(jiān)控項(xiàng)。模板設(shè)計(jì)好之后所有新主機(jī)直接關(guān)聯(lián)模板避免人工逐條添加監(jiān)控項(xiàng)。7.3 監(jiān)控頻率與告警閾值的取舍Nginx 的指標(biāo)采集頻率不建議太高。默認(rèn) 30 秒到 1 分鐘已經(jīng)足夠尤其是請(qǐng)求數(shù)、活躍連接數(shù)這類指標(biāo)本身就是瞬時(shí)快照采集頻率高并不能提高準(zhǔn)確性反而會(huì)增加 Agent 和 Server 的負(fù)擔(dān)。告警閾值要根據(jù)實(shí)際業(yè)務(wù)來定。比如活躍連接數(shù)超過某個(gè)值就告警但不同服務(wù)器的性能差異很大最好先采集一周數(shù)據(jù)再看基線請(qǐng)求數(shù)突然掉到接近 0可能是 Nginx 掛了也可能是業(yè)務(wù)本身陷入了低谷Reading、Writing 長(zhǎng)期偏高說明可能有大文件傳輸或慢客戶端不一定是故障。我在實(shí)際項(xiàng)目中用過的最不后悔的一個(gè)習(xí)慣是剛開始只采集不告警。先積累一兩周數(shù)據(jù)再根據(jù)真實(shí)基線設(shè)定閾值否則很容易被誤報(bào)刷屏。7.4 日志和備份最后補(bǔ)一個(gè)容易被忽略的點(diǎn)Agent 端自定義配置和腳本要納入版本管理不能只留在機(jī)器上。否則重裝機(jī)器后監(jiān)控配置就很難原樣恢復(fù)了。Zabbix 本身的模板、主機(jī)、監(jiān)控項(xiàng)配置也要定期導(dǎo)出備份。監(jiān)控系統(tǒng)一旦配置多了重新手搭非常痛苦。備份不只是保護(hù)數(shù)據(jù)也是在保護(hù)自己的運(yùn)維效率。如果只是學(xué)習(xí)按默認(rèn)配置跑通就可以了如果要長(zhǎng)期維護(hù)那就把日志、輸出目錄、模板備份和權(quán)限控制都提前整理好后面真的會(huì)省很多事。踩過幾次之后我發(fā)現(xiàn)Zabbix 監(jiān)控 Nginx 的坑很少在“功能不夠”上多半是前置環(huán)境不一致、狀態(tài)頁訪問受限、自定義 key 書寫習(xí)慣不統(tǒng)一。把這幾條理順整個(gè)監(jiān)控鏈路就穩(wěn)了。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
清纯唯美亚洲另类| 日韩性爱小视频| 日夜伊人网| 欧美一区二区观看在线| 91在线限制级| 超碰成人人人爽人人爽| 婷婷亚洲色| 午夜福利1区2区3区| 久久鲁干| 超碰99在线| 精品一二三区久久AAA片| 欧美亚洲美少妇一区二区| 超碰美女97| 91美女丝袜诱惑视频| 超碰偷拍| 噜噜噜狠狠色综合| 大香蕉中文网| 99色在线观看| 欧美色图亚洲色| 久久亚洲精品成人av| 一二三四视频在线社区中文字幕| 女人 A一级| 亚州综合图片| 日韩999| 天天艹天天日| www被窝色com| 97任你吞精| 国产精品久久久久久久久久二区三区| 乱伦av.com| 国偷自 一区| 色综合网1| 久久是精品| 91成人在线免费视频| a片亚洲一本通视频| 青娱乐亚洲自拍| 日韩有码回春沙龙第一页| 人人摸人人摸人人干| 欧美精品不卡一二三四在线91| 天天操天天舔| 精品无码不卡视频| 起碰97| 亚洲图片欧美制度| 亚洲 日本 国产 综合| 中文字幕乱码人妻一区二区三区,99精品 | 亚洲天堂第一页| 欧美偷拍区| 欧美激色| 77777亚洲蜜臀精品久久综合蜜臀| 97亚洲精品| 中文字幕一区 二 区 三 四 五 区日 日 骚| 久96热在线观看视频| 精品乱子一区二区三区99| 日熟女| 加勒比久久av| 精品视频123区小说区| 日韩欧洲操屄视频| 国内外毛片在线观看| 大香樵伊人网| 国产99 中文字幕日韩小视频| 国内精品99999| 96久久科窝| 无码精品久久久天天影视| 精品少妇人妻一区二区三区| 91扒丝袜综合在线| 丁香五月婷婷色| 日韩黄片影院| 99999国产精品| 怡红院成人av| 天天色悠悠激情| 伊人久操| 人人操人人操人人人操| 91欧美网| 天天欧美| 综合激情一一91| 极品色| 乱老熟女一区二区三区| 伊人网av| 男人的天堂一区三区| 欧美日韩大香蕉| 东北女人性交| 97视频在线观看网站| 久久啊哟| 伊人AAA| 立川理惠无码一区二区| 黄色电影观看久久9| 国产无码精品成人| 国产精品成人AV片免费看网站| av橘色网站| 亚洲av热热色| 免费农村成人少妇人妻Aa一区二区视频 | 青青草日韩免费观看高清在线| 亚洲少妇色| 精品性爱一二三区| 精品欧美А∨无码黑人大荫蒂| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 亚洲一区中文字幕一区| 日韩Va亚洲va欧美Ⅴa久久| 在线97视频| 少妇熟女一区二区三区| 春色91| 97超碰影音| 日韩无码AB| 91色图片| 传媒免费一区二区三区| 亚洲色图欧美色图另类图片| 欧美天天影院| 色爱天堂| 快灬快灬 一下爽蜜桃在线观看| 人澡逼| 超碰欧美97资源| 日韩不卡网操逼中文字幕日韩| 国产久久久9999| 国产欧美美女免费观看视频| 精精夜夜| 黑丝少妇麻豆| 热热色色综合| 久草午夜| 亚洲国产精品无码AV久久久| A一区片| 性久久久| 成人激情无码在线视频| 国产成人www免费人成看片| 黄色免费网页无码| 欧美日韩岛国大片在线观看| 日欧操屄视频| 长长久久曰曰夜夜成人网| 成人 日韩欧美一区| 国产农村一一级特黄毛片| 天天视频综合在线观看视频| 99操碰| 丁香激情五月天| 精品国产乱码久久久久A| 婷婷五月天福利| 亚洲激情在线| 欧美韩国你懂得在线| 欧美国产有色电影| 伊人宅男大香蕉| 精品日日人妻| 国产亚洲精品精AV.| 天堂无码精品国产久| 国内精品久久久久影院亚洲| 久久25| 中文字幕、久久精品国产2020、久久综合久久自在自线精品自、亚洲 | 妇女性内射冈站HDWWWCOM| 女同亚洲欧美一二三区久久电影| 欧美性色综合网| 色欲人妻一区二区在线| 国产人妻精品一区二区三区秋霞| 在线看污网站| AV不卡在线| 国产剧情一区在线观看| 久久久性爱视频| 久久久久久久综合,国产| 久草看看看| 婷婷色色五月天福利| 免费观看国产不卡av| 六月婷婷综合| 91国产美女丝袜足交精品视频| 大香蕉92| 精品人妻一区二区三区四区石在线| 6080YYY午夜理论片在线观看| 屁屁影院一区二区三区国产| 91丝袜美腿网站| 久久精品国产久精国产| 亚洲天堂男人天堂| 一区二区三区机械有限公司| 加勒比综合九九99视频在线播放| A级国产欧美激情在线| 中文字幕一区二区在线日韩精品| 精品少妇后入一区二区三区四区人妻巨乳| 91黑丝操| 日本成人A片免费看| 啊啊啊好爽快点啊啊啊嗯嗯| 怡红院亚洲怡春院av| 啪啪综合网| 久久一区二区高清免费| 日本一二区免费| 婷婷探花久久精品一区| 极品尤物女神在线观看| 九99久久| 欧美精品99久久久**| 男人的天堂VA| 高清无码在线播放网站| 天美传媒国产原创中文字幕亚洲欧美另类| 风间由美日韩欧美久久| 欧美精品日韩久久久九| 99www.bibizy香蕉资源国产一区二区三区高清 | 在线97在线| 96精品久久| 天堂8在线新版官网| 一区二区 日韩 欧美 国产 传媒| 精品久久久久久久| 亚洲 日本 一 二 三| 成人天天爽| 国产一区在线观看无码AV| www.夜夜操| 欧美第二页午夜| 少妇厨房愉情理伦片bd在线观看 | 国产欧美精选激情视频| 亚洲美女色图| 日韩乱伦AⅤ| 五月天久久婷婷亚洲| av网站在线看| 看黑人AV不卡| 人人做,人人操,人人摸| 亚洲人综合| 国产视频一区二区免费| 韩日欧亚a级| ?亚洲伊人伊成久久人综合网| 亚洲色图综合网| 免费精品中文字幕| 日日日骚女人精品| 国产精品青草综合久久| 午夜在线播放| 精品无码久久久| 97在线看| 东北老女人的激情视频| 久久一二三四不卡| 91在线超高颜值国产| 日日A∨| 男人天堂黄片| 久久九操在线观看| 亚洲偷拍自拍在线视频| 亚州黄站| 久久久久久电影| 综合天天。| 国产精品一区二区 尿失禁| 日韩中文字幕2020| 天天干人妇| 日韩欧美三级| 婷婷伊人一区| 免费看黄视频亚洲网站| 亚州五月| 暖暖精品二区三区观看| 色综合V| 亚洲综合图色在线| 色播丁香| 人人爱人人乐人人操| 丝袜天堂| 日韩啪啪视频| 久久精品 六十路 熟女 欧美| 久久一二三四不卡 | 少妇人妻在线| 啊嗯好大视频在线观看| 久久亚洲AV成人精品无码| 亚洲AV色图一区| 香蕉综合网| 永久电影三级在线观看| 伦理日韩国产久久| 国产亚洲 中文欧美久久| 天天噜| 九九热超碰97亚洲最新香蕉| 日韩午夜精品一区二区三区电影| 久久系列| 国产中午字一暮区| 亚洲精品久久久久久久久豆丁网| 这里只有精品视频在线观看麻豆| 天天爱天天操| 欧美日本不卡| 亚洲码和欧洲精品激情系列| 深田咏美亚洲精品福利社| 天天噜| 中文字幕文字幕无码一区二区三区电影99| 久久五月份| 天天操天天干一区二区 | 另类欧美综合| 人妻天天爽天天爽三区| 中文字幕久久亚州无码| 日本一二三高清| a在线视频免费观看| 97这里只有精品| 天天综合麻豆视频| 亚洲情色一区综合| 91狠狠色丁香婷婷综合久久| 国产精品激情久久久久久久| 丁香色狠狠色综合久久小说| 中文字幕午夜精品久久久| 躁躁日曰躁2020| 99热精品在线观看| 屁屁影院一区二区三区国产| 丰满美女一级毛片在线播放| 91情色在线| 亚洲欧美啪啪| 51一区二区三区| 欧美日韩大陆黑人少妇99| 95人妻爽爽人人做人人澡| av无码精品久久久久| 久久久久久99AV无码免费网站| 91美女视频直播| 亚州欧美综合| 欧美视频在线视频免费va| 亚洲av夫妻操穴网| 91精品国产一区三一| 首页中文字幕中文字幕免费| 久久人妻少妇| 中文字幕亚韩| 久久久久人| 丰满人妻无码一区二区三区| 九七人妻在线| 欧美少妇色综合| 亚洲综合影视| 神马午夜久久久| 久久久久久久久久久97| 人妻精品一区二区三区| 精品玖九九久| 啊啊啊想要| 精品999一区二区| 国产精品乱码久久久| 蜜汁欧美| 78久久| 爱爱啊啊啊| 天天澡天天爽日日AV| 综合网天天| 亚洲天堂男人网| 蜜桃久久一区二区三区| 国产少妇内射| 中文字幕第页| 亚洲欧美在线观看无码| 欧美综合777| 日韩一级免费性爱| 日日爱99| 神马久久久久久久久久| 97情超碰色| 久久久日本电影| 国产品精品自在在线午夜免费| 五月丁香黄色网| 天天激情综合站| 国产美女mm131爽爽爽爽| 爱媛媛久久国产福利| 成人午夜无码视频| 亚洲男人的天堂AV| 国产伊人精品在线| 91精品微拍福利| 国产无马视频| 性爱动态120秒| 天天爽夜夜欢视| 国产欧美精选自拍一区| 夜色97| 免费精品人妻一区二区三| 国产欧美日本亚洲精品| 亚洲欧美国产其他二区| 伊人综合色网| 爱妻综合网| 精品夜夜澡人妻无码AV| 国产成人亚洲精品无码最新在线| 人人插人人摸人人| 老女人日韩美91| 国产久久一区二区| 国产97视频| 国产日逼视频| 黄页18禁| 激情四射婷婷六月天| 国产精品96久久久久久| 亚洲欧综合另类无码一区| 九九热视频在线观看| 久久系列| 操逼网免费无码视频| 内射中出日韩在线观看视频| 97伊人超碰| 国产精品蜜臀久久久久无码AV| 亚洲熟女中文字幕在线| 欧美亚洲宗合色性图| 变态综合色| 黑人操一区二区| 蜜臀精品1区2区| 校园春色美腿丝袜| 一区操逼日比视频| 亚洲中文字幕妇伦久久| 亚洲a色| 国产最新小视频在线播放下载| 一区二区 韩日AV| 色偷偷男人的天堂麻豆| 国产日韩欧美操逼视频| 九九九久千久久激情蜜桃在线看 | 色色热| 丝袜高跟澳门91视频| 91在线视频国产网站| 韩国黄色片精品久久久| 激情四射五月天| 另类图片欧美激情综合| 久久麻豆一区二区| 熟妇人妻精品一区二区| 一区二区三区激情在线观看| 欧美 亚洲 综合 制服 另类| 亚洲无码太久| 亚州久久9| 日本成人免费一区二区三区| 欧美亚洲激情小说| 人妻一区二区三区四区视频| 射 色综合| 加勒比aⅴ| 性色av婷婷久久一区二区点复制| 日韩丨制服丨中文|在线| 中国一级操逼视频| 狠狠爱AV| 中文字幕人乱码中文字的预防方法 | 久久香蕉国产线看观看猫咪av| 人妻酒店出差被中出免费在线播放| 亚洲人成网站7777| 91色图片| 欧美顶级黄色大片免费| 操逼短片| 五月丁香啪| 亚洲中文字幕熟女少妇一区二区| 超碰久久性爱| 日本孕妇一区二区视频操逼免费看 | 黄色片G G G| 亚洲日韩美女中文字幕乱| 精品九九九九九九九九九| 久久首页| 天天日熟妇| 深夜激情无码| 91制服丝袜| 欧美日不卡| 玖玖爱在线视频免费观看| AV高清一区| 亚洲精品一二区| 91艹| 99无码视频| 日韩无码极品| 一级二级三级黑人无码| 欧美青青视频| 国内毛片无码一级毛片| 91殴美| 蜜臀亚洲中文| 天天色综亚洲91污| 91日韩国产欧美亚洲另类精盘州至城都| 亚洲美乱| 国产亚洲精品美女久久久久久2021| 美女丝袜激情小说| 骚逼高潮久久精品| 欧洲成人性爱视频| 最近二区三区视频大全| 欧亚日韩三区| 99成人| 欧美日韩国产一区二区小黄片大全| 日韩美女高潮喷水视频| 碰碰在线视频| 国产精品探花视频| 欧美日韩97| 国产久久久久影院老熟女| 色吧综合网| 尹人免费观看视频在线| 激情婷婷黑人91| 欧洲中文字幕| 欧美十八禁在线看| 不卡av在线中文字幕| 日本幼女18+| 精品对白久久不卡| 国产欧美岛国精品一区| 麻豆影音天美视频| 97 色综合| 亚洲啪啪视频一区二区| 欧美日韩97| 不卡六六在线91| 9999伦理视频| 日本三级黄页| 91欧美丨精品丨入口| 色综合色| wwwcaobibi| 蜜乳AV.COM| 丝袜亚洲综合| 99热这里都是精品| 加勒比综合a∨| 第45页一区二区| www久久久| 中文一区在线视频| 国产日产精品久久快鸭的功能介绍| 人人妻人人澡人人爽人人精品浪潮| 91久久久老司机| 爱爱动态试试看6 0秒| 天天影视亚洲| 中文字幕大片三级狠狠干| 欧美草草高清日韩视频| 99热婷婷| 97色碰| 日韩成人色图| 96久久久久| 色综合久久夜色精品国产天堂| 欧美老熟另类| 97玖玖人妻| 国产在线不卡导航| 怡红院怡春院| 国产精品制服丝袜中文字幕日韩一区二区三区 | 免费在线视频97| 日日AAvv| 97伦综合| 久久嫩草| 青青草玖玖爱| 久久久久久亚洲精品中文字幕人妻| 操人无码| 天天弄天天操| 久久天天性久久伊人| 99视频只有精品| 九九热精品| 五月天开心网| 欧美男女午夜啪啪| 婷婷激情一区二区三区俺也去| 综精品久久久aaaa| 国产乱弄免费在线视频。| 国产嫩草精品A88AV在线| 色女网日韩| 欧美激情片一区二区| 你草精品在线视频| 99只有精品| 99re在线视频国产| 日韩无码第3页| 亚洲色图欧洲| 中文字幕日韩电影人妻| 少妇无码av专区线| 黄色高清无码无码破解免费暗网| 久久激情网| 日韩97超碰中文字幕| 视频在线观看一二三区| 日韩电影天堂视频一区二区| 欧美日韩国产高清在线一二三区| 国产理论视频在线播放| 亚洲最大无码中文字幕网站| 成人资源中文字幕在线观看天天| 男人下部插入女人下部| 97精品久久久久中文字幕| 欧美高潮| 国产精品第一页国产大屁股视频免费区| 国产一区二区二区按摩精品啪视频| 大JI巴好深好爽又大又粗视频| 八戒午夜福利理论片| 婷婷午夜成人色中色| 亚洲夜夜欢无码一区二区| 视频二区美腿丝袜制服人妻欧美| 成人综合网 欧美| 欧美日韩97在线| 超碰97亚洲| 国产一区在线观看无码AV| 97香蕉碰碰人妻国产欧美| 国产高清1234区| 乱子伦一区二区三区国产精品| 青青草依人大香蕉| 午夜a成v人电影| 国产AV久久久蜜爱影集| 爱欲AV| 在线观看啊啊啊啊啊| 日韩性爱啪啪视频| 狠狠激情综合狠狠操中文字幕| 偷窥自拍亚洲色图| 33044男人的天堂深夜备| 国产亚洲色婷婷久久99精品91 - 百度| 人妻天天爽夜夜爽爽| 少妇人妻好深太紧了vr91| 97干在线| 中文字幕后石码四区五区| 大香蕉日韩欧美| 骚女高跟AV在线| 狠狠图片青青草| 亚洲射综合网| 日韩三级一区| 裸体美女久久久| 在线日韩日本亚洲国产| 久久久18| 久久久久久99999国产精品| 欧美一区二区三区不卡高清视频| 999九九九九国产动| 国产精品秘 福利姬在线观看| 久久超碰爱| 97超碰国产亚洲精品| 久久午夜鲁丝片| 香蕉在线一区二区三区| 激情婷婷丁香网| 久久中文字幕一区不卡| 国内精品不卡无毒99999| 久久老熟女| 屁屁影院一区二区三区国产| 清清草影| 国产精品原创巨作?v网站| 国产黄a三级三级三级av在线看| 9九九国产| 91三级理论片播放器| 粉嫩AV一区夜夜嗨| 国产精品免费1区2区视频| 久久最新免费视频23| 97碰久久| 欧美综合骚| 午夜毛片亚洲精品片国产久久久| 五月激情在线| 久久国产精品m码| 思思热在线视频精品| 99这里只有精品| 91|九色|国产熟女| 婷婷人妻激情| 久久婷婷五月天| 巨乳特殊服务按摩| 亚洲男人天堂Av| 亚洲九九九九| 日本精品88888888| 91av一区二区在线观看| 人妻熟女一区二区三区在线| 樱花蜜乳av| 99黄页网站| 国产AV毛片| 懂色影视久久| www.天天干| 欧美一级在线观看成人| 精品乱子一区二区三区99| 看免费的黄片| 久久久久久少妇| 色黄色美女大长腿午夜视频| 极品销魂美女一区二区| 在线国产福利网址导航| 尹人大香蕉视频在线| 欧美精品偷拍| 91成人精品| 亚洲国产精品99久久久| 99亚洲精品| 亚洲欧洲无码一区夜| 麻豆成人AV| 九久9精品| 色婷五月天| 黄色片A级一区二区三区| 干B| 免费毛片在线播放| 国产91影院| 91男人天堂网| 日本超碰在线国产一区| 国产一级137片内射麻豆| 中文精品少妇天堂| 俺去久久| 国产区性爱在线视频秋霞豆| 欧美色网络| 伊人操操| 亚洲人妻一区二区三区| 亚洲天堂一区二区久久| 97亚洲综合在线| 日本精品88888888| 日韩AC| 日韩免费a级毛片无码a∨| 丰满人妻一区| 人妻天天爽夜夜爽爽| 逼逼逼逼操操操操操操操操操午夜剧场 | 久久99999| 欧美久热| 国模无码一区二区三区在线| 国产在线播放成人免费| 女人天堂网| 日韩一级二级在线| 色噜噜婷婷| se01国产在线视频| 欧美一级A一级a爱片久久| 亚洲在钱| 亚洲 欧美 另类 日韩 人妻一区| 婷婷丁香六月天| www.久久最新地址| 一级片视频啪啪| 嗯嗯啊啊啊好爽| 久热大香蕉网站| 亚洲熟妇无码一区二区三区| 国产精品色色| 亚洲色图欧美视频| 久久青青草原免费视频| 欧美色999| 少妇贴图| 人伦四五区| 国产欧美成人精品| 国产精品欧美激在线| 一区二区你上我| 日本肉体xxxx裸交| 搡老人老9丨女老熟人| 婷婷色色五月天福利| 日本大香蕉综合网红本杳社区| 4虎在线视频| 97超碰亚洲| 婷婷五月天久久精品视频一区二区三区 | 中文字幕AV中出| 天天干夜夜操一区二区| 啊啊啊啊啊啊啊啊啊在线观看| 日本 免费 一区二区三区 久久香蕉 | 91国产精品在线看| 国产后入式在线观看| 亚洲天堂热| 亚洲综合电影| 综合av影片| 日本九九九九| 日语五十路和六十路亚洲国产精品 | 五月天色色色| 欧美精品99久久久**| 黄片qw| 操啊国产| 精品午夜福利国产一区二区在线观看 | 国产99999久久精品| 五月开心久久AV官网| 婷婷15月天青娱乐| 噜噜噜亚洲精品| 无码操逼天堂| 欧美最婬乱婬爆婬牲视频| 97欧美久久久久久久| 欧美丝袜美女电影一二三四区| 久久精品视| 中文字幕日韩情色| 在线二区不卡| 干超碰碰熟女| 激情 欧美 亚洲 小说| 国产亚洲精品美女久久久| 免费公开人人操| 黄片免费看黄片免费看| 操婷婷逼| 综合网亚洲在线| 亚洲 欧美都市激情| 国产AV激情无码久久无码 | 亚洲激情综合另类男同| 中文字幕一区二区三区四区在线视频| 天天谢天天干| 亚洲二区精品在线观看| 99超级碰免费视频| 国产suv精品一区二六| 毛片视频白嫩| 啊啊啊爽爽| 1769国内精品视频| 狠狠夜色午夜久久综合在线| 亚洲精品人妻吞精av| AV天堂国产| 欧美夜夜| 可乐操在线| 狠狠操狠狠燥| 97碰碰日本乱偷人妻中文的| 日韩欧美麻豆大片| 大屁股xxxxx| 亚洲最大成人a毛毛片| 一区二区乱码福利| 少妇淫妇久久久久久久| 国产熟女自拍| 少妇人妻激情四射| 91丝袜激情在线| 九九九久千久久激情蜜桃在线看 | 精品久久久久av影院| 亚洲自拍偷拍视频在线| 啊v在线观看视频| 日日骚av| 福利天天都操| 久久精品99| 久久↗↗| 91久久久久| 超碰9 7女人| 国产久久久久影院老熟女| 国产不卡中文字幕免费avi| 久久啊哟| 国产白嫩精品久久| 99re8超碰| 丝袜综合色图| 在线啊v一区| 丝袜美腿诱惑亚洲欧美视频在线观看| 色老牛| 日日爱99| 美日韩成人| 天堂涩涩| 伊人一区二区在线播放| 亚洲日本成人动漫| 2020中文字幕在线| 淮穴色AV| 国产三级中文字幕粉嫩| 欧美日韩国产另类综合| 亚洲天堂东京热| 国产免费小视频| 91三级理论片播放器| 久久精品老司| 国产午夜在线观看| 人人摸人人干| 国产嫩草精品A88AV| 蜜桃视频成a人v在线| 97色诱| 起碰97| 婷婷五月天影院| 国产精品69久久久久久久| 九九干| 九草在线大香蕉| 色综合av综合久久| 丁香五月天婷婷姐| 久久久久九九九| 伊人黄色片| 青青青国产手线观看视频2| 欧美国产欧美在线观看| 欧美性爱在线无码| 人妻天天操天天爽视频免费| 免费9 1久久| 白嫩白嫩的午夜九久久久久久久久久久久成人剧场 | 九九久久久| 成人五月香网在线| 97狠狠| 日韩精品99999| 色香综合| 国产不卡片| 久久精品国产精品一区| 亚洲情色1区| 国内偷拍精品一区二区| 日本一区二区三区精品| 亚洲成人激情小说视频| 欧美爆操91| 人妻丰满熟妇一区二区三| 麻豆精品A片免费观看| 国产在线综合网| 亚洲瓯美色图| 欧美αv.com| 国产丸一视频| 日本久久精品| 夜夜嗨视频| 麻豆AV一区二区| 国产精品午夜福利亚洲综合网| 亚洲美女色图| 秋霞免费AV| 99热欧美| 日本不卡卡一区| 久久无码一区二区二三区性色 | 99视频内射三四| 天天综合欧美| 97在线欧洲| 日韩一性一交一A片俄罗斯| 无码九九| 日本 欧美 亚中文字幕| 午夜性生活av免费在线看| 久久亚洲熟妇在线视频| 黄色性爱网网| 99精品人妻| 久久久久久久久久久久黄色 | www色婷婷| 婷婷色综合欧美日韩| 影音先锋一区二区在线资源| 一级啊性爱在线视频| 久一区久久蜜桃| 天天综合网1| 成视频在线观看免费看| 精品无码久久久久久久杏吧| ai欧美亚洲小说| 任你艹| 韩国手机不卡无码三级视频| 丝袜狂射91| 女色视频社区| 久久夜黄色无码A级大片| 国产AV激情无码久久无码| 久草免费在线视频| 2017大香蕉国产精品久久| 狠狠爱综合| 在线观看一级α片刺激高潮视频| 玖玖超碰熟| 韩国轻伦国内自拍一区| 国产成人免费观看在线视频| 五月天亚洲色图| 大香蕉92| 四季AV综合网址| 亚洲成人综合在线| 久久久久免费看少妇A片特黄| 亚洲激情久久久伊人综合| 日韩99神马视频片| 五月丁香影院| 无码聚合| 天天日天天干天天色| 欲色综合| 91国精产品| 高树玛利亚无码流出| 国产精品视频精品一二| 亚洲国产精品99久久久| 超碰地址久久| 天堂av最新电影网| 97超碰资源网| 夜夜操av亚洲一区二区| 婷婷久久综合久| 精品亚洲黄色片 国产精品导航一区二区| 97在线免费观看视频| 97网站在线观看| 加勒比海成人视频网| 久久9亚洲| 激情文学网伊人| 性爱1区| 能在线播放的国产三级| 乱伦一二三区| 国产一级内射高清视频| 蜜臀99久久国产| 大香蕉一人| 尤物视频偷拍免费| yy少妇精品久久| 久久99999| 精品视频97| 九九久久一区二区三区| 偷拍伦理视频| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 国产一区二区在线播放量| 精品九九九九九| 啊啊啊啊啊啊啊啊在线观看| 一级AAA片一区二区三区| 色九九九九九九| 欧美洲精品一级| 热热色色综合| 久久人妇| 精吧天堂| 色777999综合| 人伦四五区| 综合自拍| 99re黄 | 久湿久久| 亚州精品人妻一二三区| 国产蜜臀在线| 男人的天堂三级| 国产嫩草精品A88AV| 素人伊尹大香蕉免费下载视频| 日本国产二线女色| 美女91网址 | 欧美综合1性辶| 欧美日韩欧美| 精品人妻一区二区免费蜜桃视频| 97视频网站| 亚洲欧美日韩制服另类| 狠狠操,使劲操| 国产精品盗摄 偷窥盗摄| 日熟女| 亚洲一欧洲中文字幕在线 | 韩日性爱av| 亚洲色 国产 欧美 日韩| A片 AV一级在线播放观看免费| 人妻精品一区二区在线| 91狠狠综合久久久| 区日韩亚洲乱码av电影| 欧美成人亚洲精品| 超碰97在线中文| 午夜操一视频一区| 欧美天天弄| 99久久精品欧美国产| 精品少妇人妻av久久免费| 黄色性爱网网| 亚洲色图大香| 天天α片| 欧美色91| 亚洲熟女乱色一区二区三区| av午夜影院在线播放| 日韩av乱伦| 97蜜桃综合| 日韩精品三级片长长久久| 偷拍亚洲情色| 国产无码成人无码| 国产精品嫩草影院免费| 亚洲中文字幕网| 亚洲综合影视| 精品高清牛人盗摄一区二区三区中文字幕A片免费在线观看 | 日本黄 R色 成 人网站| 91n美女视频| 色亚州人久干视频在线观看免费版| 欧美激情 一区| 内射小黄片| 99性视频| 亚洲男人的天堂在线看| 91痴汉| 乱伦一二三区| 色五月丁香五月| 九九九九日本| 操熟女91| 99re公开精品免费视频| 中文字幕啊啊啊在线观看视频| 蜜桃久久久久久久久久久久| 男人天堂2019| 欧美黄片免费在线观看视频| 亚州色交| 啊啊啊轻点在线观看| 四虎国产精品永久在线囯在线| 91人妻尻屄视频| 九热大香蕉| 好属操| 免费综合亚洲中文| 欧美人妻色| 校园春色 欧美| 亚洲精品日韩国产欧美| 第45页一区二区| 男人的天堂va在线| 国产激情在线| 欧色性第一页| 国内亚洲高清无码| 天天爽爽爽爽| 色香网| 亚乱色| 欧美亚洲AN| 伊人一级免费黄片| 欧美图片偷拍| 中国91AV| 在线精品福利免费播放| 精品97精品97| 搡老熟女免费视频| 综合日本女人伊人| 色妇综合网| 国产亚洲99久久精品| 舔舔啊| 强奸乱伦大香蕉网| 性性久久| 亚洲精品成人动漫在线| 亚洲人在线| 麻豆国产97在线| 一区二区久久天天干狠狠| 性色A∨91| 婷婷久久综合| 亚洲天堂一区二区久久| 色色国产| 91色亚洲| 亚洲黄色影视| 欧美激情亚洲| 九九aV| 啊啊啊啊免费视频| 婷婷久久五月天| 99少妇| 久久女婷| 9久久精品| 国产亚洲人妻综合日韩 久久| 三级色影综合网| 日韩有码一区三区| 亚洲色图欧美| 久久本道| 午夜国产成人精品视频| 乱理日韩中文| 天天色天天干天天爱| 熟女AV一区| 国产中文字幕曰本毛片| 在线小说视频一区| 香蕉综合网| 日韩欧美加勒比| 夜夜高潮夜夜爽| 亚洲 欧美 制服 另类 自拍| 精品久久九| 天天肏夜夜肏| 中文字幕熟女人妻丝袜| 啊啊啊好湿久久| 免费1级a做爰片观看| 亚洲综合射| 久久99网站| 一起草高清无码| 久久视网78| 这里只有精品视频在线观看麻豆| 欧美色图在线视频少妇| 婷婷综合激情| 欧美激情激情xxxx欧美专区| 日本不卡二三区| 国产伦乱91| 亚洲成人贴图| 天天看高清麻豆| 欧美精品1区2区3区| 9久久久久| 九九拍拍精品视频在线播放 | 精品久久久久久无码| 欧美在线中M| 狠狠五月天| 一级岛国大片| 超碰综合97在线| 天天影视综合网欧美精品| 精品毛片av一区二区| 久热这里| 亚洲精品色| 国产92麻豆天美精品色欲5| 九九九九九九九九九国产精品 | 欧美日日网| 亚洲AV无码黄色强奸| 色综合91好| 久久99草| 日韩美脚一区二区网站| 亚洲国产精品9999在线观看| 超碰在线日韩一区| 久久九九一区二区三区成人| 人人干人人操人人..com| 蜜臀久久99精品久久久久久无删减 | 99热欧美| 日本免费中文字幕在线| www.男人的天堂| 日本九九久久99| 色噜噜综合在线| 亚洲无码?第一页| 曰韩人妻中文字幕在线 | 啊啊啊啊啊操我视频| 日本韩欧美在线播放a| jizz啪啪| 易易A毛视频| 蜜桃臀一区二区aV| 亚洲 se图 欧美电影| 一级黄色影片| 日韩欧美中文日韩欧美色| 人妻色偷色噜| 蜜臀久久99精品久久久久久成人小说| 一级黄碟在线观看| 亚洲色图超碰在线| 久久久 国产精品| 日韩欧美成人性爱在线| 国产强奸乱伦无码视频| 91色欧美| 久久久久久久综合,国产| 97免费视频网| 天天综合精品| 婷婷五月丁香五月| 亚洲免费人妻在| 99精品欧美一区二区三区桃色| 中国熟女老妇仑乱一区二区三区| 少妇激情一区二区三区视频| 土豪酒店各种姿势玩弄极品幼稚| 求求你操操我| 国产有码一区| 99久久com免费视频′| 天天拍天天操| 国产精品熟女乱伦| 国产女生在线| 欧美少妇性爱网站| 狠狠操夜夜| 日韩精品国产一区二区| 69XX一中文字幕人妻91| 97爱| 欧美91在线| 色欲av国内精品久久久久久| 精品久久97观看在线视频| 国产2.3.4区| 97精品人妻一二三四| 麻豆人妻偷人精品无码视频| 久久久久78| 1204金沙人妻懂旧版免费| 欧美综合色站| 97色诱| 天天摸夜夜操视频| 欧美变态激情网| 国产精品久久久久久久久久久久久久久| 日本999精品视频| 激情综合av| 成人欧美日超碰| 久久人人爽av亚洲精品天堂桃色| 强奸乱伦AV一天堂网| 亭亭在线资源| 超碰在线1234区| 亚洲美腿丝袜香蕉影视欧美成人| 亚洲骚男同com| 久99在线免费观看视频| 91热热色| 女生久久网| 国产高清成人免费视频| av网站国产主播在线| 乱操乱伦AV| 亚洲第一黄色av网站| 精品在线观看视频在线| 国模吧 一区二区三区| 99超级碰免费视频| 日本韩国一本产品小视频日本韩国一本产品久久久产品小视频日本韩国一本产品久 | 艹精品| 粉嫩粉嫩一区性色AV片| 国产女人成人精品视频| 色九九九九久| 亚洲男人的天堂一区二区| 熟女欧美日韩综合婷婷| 亚洲偷91色| 99999re| 综合伊人激情| 日韩 欧美 另类 人妻| 无套内射性感少妇视频| 蜜桃久久综合视频| 91美女视频在线| 女上位精品在线| 国产400孕妇孕交群| 男女做爰猛烈动高潮A片免费应用| 免费人成在线观看网站品爱网| 欧美,日韩,亚洲视频| 日本天天操| 97超久碰| 33044男人的天堂深夜备| 欧美99999| 金莲网址| 黑丝内射一区二区三区| 亚洲一本色码中文字幕|