亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐

微服務(wù)日志體系設(shè)計(jì):從規(guī)范到排障的完整實(shí)踐 微服務(wù)架構(gòu)解決了單體應(yīng)用擴(kuò)展難的問題卻把排障難度轉(zhuǎn)移到了日志和鏈路追蹤上。一次用戶請(qǐng)求跨越多個(gè)服務(wù)、多個(gè)數(shù)據(jù)庫、多個(gè)中間件任何一個(gè)環(huán)節(jié)超時(shí)或報(bào)錯(cuò)都需要從分散日志中還原現(xiàn)場。如果日志體系沒有設(shè)計(jì)好排障就變成低效的人工 grep。微服務(wù)日志體系不是簡單地接一個(gè)采集工具而是一套覆蓋日志產(chǎn)生、規(guī)范、采集、傳輸、存儲(chǔ)、檢索、告警和治理的完整鏈路。這里會(huì)先講清楚排障難點(diǎn)再逐步展開一套可落地的生產(chǎn)級(jí)日志體系設(shè)計(jì)。1. 為什么微服務(wù)排障難日志體系要解決什么問題1.1 微服務(wù)排障的三類典型困境第一類困境是日志分散。單體應(yīng)用時(shí)代一個(gè)請(qǐng)求的完整執(zhí)行過程基本都在同一個(gè)進(jìn)程里日志文件也相對(duì)集中。微服務(wù)化之后一個(gè)請(qǐng)求可能要經(jīng)過網(wǎng)關(guān)、用戶服務(wù)、訂單服務(wù)、支付服務(wù)、消息消費(fèi)者每個(gè)服務(wù)可能還有多個(gè)實(shí)例。日志散落在不同機(jī)器、不同容器、不同目錄里沒有統(tǒng)一線索時(shí)很難把一次請(qǐng)求串起來。第二類困境是格式不統(tǒng)一。不同團(tuán)隊(duì)寫的服務(wù)可能有的用 logback有的用 log4j2有的直接System.out.println。日志時(shí)間有的用本地時(shí)間有的用 UTC有的沒有毫秒。字段命名也各不相同userId和user_id同時(shí)存在。排障時(shí)每次都要先理解日志格式再去過濾效率很低。第三類困境是日志量大。微服務(wù)實(shí)例一多日志量會(huì)快速膨脹。如果直接全文檢索查詢會(huì)越來越慢如果不做索引生命周期管理磁盤遲早被寫滿。到了大促或故障高峰期日志系統(tǒng)本身也可能成為瓶頸反而拖慢業(yè)務(wù)恢復(fù)。1.2 生產(chǎn)級(jí)日志體系的目標(biāo)所謂生產(chǎn)級(jí)不是日志采集工具能跑起來就行而是必須滿足幾個(gè)基本要求。請(qǐng)求有鏈路標(biāo)識(shí)。入口生成 traceId下游服務(wù)通過調(diào)用鏈透傳日志中能根據(jù) traceId 查到一個(gè)請(qǐng)求的完整路徑。日志格式可解析。日志輸出為結(jié)構(gòu)化字段而不是只有一段模糊的文本。至少包含時(shí)間、級(jí)別、服務(wù)名、實(shí)例、traceId、業(yè)務(wù)消息和異常信息。日志延遲可控。從業(yè)務(wù)寫日志到 Elasticsearch 可檢索延遲需要在一定范圍比如分鐘級(jí)以內(nèi)。不能經(jīng)常出現(xiàn)日志丟失或幾個(gè)小時(shí)后才看到日志。日志有生命周期。熱數(shù)據(jù)保留幾天冷數(shù)據(jù)保留更長時(shí)間超過保留周期的數(shù)據(jù)要自動(dòng)刪除或歸檔而不是等磁盤告警后手工清理。日志系統(tǒng)本身不能影響業(yè)務(wù)。應(yīng)用寫日志是異步的采集鏈路故障時(shí)不能阻塞業(yè)務(wù)線程。生產(chǎn)級(jí)體系還要關(guān)注采集組件狀態(tài)、Kafka 消費(fèi)堆積和 ES 磁盤水位。2. 設(shè)計(jì)日志體系前先把日志規(guī)范定下來日志規(guī)范是整套體系的地基。如果每個(gè)服務(wù)輸出的字段都不一樣后面接 Filebeat、Kafka、Logstash、Elasticsearch 都會(huì)很被動(dòng)。排障效率提升的第一步不是工具而是標(biāo)準(zhǔn)。2.1 統(tǒng)一日志字段讓檢索有依據(jù)建議服務(wù)端日志統(tǒng)一輸出為 JSON 格式。每條日志的頂層字段盡量固定下面是一組常見字段。字段類型含義示例timestampstring日志產(chǎn)生時(shí)間2026-06-01T10:00:00.123Zlevelstring日志級(jí)別ERRORservicestring服務(wù)名order-serviceinstancestring實(shí)例標(biāo)識(shí)10.0.0.1:8080traceIdstring鏈路ID8f3a1b2c...methodstring請(qǐng)求方法POSTuristring請(qǐng)求路徑/api/orderstatusintHTTP 狀態(tài)碼500costMsint接口耗時(shí)毫秒128userIdstring用戶標(biāo)識(shí)u_10001messagestring業(yè)務(wù)消息訂單創(chuàng)建失敗exceptionstring異常棧原文java.lang.NullPointerException...字段不是越多越好但上面這些基礎(chǔ)字段能覆蓋大部分排障場景。service用于區(qū)分系統(tǒng)instance用于還原具體實(shí)例traceId用于串聯(lián)調(diào)用鏈costMs用于定位性能問題exception用于快速搜索異常棧。實(shí)際項(xiàng)目里團(tuán)隊(duì)可以先定一個(gè)最小字段集發(fā)布到協(xié)作文檔或代碼倉庫的模板中。新服務(wù)開發(fā)時(shí)必須按這套字段輸出老服務(wù)逐步遷移。不要指望所有服務(wù)一天改完但至少要有一個(gè)明確的規(guī)范版本。2.2 日志級(jí)別怎么定避免日志噪音日志級(jí)別是排障時(shí)最重要的過濾維度之一。級(jí)別定得不好會(huì)帶來兩種典型問題把 ERROR 當(dāng)普通日志打告警全是噪音或者把 DEBUG 打到生產(chǎn)日志量爆炸真正有用的 ERROR 被淹沒。級(jí)別使用場景生產(chǎn)預(yù)期ERROR業(yè)務(wù)失敗、異常導(dǎo)致流程中斷需要人工介入保留并告警WARN可以恢復(fù)但不正常比如緩存穿透、重試成功保留不直接告警INFO關(guān)鍵流程節(jié)點(diǎn)比如訂單創(chuàng)建、支付回調(diào)保留但要控制頻率DEBUG排查細(xì)節(jié)數(shù)據(jù)默認(rèn)關(guān)閉按需開啟TRACE內(nèi)部調(diào)用鏈細(xì)節(jié)很少開啟一個(gè)簡單判斷標(biāo)準(zhǔn)如果某條日志打出來之后值班同學(xué)不用看那它就不該是 ERROR。ERROR 應(yīng)該對(duì)應(yīng)一個(gè)需要關(guān)注的失敗事實(shí)而不是每次 catch 異常都打 ERROR。2.3 TraceID 貫穿始終從一次請(qǐng)求還原完整路徑TraceID 是微服務(wù)日志體系里最重要的字段。它的作用很簡單一次外部請(qǐng)求進(jìn)入系統(tǒng)時(shí)生成一個(gè)唯一 ID之后所有服務(wù)在處理這個(gè)請(qǐng)求時(shí)都攜帶這個(gè) ID并寫入各自日志。排障時(shí)只要搜索這個(gè) ID就能得到完整請(qǐng)求鏈路。常見做法是在網(wǎng)關(guān)或入口 Filter 中生成 TraceID并通過 HTTP Header 向下游傳遞。比如統(tǒng)一使用X-Trace-Id作為透傳 Header。以 Servlet 場景為例可以用一個(gè) Filter 在入口生成并寫入 MDC。public class TraceIdFilter implements Filter { Override public void doFilter(ServletRequest request, ServletResponse response, FilterChain chain) throws IOException, ServletException { String traceId ((HttpServletRequest) request).getHeader(X-Trace-Id); if (traceId null || traceId.isEmpty()) { traceId UUID.randomUUID().toString().replace(-, ); } MDC.put(traceId, traceId); try { ((HttpServletResponse) response).setHeader(X-Trace-Id, traceId); chain.doFilter(request, response); } finally { MDC.remove(traceId); } } }MDC.remove很重要。線程池中的線程會(huì)被復(fù)用如果不清理下一條請(qǐng)求可能拿到上一個(gè)請(qǐng)求的 traceId導(dǎo)致日志串鏈路。下游服務(wù)在發(fā)起遠(yuǎn)程調(diào)用時(shí)要把 traceId 繼續(xù)傳遞下去。HttpHeaders headers new HttpHeaders(); if (MDC.get(traceId) ! null) { headers.set(X-Trace-Id, MDC.get(traceId)); }使用異步線程池時(shí)MDC 不會(huì)自動(dòng)傳遞。如果是 SpringThreadPoolTaskExecutor可以通過TaskDecorator在提交任務(wù)時(shí)拷貝 MDC執(zhí)行完后恢復(fù)如果只是在代碼里手動(dòng)new Thread則需要手工 put 和 remove。日志框架側(cè)也要把 traceId 輸出到結(jié)構(gòu)化字段中。使用logstash-logback-encoder時(shí)encoder 會(huì)自動(dòng)包含 MDC 中的字段。以 logback 為例一個(gè)最小 JSON 輸出配置如下。configuration appender nameJSON_FILE classch.qos.logback.core.rolling.RollingFileAppender file/data/logs/order-service/app.log/file rollingPolicy classch.qos.logback.core.rolling.TimeBasedRollingPolicy fileNamePattern/data/logs/order-service/app.%d{yyyy-MM-dd}.log/fileNamePattern maxHistory7/maxHistory /rollingPolicy encoder classnet.logstash.logback.encoder.LogstashEncoder includeMdctrue/includeMdc customFields{service:order-service,env:prod}/customFields /encoder /appender root levelINFO appender-ref refJSON_FILE/ /root /configuration這里把service和env固定寫進(jìn)了應(yīng)用日志配置避免了每個(gè)服務(wù)在業(yè)務(wù)代碼里重復(fù)拼接。不同版本 encoder 的配置略有差異落地前先確認(rèn)依賴版本。3. 日志采集層從服務(wù)本地日志到統(tǒng)一通道日志規(guī)范定好后下一個(gè)問題是日志怎么從應(yīng)用進(jìn)程到達(dá)統(tǒng)一的日志中心。生產(chǎn)環(huán)境常見的方案是應(yīng)用寫本地文件Filebeat 采集文件輸出到 Kafka。3.1 本地文件采集和直接上報(bào)怎么選有些新項(xiàng)目會(huì)直接在應(yīng)用里用 HTTP 或 SDK 把日志發(fā)送到 Logstash 或 Kafka。這種方式接入快但客戶端邏輯重還要處理發(fā)送失敗、緩沖區(qū)溢出、網(wǎng)絡(luò)抖動(dòng)等問題。應(yīng)用本身已經(jīng)有業(yè)務(wù)邏輯再承擔(dān)完整的日志傳輸職責(zé)容易引入不穩(wěn)定因素。更穩(wěn)妥的組合是應(yīng)用只負(fù)責(zé)把結(jié)構(gòu)化日志寫到本地磁盤采集器負(fù)責(zé)讀文件和傳輸。Filebeat 是常用選擇它輕量、內(nèi)存開銷小、支持?jǐn)帱c(diǎn)續(xù)采適合部署在應(yīng)用實(shí)例旁邊。采集端故障時(shí)應(yīng)用日志仍然寫在本地文件不會(huì)立刻丟失。這相當(dāng)于給日志多了一層本地緩沖。學(xué)習(xí)環(huán)境可以直接看控制臺(tái)或tail -f日志文件生產(chǎn)環(huán)境建議走文件采集。直接上報(bào)適合日志量不大、團(tuán)隊(duì)能接受客戶端 SDK 維護(hù)成本的場景但不是默認(rèn)首選。3.2 Filebeat 采集配置示例Filebeat 配置由 input 和 output 兩部分組成。下面是一個(gè)把訂單服務(wù)日志采集到 Kafka 的示例。filebeat.inputs: - type: filestream id: order-service-app enabled: true paths: - /data/logs/order-service/*.log fields: service: order-service env: prod fields_under_root: true processors: - add_host_metadata: ~ output.kafka: hosts: [kafka01:9092, kafka02:9092, kafka03:9092] topic: app-log partition: round_robin: reachable_only: true required_acks: 1 compression: gzip max_message_bytes: 1048576paths指定日志文件位置推薦一個(gè) input 只匹配一個(gè)服務(wù)的日志。fields用于給日志打上服務(wù)名和環(huán)境標(biāo)簽fields_under_root: true讓這些字段出現(xiàn)在日志頂層。add_host_metadata會(huì)把主機(jī)名和 IP 加進(jìn)來方便按實(shí)例過濾。output.kafka中的required_acks: 1表示 Kafka leader 寫入成功即可返回性能和可靠性比較均衡。compression: gzip可以降低網(wǎng)絡(luò)帶寬但會(huì)增加一點(diǎn) CPU 開銷。日志量很大時(shí)這個(gè)權(quán)衡通常值得。如果 Filebeat 版本較舊可能沒有filestream需要使用loginput。接入前先確認(rèn)版本不同版本的配置語法有差異。3.3 采集層最容易踩的坑第一個(gè)坑是多個(gè)服務(wù)共享同一個(gè)日志目錄。比如把所有服務(wù)的日志都寫到/data/logs/app.logFilebeat 采集后只能打同一個(gè)service標(biāo)簽無法區(qū)分來源。推薦按服務(wù)隔離目錄比如/data/logs/{service}/app.log。第二個(gè)坑是 Filebeat 重復(fù)采集滾動(dòng)日志。應(yīng)用日志按天滾動(dòng)后舊文件可能被改名成app.2026-06-01.log。如果 Filebeat 的 path 使用*.log可能把滾動(dòng)文件和新文件同時(shí)采集產(chǎn)生重復(fù)。建議嚴(yán)格約定文件名規(guī)則并在采集配置里避免把歸檔目錄包含進(jìn)來。第三個(gè)坑是采集延遲的假象。業(yè)務(wù)日志已經(jīng)寫到文件但 Filebeat 的ignore_older或close_inactive配置過大導(dǎo)致新日志不能及時(shí)讀取。排查時(shí)不要只看應(yīng)用日志有沒有寫還要看 Filebeat 是否處于運(yùn)行狀態(tài)、是否報(bào)權(quán)限錯(cuò)誤。4. 日志傳輸管道如何保證日志不丟不堵日志量是有峰值的。大促、秒殺、定時(shí)任務(wù)集中執(zhí)行時(shí)日志寫入速率可能瞬間翻幾倍。如果所有采集器直接把日志寫到 ElasticsearchES 寫入壓力會(huì)很大。引入 Kafka 作為緩沖是生產(chǎn)級(jí)日志體系里常見的解耦手段。4.1 Kafka 緩沖的作用和關(guān)鍵參數(shù)Kafka 在日志鏈路中負(fù)責(zé)削峰填谷。Filebeat 寫入 Kafka 后下游 Logstash 或消費(fèi)程序可以按照自己的節(jié)奏消費(fèi)不會(huì)因?yàn)闃I(yè)務(wù)流量突增而丟日志。Topic 設(shè)計(jì)時(shí)可以只建一個(gè)app-log主題通過日志中的service字段區(qū)分服務(wù)。也可以按環(huán)境分主題比如app-log-prod和app-log-test。分區(qū)數(shù)要結(jié)合下游消費(fèi)并發(fā)決定。單個(gè)分區(qū)只能被同一個(gè)消費(fèi)組里的一個(gè)線程消費(fèi)分區(qū)太少消費(fèi)并發(fā)上不去分區(qū)太多Kafka 元數(shù)據(jù)開銷也會(huì)變大。副本數(shù)建議生產(chǎn)環(huán)境至少 3并配置min.insync.replicas防止部分節(jié)點(diǎn)故障時(shí)寫入丟失。retention.ms可以設(shè)置日志在 Kafka 中的保留時(shí)間給下游鏈路故障留出恢復(fù)窗口。常見設(shè)置是保留 24 到 72 小時(shí)具體要看磁盤成本和團(tuán)隊(duì)對(duì)日志完整性的要求。分區(qū) key 的選擇也要考慮。如果希望同一實(shí)例的日志順序保持有序可以使用instance作為 key如果只關(guān)心吞吐可以使用輪詢策略。跨服務(wù)按 traceId 聚合到同一分區(qū)意義不大因?yàn)椴樵冸A段已經(jīng)在 ES 中完成聚合不需要在消息隊(duì)列里強(qiáng)制同分區(qū)。4.2 Logstash 消費(fèi)和寫入 ElasticsearchLogstash 在整個(gè)鏈路里負(fù)責(zé)消費(fèi) Kafka 消息、解析字段、補(bǔ)充信息再批量寫入 Elasticsearch。由于應(yīng)用側(cè)已經(jīng)輸出 JSON 日志Logstash 的 filter 可以保持很輕不需要用復(fù)雜的 grok 正則去切文本。一個(gè)最小 pipeline 配置如下。input { kafka { bootstrap_servers kafka01:9092,kafka02:9092 topics [app-log] group_id logstash-app-log codec json consumer_threads 6 } } filter { date { match [timestamp, ISO8601] target timestamp } if [exception] { mutate { add_field { error_flag true } } } } output { elasticsearch { hosts [http://es-data01:9200, http://es-data02:9200] index app-log-%{YYYY.MM.dd} } }codec json表示消息體本身就是 JSON。datefilter 把日志里的timestamp解析成 ES 使用的timestamp字段。error_flag是為了后續(xù)檢索時(shí)快速過濾異常日志。如果應(yīng)用日志里混入非 JSON 行比如System.out.println或啟動(dòng) Bannercodec json會(huì)導(dǎo)致解析失敗。這個(gè)問題最好在應(yīng)用層解決統(tǒng)一使用 logger 輸出不要混用標(biāo)準(zhǔn)輸出。如果無法避免可以改用純文本采集或獨(dú)立 topic再用 grok 解析。4.3 消費(fèi)堆積和背壓處理Kafka 消費(fèi)堆積是日志鏈路最常見的故障。現(xiàn)象是 Kibana 里最新日志遲遲不出現(xiàn)kafka-consumer-groups顯示的LAG持續(xù)增長。處理順序不要亂。先確認(rèn)是上游寫入變快還是下游消費(fèi)變慢。如果只是瞬時(shí)峰值可以等待消費(fèi)追平如果持續(xù)堆積優(yōu)先擴(kuò)容 Logstash 消費(fèi)吞吐也就是增加分區(qū)數(shù)和consumer_threads。但不要無限增加線程因?yàn)樽罱K瓶頸可能在 ES 寫入。ES 寫入壓力大時(shí)會(huì)表現(xiàn)為拒絕寫入或?qū)懭牒臅r(shí)上升。這時(shí)要檢查 ES 集群的寫入隊(duì)列、磁盤水位和 bulk 大小。生產(chǎn)環(huán)境建議將 ES 節(jié)點(diǎn)角色拆分?jǐn)?shù)據(jù)節(jié)點(diǎn)和協(xié)調(diào)節(jié)點(diǎn)分離避免高負(fù)載互相影響。還要給 ES 設(shè)置合理的索引分片數(shù)分片過少無法充分利用多節(jié)點(diǎn)過多會(huì)帶來資源浪費(fèi)。注意Kafka 消費(fèi)堆積本身不一定是故障如果業(yè)務(wù)日志量確實(shí)超過正常水位優(yōu)先擴(kuò)容而不是清空堆積。清空堆積會(huì)丟掉排障現(xiàn)場這是最不建議的做法。5. 日志存儲(chǔ)與檢索ES 索引設(shè)計(jì)決定查詢速度日志進(jìn)入 Elasticsearch 之后能不能快速查出來取決于索引設(shè)計(jì)和字段映射。生產(chǎn)環(huán)境見過太多“索引大了查不動(dòng)”的問題根源往往是最初沒有做索引規(guī)劃。5.1 按時(shí)間分索引避免單索引無限增長日志天然是和時(shí)間強(qiáng)相關(guān)的數(shù)據(jù)。按天建立索引比如app-log-2026.06.01是最常見的做法。好處很明顯查詢最近一天的數(shù)據(jù)只需要掃描當(dāng)天索引刪除過期數(shù)據(jù)只需刪除舊索引不用在單個(gè)大索引里做復(fù)雜清理。索引別名也可以配合使用。比如查詢最近 7 天日志時(shí)可以搜索app-log-*寫入側(cè)使用app-log-write別名由 ILM 管理實(shí)際索引。這樣可以保持查詢和寫入的穩(wěn)定。索引分片數(shù)要根據(jù)數(shù)據(jù)量和節(jié)點(diǎn)數(shù)預(yù)估。一個(gè)分片通常建議控制在 30GB 到 50GB 以內(nèi)。按天索引時(shí)如果每天日志量很大可以按天索引并配置多分片如果每天只有幾百 MB一個(gè)分片或少量分片就夠了。5.2 字段映射決定你是過濾還是全文搜索ES 中的字段類型直接影響查詢方式。精確匹配和聚合統(tǒng)計(jì)要使用keyword類型模糊匹配和關(guān)鍵詞搜索要使用text類型。排障中常用的service、level、traceId、instance、status都應(yīng)該設(shè)計(jì)為keyword或數(shù)值類型。一個(gè)參考 mapping 如下。{ mappings: { properties: { timestamp: { type: date }, level: { type: keyword }, service: { type: keyword }, instance: { type: keyword }, traceId: { type: keyword }, method: { type: keyword }, uri: { type: keyword }, status: { type: integer }, costMs: { type: long }, message: { type: text, fields: { keyword: { type: keyword, ignore_above: 256 } } }, exception: { type: text } } } }message使用text是為了支持關(guān)鍵詞搜索同時(shí)加了一個(gè)keyword子字段方便對(duì)短消息做精確過濾。exception使用text但要注意異常棧內(nèi)容很長不建議在 ES 中對(duì)全文做復(fù)雜聚合。如果日志字段不固定建議關(guān)閉動(dòng)態(tài) mapping 或使用 dynamic template 白名單。大量動(dòng)態(tài)字段會(huì)導(dǎo)致索引 mapping 膨脹嚴(yán)重時(shí)甚至讓集群停止寫入。統(tǒng)一日志字段規(guī)范也是保護(hù) ES 的一個(gè)手段。5.3 索引生命周期管理避免磁盤被打滿索引生命周期管理ILM是生產(chǎn)級(jí)日志存儲(chǔ)的必需環(huán)節(jié)。通過 ILM可以讓索引從熱階段滾動(dòng)到暖階段再按策略刪除。下面是一個(gè)簡單的 ILM 策略索引達(dá)到 50GB 或 7 天時(shí)滾動(dòng)超過 30 天的索引自動(dòng)刪除。PUT _ilm/policy/app-log-policy { policy: { phases: { hot: { min_age: 0ms, actions: { rollover: { max_size: 50gb, max_age: 7d } } }, delete: { min_age: 30d, actions: { delete: {} } } } } }ILM 需要配合索引模板使用把策略綁定到對(duì)應(yīng)索引模式上。PUT _index_template/app-log-template { index_patterns: [app-log-*], template: { settings: { number_of_shards: 3, number_of_replicas: 1, index.lifecycle.name: app-log-policy, index.lifecycle.rollover_alias: app-log-write } } }如果使用 ILM 的 Rollover寫入側(cè)應(yīng)使用別名app-log-write查詢則使用app-log-*。日志保留周期的選擇要結(jié)合業(yè)務(wù)需求ERROR 日志可以保留更久普通 INFO 日志保留 7 到 15 天通常就夠。注意不要只設(shè)置 ILM 而忽略磁盤容量評(píng)估。保留 30 天日志至少要把每天日志量乘以 30 乘以副本數(shù)再算上 ES 索引膨脹和 overhead才能確認(rèn)集群容量是否夠用。6. 排障實(shí)戰(zhàn)從一條報(bào)警到根因定位的完整鏈路日志體系設(shè)計(jì)得再好最終還是要回歸到排障場景。用一個(gè)常見例子說明凌晨收到告警訂單服務(wù) ERROR 增多接口 P99 升高。這時(shí)候應(yīng)該怎么查。6.1 先用時(shí)間和級(jí)別縮小范圍不要盲目搜全文排障第一步不是搜具體異常棧而是確定影響范圍。在 Kibana 中使用時(shí)間范圍過濾最近 15 分鐘再疊加服務(wù)名和級(jí)別。service:order-service AND level:ERROR AND timestamp now-15m如果日志量仍然很大可以加上uri或status進(jìn)一步縮小范圍。比如只查看POST /api/order的錯(cuò)誤日志。service:order-service AND level:ERROR AND uri:/api/order AND timestamp now-15m排序按timestamp升序先看最早的異常因?yàn)榈谝粋€(gè)異常往往是后續(xù)大量錯(cuò)誤的源頭。如果看到Connection timed out或Read timed out要意識(shí)到這可能是下游依賴導(dǎo)致的連鎖反應(yīng)先找出被調(diào)用方是否也有異常。6.2 用 TraceID 串聯(lián)完整調(diào)用鏈確定一條典型錯(cuò)誤日志后復(fù)制其中的traceId在 Kibana 中搜索。traceId:8f3a1b2c3d4e5f6a7b8c搜索時(shí)不限制服務(wù)名。只要 TraceID 在所有服務(wù)間透傳正確就能查到這個(gè)請(qǐng)求經(jīng)過的所有服務(wù)、所有實(shí)例的日志。按時(shí)間順序排列后可以看到請(qǐng)求從網(wǎng)關(guān)進(jìn)入訂單服務(wù)然后調(diào)用支付服務(wù)最后在哪里耗時(shí)最長。日志中會(huì)看到類似這樣的關(guān)鍵點(diǎn)訂單服務(wù)日志顯示調(diào)用支付服務(wù)開始和結(jié)束。支付服務(wù)日志顯示處理耗時(shí)超過 3 秒。支付服務(wù)之后出現(xiàn)數(shù)據(jù)庫超時(shí)或連接池等待。這一步的核心是確認(rèn)異常發(fā)生位置而不是只看最外層報(bào)錯(cuò)。外層的RestClientException可能只是下游超時(shí)的表象根因在支付服務(wù)的數(shù)據(jù)庫連接或 SQL 執(zhí)行上。6.3 從異常日志特征定位根因類型不同錯(cuò)誤特征對(duì)應(yīng)不同排查方向整理成速查表會(huì)很有用。日志特征可能根因下一步檢查status500 大量異常棧服務(wù)內(nèi)部異??串惓?、線程池、連接池Connection timed out網(wǎng)絡(luò)不通或連接池耗盡檢查目標(biāo)服務(wù)、端口、連接池配置Read timed out下游處理慢查看下游服務(wù)耗時(shí)、GC、慢 SQLlock wait timeout exceeded數(shù)據(jù)庫鎖競爭查數(shù)據(jù)庫事務(wù)、慢 SQL、死鎖日志OutOfMemoryError內(nèi)存不足或泄漏查看對(duì)堆配置、GC 日志和
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
99热自拍| 97在线观看| 久久青娱乐| 亲子敌伦对白在线播放| 无码人妻精品一区二区中文 | 青青操视频在线| 久久日韩肥臀| 三级日韩一区二区三区| 91精品啪在线观看国产城中村| 免费A V在线| 久操视频免费在线观看| 果冻传媒A片麻豆熟妇人妻| 国产无码三级视频在线观看| 五月激情综合网| 国产福利夜| 91狠狠狠| 性爱视频免费网址| 婷婷五月天成人网| 99RE在线视频精品,这里只有精品| 91亚洲丝袜| 91爱| 中文字幕中文字幕一区二区| 亚 欧 美 综合| 97爱碰| 日本一二区不卡| 99日精品欧美国产| 欧美综合在线91| 亚洲色人阁| 18禁中文字幕| 精品.99999| 超碰97在线色男人??| 青草成人免费视频一COm| 久热在线精品免费观看| 日本曲间由美性生活片| 国产美女91| 欧美一区二区福利在线| 无码欧美有限公司| 91白虎| 又粗又长又爽在线观看| 欧州色图区| 搡老女人老91妇女熟女| 精品日韩中文在线| 嗯阿好爽好紧| 99re99| 久久久免费的精品| 99热导航| 国产精品午夜AV完会免费| 久久亚洲精品成人av| 色九九九| 久艹日日日| 影音先锋国产精品| 亚洲系列欧美| 可以在线观看的黄色网址| 天操天操夜操夜月操月年年操| 天天影视综合色| 日韩欧美成人综合在线| 日本少妇va7777| 一区二区三区麻豆| 五月丁香综合网| 亚洲一二三四区在线免费看视频| 91深夜夜| 亚洲少妇在线影音| 两女互慰AV高潮喷水在线观看| 人妻天堂综合网| 天天欧美97| 国产AV高清AV无码| 韩国毛片一区二区三区| 殴美大黄片| 欧美91网站| 摸奶性爱视频网站在线免费播放| 91色噜噜狠狠| 国产精品白丝在线播放| 日本啊啊啊啊啊视频| 黑人综合网| 嗯啊不要在线| 久久久97| 一区麻豆 高清中文字幕| 91网九色蝌蚪操熟女| 日夜啪电影| 黄页| 毛片视频白嫩| 国产成年精品高清在线观看91| 性色国产东北露脸精品视频| 亚洲国产精品99久久久| 嗯嗯啊好大| 啪啪啪东京| 91亚州欧美| 中文字幕一区二区三区字幕| 99re6国产精品99re| 韩国成人精品久久久免费看| 久欲AV| 久久AV无码网址| 九九九国产精品| 色综合色欲色综合色综合色综合| 天天拍夜夜| 夜夜爽爽爽| 九九九热| 天天摸天天舔天天操| 日本激情免费大片| 久久久啊啊啊| 一道本久久棕合爱| 强奸乱伦大香蕉| 噜噜噜久久亚洲精品色情| 日韩黄片视频试看| 啊啊啊啊嗯嗯在线久久久| 国产亚洲 中文欧美久久| 97亚洲欧美| 国产性感在线观看| 美女国产一区二区久久| 亚洲综合另类| 制服丝袜第二页| AV 少妇 人妻 偷拍| 超碰97人人cao| 啊啊啊啊啊啊啊啊要喷了| 欧亚在线视频| 亚洲自拍偷拍视频在线| 国产精品久久久久久久免牛肉蒲团 | 亚洲男人的天堂网| 五月丁香六月婷| 亚洲婷婷丁香在线| 欧美 亚洲 综合 制服 另类| 人妻天天操天天爽视频免费| 天堂中文日本在线观看| 0755午夜福利视频| 日本超碰色精品| 日韩啪啪视频| 欧美爱三级日韩久久| 久久精品无码熟妇一区二区三区视频导航| 男人的天堂啪啪| 亚洲 无码 偷拍| 亚洲伊人青青草| 操我啊啊啊啊啊| 黄在线| 久久国产精品m码| 少妇天堂网络| 99自拍B亚洲| 欧美国产伊人久久久久| 操一操摸一摸| 欧美性爱超碰97| 大香蕉伊在线久草麻豆天堂故事| 丁香五月性爱| 亚欧免费| 亚洲AV成人无码一二三久久| 欧美亚洲首页| 91女优在线观看| 成人精品视频一区二区| 暖暖精品二区三区观看| 2024人人操人人摸| 家庭乱伦性爱av| 人人妻人人玩人人澡人人爽| 日本97久久| 东京太热久久久| 欧美日本一区二区a人| 欧美亚洲| 青青青在线高清视频在线一二三四区 | 久久久久9| ji熟女.com| 欧美精品97| 久久精品日韩专区免费观看| 青青草色情网站视频| 亚欧无码在线| 国产肏逼网站| 人人妻人人爱人人玩| 啊啊啊啊啊啊啊网址在线观看| 六月天婷婷| 欧美日韩色综合网| 中文字幕第9页萱萱影音先锋| 少妇人妻在线| 欧美日本天堂| 久久精品免费| 丁香五月性| 国产精品女生av| AV女优男人的天堂| 亚洲骚男同com| 青青青青草av在线观看| 97舔舔| 久久久久久AⅤ无码免费肉站| 欧美极品美女aaaaaa级黄片| 精品玖九九久| 插入粉嫩少妇视频| 久久久穴999| 97国产超湿| 手机看片1024你懂的国产| 蜜乳AV免费观看| 97aiaiai| 欧美亚洲特P| 国产中文日韩欧美一区二区三区人妻丝袜美腿| 九九久久国产精品| 啪啪视频mP4| 九九碰九九爱97| 国产三级多多影院2022国产AA一级毛片无码 | 伊人操你| 欧美v日韩v亚洲v最新在线| 我爱操| 欧美日韩天堂| 蜜臀色乳| 麻豆性爱视频在线播放| 桃色六月天| 超碰 另类 欧美 | 欧美综合色站| 超碰97资源中文字幕| 人人色97| 亚射在线| 美女97超碰| 玖玖蜜臀资源网| 91人人爽人人爽| 男人天堂久久精品| 欧亚综合一卡二卡中文字幕| 日日日日日| 男人天堂2019亚洲| 一区=区三区视频| 很很干很很操| 国产成人亚洲精品自产在线 | 亚洲天堂五月天国产| 搡老女人老熟女91| 亚洲日韩国产精品| 肏逼视频日本| av一区二区三区不卡| 午夜国产成人精品视频| A片大香蕉在线| 无遮挡又黄又刺激的视频| 小说区 图片区色 综合区| yiqicaoav| 大香蕉伊人网| 国产一区二区三区白丝| www.大香| 婷婷激情五月天小说网| 婷婷亚洲综合| 日本91白丝| 成人在线视频二区| 超碰性爱97| 91中文精品日韩欧美在线| 你草精品在线视频| 校园春色欧美| 久热一区二区| 国产免费黄色一级大片| 中日亚韩免费视频| 高清国产av无码| 天天色播| www老逼91| 亚91亚洲网| 亚州综合AⅤ| 日韩色女精品| 欧美激情内射| 国产亚洲精品久久久久小| 国产精品毛片?v一区二区三区 | 婷婷久草| 自拍六区| 岛国1区2区3区在线观看| 国产对白刺激视频| 综合激情五月天| 狠狠干,狠狠操| 日韩99999色| 亚州色图欧美| 色哟哟av网址| 97免费在线观看视频| 亚洲无码超碰免费| 久精品无码av一区二免费国产在线观看| 亚洲国产一区二区三区四区国产| 99久久无色码| 插入粉嫩少妇视频| 国产99999| 富女玩鸭子一级毛片| 亚洲精品人妻在线| 色色五月天婷婷| 麻豆区99999| 伦在线97| 亚洲激情视频| 干日本人少妇午夜寂寞影院| 丁香六月婷婷综合| 另类 综合 日韩 欧美 亚洲| 91无码人妻精品一区二区三区蜜桃| av网站免费看| 国产精品蜜乳AV| 红杏大香蕉| 手机不卡视频不卡在线一二三区| 亚洲资源一区| 人妻81p| 亚洲一区二区麻豆影院| 欧美日本不卡| 国产黄色小视频网站| 9999免费精彩视频| 蜜桃色院一区久久 | 91精品人妻五十路| 久久人| 一级aaaaa欧美中文字幕录像片| 人妻熟女一区在| 亚热日本熟女| 97爱综合| 狠狠中文字幕| 国产后入式在线观看| AA级电影三区| 超碰人人乐97| 99热这里都是精品| 成人网址在线观看| 色97国产69香蕉| 成人精品久久久午夜福利| 丁香五月影院| 精品久操| 国产熟女免费观看久久| 亚洲精品欧洲精品| 亚州综合色| 亚洲中文字母在线播放| 97硬碰| 97欧美日韩精品| 淫荡熟女乱伦网| 精品国产99| 欧美色宗合| 97久久超碰| 秋霞福利网| 伊人网青青| 91在线页| 啊啊啊啊啊在线| 国产三级中文有码在线视频| 亚洲熟女一区| 欧洲黄色网| 亚洲国产欧美日韩精品一区二区三区,国产一区二区三区在线看片,欧美性猛交 XXX | 91超级碰碰| 欧美黑人91| 欧美日韩国产另类综合| 久久天天躁日日躁狠狠躁 | 97精选久久| 午夜无遮挡男女啪啪视频| Av色五月| 亚洲精品国语在线播放| 99热97| 91 天天综合| 天天天天干| 超碰吊日色| 青娱乐国产精品| a片亚洲一本通视频| 天天艹天天日| 啊啊啊啊啊啊啊啊要喷了| 日韩熟女无码| a人欧美综合天堂麻豆| 秋霞午夜成人福利片片| 九九夜精品九九在线| 粉嫩av在线| 热天堂一区二区| 亚洲久久久久| 久久久久久大| 久久午夜鲁丝片| 91色图片| 国产日韩在线播放av| 伊人991| 强奸国产在线| 97久久国产亚洲精品超碰热| 男人的天堂一区三区| 综合网亚洲1| 久久香蕉影院| 久操精品| 粉嫩少妇自慰在线| AA特级绝黄| 人妻精品一区一区三区蜜桃91| 国产亚洲色婷婷久久99精品91葵花宝典 | 欧美亚洲自拍另类人妻| 综合网,亚洲,欧美| 日欧操屄| 亚洲成人妻日韩在线| 97人人操人人摸人人爱| 国产精品禁久久久精品| 猛交交| 高清国产无码av| 国产熟女精品区| 欧美性爱三区二区| 在线天堂资源亚洲| 色婷五月天| 欧美美女视频| 亚洲欧美九九九| 五月丁香拍拍激情综合三级| 亚洲脚交| 99re9在线| 麻豆视频国产一区二区| 亚洲日韩XXX| 狠狠操狠狠插| 成人麻豆av电影网站| 伊人久大| 亚熟在线| 亚乱色| 青草地一本线一区二区三区| 综合 青草 伊久久 影院 综合| 大香蕉黄色一级片免费看| 美女主播色欲91抠b在线播放| 无码高清专| 久九九九九九九九热| 久久久久骚| 色五月av| 9久精品视频在线观看| 囯产乱伦一区二区三女| 亚洲av噜噜噜噜噜噜| 国产熟妇一区二区| 综合色播| 爽极品影院| 97在线免费公开视频| 青娱乐av在线| 伊人久久大香大香线蕉中文| 免费自拍三级综合| 99久久99九九99九九九| 一区二区三区四区久久视1| 成人av动漫在线观看| 欧美成人一级麻豆| 另类图片五月天| 久久9亚洲| 欧美精品日韩一区二区| 性爱综合一区二区| 麻豆精品.欧美精品.日韩精品.| 97干天天| 久久久久久久久久久六六| 岛国片国产成人亚洲播放| 色逼综合| 亚洲91射| 玖玖爱一区在线| 婷婷中文字幕| 国产午夜在线观看| 日韩精品资源| 中字一区| 夜夜嗷嗷一区二区| 天天肏夜夜肏| 最新三级网址| 9色国产精品一区粉嫩 | 人妻插插人妻人| 亚洲欧美中文日韩视频中国语 | 综合久欧洲| 色婷婷六月| 日韩精品人妻一| 久操97| 久久久亚洲精品中文字幕人妻| 熟妇高潮一区二| 91xingse| 韩国午夜理伦三级好看| 午夜视频好爽啊| 日本精品一区二区三区四区的功能| 五月天欧美色图| 99热99re超碰精品| 婷婷综合激情| 97最新在线播放视频| 95自拍视频在线观看| JuliaAnnXXX888| 麻豆黄站| 91欧美性| 亚州色国| 欧美亚男人的天堂| 九九热免费国产视频婷婷伊人| 婷婷综合五月| 抽插无码高清一区| 九九无码视频| 入口操逼网站| 欧美国产精品久久九九| 亚洲欧美另类图片| 亚洲少妇自拍中文字幕懂色| 人人澡人人澡人人| 超碰97综合网| 人人摸人人舔一区二区| 啊啊啊啊啊啊啊啊要喷了| baiduhicn.com。| 四虎视频在线观看| 天天干天天日天天射黄色片| 综合激情97| 射 色综合| 97色色网| 亚州情色j区| 亚洲精品男人的天堂| 91久久婷婷| 操一区| 激情久久久| 日本日皮视频逼| 国产 无码 一区二区| 约操熟妇| 成人日本视频人妻在线| 久操热| 天天插天天射| 亚洲图片欧美91N| 97久久资源| 手机av天堂久久久久| 四虎影视在线| 国产精品久久久777| 青草青青久久久久久国产| 欧美精品成人亚洲| 男人干美女| 2025亚洲男人天堂| 91久久堂| 精品无码产区一区二| 欧美日日人人天天| 青青久久艹| av一区二区三区不卡| 黄色电影在线播放综合网站| 色yeye成人免费视频| 欧美极度丰满熟妇hd| 久操精品网| 亚洲综合激情五月久久| 国产性感骚丝袜在线| 99热精品国产| 精品人妻伦一区二区三区久久| 热G综合热G中文| 中出20p| 丝袜综合网| 青娱乐福利99| 日本性爱不卡视频| 99色综合| 超硑97精品| 欧美国产操逼| 欧美精品一二三| 国产高清午夜成人在线观看| 日本www操操操| 伊人91| 天堂麻豆天美| 久热99999| 四方色播| 天天摸夜夜添无码小视频| 亚洲一区二区性爱电影| 四虎影库国产精品免费| 中文一区在线日| 日本二三四区| 亚洲精品国产无码高清| 午夜丁香婷婷| 久久9精品视频| 天堂综合| 很很操在线| aaaa少妇高潮大片| 国产少妇与亚洲av| 粉嫩AV一区夜夜嗨| 无人区高清电影免费观看一区二区三 www.qmcai2.com | 欧美极品少妇交| 色婷婷成人综合| 蜜臀久久99精品| 黑人性暴力毛片| 亚洲 小说 欧美 激情 另类| 人妻99p| 欧美另类色图片| 国产一区二区三区久久精品太古里| 国产91 丝袜在线播放 | 婷婷五月天激情四射| 九色 蝌蚪 熟女自| 日语五十路和六十路亚洲国产精品| 成人性爱美曰韩| 九九玖玖精品| 国产又粗又长的视频| h4610国产人妻| 青草青青久久久久久国产| 呦女网站| 人人看人人插| 91N欧美| 动漫av中文| 情色大香蕉| 久久riav中文精品| 日本天堂网| 天天天干977| 奇米狠999| 91美乳| 国产2.3.4区| 精品成人亚洲午夜电影| 亚洲中文字幕有码视频一区二区三区| 久久久无码精品人妻二区| 国产一区二区三区久久久精品| 色噜噜综合在线| 九九九九九九九九九九精品视频| 无码人妻精品酒店| 99视频内射三四| 亚洲美腿丝袜香蕉影视欧美成人| 久操com| 韩国久久97| 亚洲精品乱码久久久久久蜜桃麻豆| 无码 黑人一区二区三区| 夜夜夜久久| 97亚洲中文| 中文字幕精品资源在线| 丰满人妻一区二区中文| 亚洲第一免费视频| 久久夜嗨| 综合伊人网12色| 超碰久久中文| 亚洲熟女综合网| 久久久久9| 天天综合网亚洲综合网| 91三级理论片播放器| 久久99草| 熟女乱伦A| 性性久久| 国产高清无码一区三区二区| 97超碰免费人人性爱| 人妻无一区二区三区| 插入综合网| 96久久久久| 中亚精品极乱| 青草精品视频-日本久久久久网站| 97在线精品| 亚洲欧美激情小说| 人妻22p| 伊人嫩草| 高清无码国产亚洲| 国产精品午夜福利视频| 国产 日韩 欧美 中文 另类,国产 欧美 另类 制服 变态,高清 日韩 欧美 中文,高 | 亚洲涩图欧美| 性爱乱伦一区| 人妖欧美一区二区| 国产精品无码AV网站| www久久精品| 麻豆国产96在线| 久久精品高清无码一区| 96久久精品一二三区色欲| 精品白丝一区| 国产成人综合网| 亚洲欲色| 色噜噜人妻丝袜AV资源| 一级黄色视频网| 大香蕉青青9| 精品国产www久久| 97国产伦理| 久久人人爽人人爽人人片Ⅴ| 本道综合精品| 91色碰| 午夜福利1区2区3区| 亚洲素人网| 国产一区二区啪啪视频| 狠狠爱夜夜| 99999精品视频| 久久精品国产亚洲妲己影视| 亚洲日韩欧美一区二区| 日本网色| 亚洲综合第一页| 超碰久久性爱| 天天视频综合在线观看视频| 東南亚性呦成人伦理资源在线视频| 91neishe| 亚洲熟女精品| 日本不卡免费二区| 大胆91| 亚洲av综合伊人久久| 熟妇国产免费一区| 香蕉在线一区二区三区| 国产精品高清2021在线| 少好三P| baisiav| 91成人久久| 欧美美女视频| 2017大香蕉国产精品久久| 亚洲国产日韩欧美熟妇在线| A级在线视频| 欧美青青视频| 日日夜夜干| 婷婷伊人五月| 中文字幕第95页| 久久久com| 国产三级多多影院2022国产AA一级毛片无码 | 盗摄 精品 另类 一区| 粉嫩av平台| 青青草女人天天干| 97视频网站在线观看| 日韩欧美国产一区二区三区四区| 精品传媒在线一区| 欧美乱妇狂野欧美在线视频| 日韩去日本高清在| 日韩欧美性吧婷婷乱伦大香蕉 | 国产熟女一区二区丰满| 一区二区三区欧美激情| 黑人娇小av在线播放 | 97超碰人人模人人拍人人| 蜜臀aV午夜一区二区三区| 男人的天堂,欧美亚洲另类国产日韩,日本高清一区二区 | 一级@啪啪视频| 欧美草草高清日韩视频| 丁香婷婷激情五月天无毒不卡| 六月婷婷色综合| 日韩在线一区二区| 国产丝袜啪啪| 综合九九| 国产一区麻豆免费观看| 久热99| 亚洲第2页| 欧美性爱综合,免费| AV有码在线| 国产25页| 91女在线观看| 婷婷在线视频| 成年人性爱日韩| 100啪啪视频大全| 97欧美日韩| AV中文字幕三四五| 在线情色电影 91大| 啊啊啊啊啊啊在线看| 亚欧性爱在线无码| 岛国AB视频| 大香蕉免费3| 色欧美亚洲| 亚洲春色欧美| 久久久九| 色爽——AV| 日日夜夜草草草| 亚殴在线| 色99色| 亚洲色图殴美色图激情乱伦| 国产中文字幕在线点播| 97在线免费视频| 欧美美女视频| 久久久九精品| 91天美传媒在线观看| 日本不卡码黄色 | 天天射天天操天天干天天吃2018| 青草一区二区| nuu12国产麻豆精品| 蜜桃精品一区二区三区久在线| 久久久婷| 殴美综合色88| 欧美色图片91| 尤物av网站| 国产欧美日韩女同性恋ww喷水精品| 亚洲精品成人| 免费看久久久性性| 凸凹视频在线观看| 男人a天堂手机在线版| 日韩性爱1级片视频| 伊人一区二区在线播放| 92性色国产午夜福利在线661| www.亚洲黄色| 国产家庭乱伦表演| 人人人摸人人| 色哟哟综合| 欧美一级美片在线观看免费| 91色插| 成人国产二区三区在线,男女精品。| 殴美色网| 9精品久久久久| 精品美女少妇一区二区| 啊啊在线| 中文字幕AV中出| 另类老少妇| 亚洲美女高潮喷水视频| 欧美黑人与女人91| 亚洲成成熟女人综合一区二区| 亚洲天堂2020| 亚洲成a人v欧美综合天堂下载| 97视频在线| 欧美性爱精品七区| 一区操逼| 国产欧美岛国精品一区| 天天干天天狼在线视频| 天天日天天色| 九九热精品免费视频| 高清不卡一二三区视频......| 天天干天天日天天射黄色大片 | KK色在线影院| 久久熟女嫩草成人片免费| 久草资源在线| 啪啪视频免费在线观看| 另类TS人妖一区二区三区| 九月丁香综合网| 亚洲欧美成人在线| oumeisetu综合| 国产大片精久久久久久| 性爱欧美五月| 亚洲AV色图一区| 97亚洲中文| 一二三四视频中文字幕在线看| 欧美另类精品xxxx| 国产精品自产拍在线观看社区| 99超级碰免费视频| 91久热这里只有精品| 夜夜嗷嗷一区二区| 91日日夜夜| 国产欧美另类久久久精品课程| 中文字幕三四区| WWW啪啪的com| 爱做久久久久久| 97人妻色| 91天天c| 精品视频一区二区| 99999精品| 在线色导航| 亚洲欧美国产日本一区二区三区| 日本美女性生活久久久久久久| 后入式在线免费观看60秒| 国产自偷| 2017av无码免费无线播| 殴美在线AⅤ| 嗯嗯啊中文字幕| 亚洲欧美精品久| 99日视频在线免费| 日韩欧美操逼xxx| 亚洲午夜福利视频| 91丝袜在线观看视频在线观看| 色悠久久久av| 久久中出| 国产亚洲精品第一最新| 五月天色图| 97 九色| 亚洲熟女综合一区二区| 无码人妻精品一区二区中文| 日本天天操| 四虎国产成人精品免费一女五男| 欧美激情亚洲| 绯色一区二区三区不卡少妇 | 毛片17S| 天堂精品一区| 国产亚洲福利第一页丝袜| 国产一区二区欧美日本| 91暧暧| 另类图片五月天| 国产91av在线播放| 久碰视频| 午夜后入| 91色人妻| 床上啊啊啊一区二区三区| 亚洲天堂美臀在线| 亚洲欧美日韩免费观看| 五月婷婷激情综合| 亚洲自拍欧美色综合| 国产免费一区2区3区| 新版天堂中文资源8在线| 久久中文色图| 91精品人| 天天综合精品| 日本性一区| 国产精品成人AV片免费看网站| 红杏大香蕉| 美国三级日本三级久久99| 亚洲欧洲成人在线电影| 色色色色色色色色色色色色色色综合| 国产热av| 亚洲综合另类小说色区亚洲成av人片在www | 久久久精品| 97人人超| 日韩毛片9| 91九色蝌蚪在线观看| 亚洲色天堂日韩中| 亚洲美女高潮喷水视频| 天天色黄色影院天天操| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 丰满少妇高潮无码| 日韩少妇无码| 九九热视频在线观看| 亚洲性感丝袜诱惑在线观看| 婷婷久久五月综合激情| 久操大香蕉手机视频在线看| 欧日韩一二三f区| 亚洲精品日日夜夜52| 91老熟女老女人国产老太| 性色AV网站| AV色天香在线| 国产精品扒开腿做爽爽爽视频| 天天躁日日躁AAAXX| 欧美亚洲se91| 操逼啊啊啊91| 精品999日本| 日韩av免费一级电影| 欧美熟爽综合| 九月伊人中文字幕| 2010男人的天堂| 国产剧情在线| 蜜桃久久综合视频| 美女诱惑久久| 中文字幕五区| 四虎影视精品| 发朗少妇买婬全视频中文| 97碰碰色| 中亚精品极乱| 青青色在线观看| 福利风月五月天影院| 日本淫乱女一区二区三区视频| 亚洲18禁| 日韩成人高清一区二区| 亚洲AV乱码专区国产噜噜亚洲| 日本视频在线中文字幕| 不卡在线一区,精品一区二区三区中| 哈哈操电影| 91熟女熟妇视频网站| 久久国产AⅤ| 白丝jkav| 久草视频在线视频在线视频在线观看| 亚洲精品蜜桃久久久久久久| 综合久久久久久久综合网| 久久精品视频一区三区小泽玛利亚| 午夜精品探花| 国产91美女视频| 天天综合网~69| 国产强奸无码乱伦| 激情五月天网站| 婷婷色香伊人| 欧美亚男人的天堂| 亚洲欧洲精品视频发布| 久久精品日韩专区免费观看| 久热婷婷| 亚洲男人天堂网站| 欧美人妻精品| 人人贴人人摸| 少妇专区一二三四五| 无码日韩人妻av一| 啊啊啊在线看| 大香蕉啪啪啪| 人人妻人人爱人人玩| 欧美三级一级| 亚洲免费成人在线高清无码视频| 麻豆国产成人精品| 国产超碰| 狠狠干91| 91大神电影天堂| 亚洲天堂AV在线播放| 日本ZZ高免费A级视频| 久久婷婷五月天| 国产在线观看一区二区三区| 男人的天堂日韩| 无码又爽又硬又激情免费视频 | 18禁免费视频| 综合熟妇一区二区三区| 激情综合亚洲| 国产强奸乱伦无码视频| 欧美大干日韩| 丁香五月激情啪啪| 吖在线不卡一区二区国产剧情| 四虎精品一区| 97AV爱| 黑人白女精品一区| 久久久999国产精品| 嗯嗯啊啊啊好舒服| 久久亚洲AV成人精品无码| 美女啊啊啊啊啊| 亚洲高清少妇| 91neishe| 可以免费观看的日韩av毛片| 亚洲人久久久久日| 欧美性爱一区二区三区四区| 十八禁的黄污污免费网站| AV中亚| 男人精品天堂一区| 亚洲熟女国产综合另类| 夜嗨影院| 国产高清自拍视频| 日本97久久| 亚洲AV资源| 免费作爱一级视频| 久草精品国产99| 国产精品日日摸天天碰| 狠色婷婷久久一区二区三区_| 欧美操逼一二三区| 欧美操逼熟女| 97色碰| 久久成人网站| 青久操| 啊啊啊啊啊在线观看网址 | 婷婷激情四射| 国产一区二区三区久久精品太古里| 色五月婷婷五月天| 综合免费无码中文| 综合av社区| 另类欧美色| 久9久9精品| 国产11页| 超碰人人超在线观看| 国产啊v在线免费播放| 麻豆精品一区二区三区四区免费观看| 亚洲在钱| 天天干天天日天天射黄色片| 一本道综合色图| 日本色色色色色视频| 天天躁日日躁AAAAXXXX国产| 91bbb| 78精品| 黑人综合色| 久久久久亚洲精品| 99中出在线| 亚洲九区| 国产Aα| 高清国产性猛交xxxx乱大交| 放黄片放3级黄片没穿衣服| 久久岛国| 四虎影视国产精品| 大香蕉色欲AV| 97色涩| 青青色综合| 欧美日不卡| 久久久久久人妻| 久久av成人无码免费| 国产精品嫩草久久久久| 97色碰| 欧美色九九| 91欧洲入口| 中文日韩欧美熟| 欧美少妇色综合| 日本 免费 一区二区三区 久久香蕉| 91碰碰| 女人高潮大叫一级毛片| 亚洲女毛多水多21P| 日本一区二区成人在线| 国产AV色黄看到爽| 高清有码一区二区| 天天影视色香欲综合网小说| 日韩亚洲欧美中文字幕| 天天综合网91| 亚洲人妻久久| 91日韩网站| 国产91丝袜 在线播放| 蜜桃臀AV在线| 青青草女人天天干| AV男人天堂网| 99蜜桃臀久久久欧美精品网站| 75大香蕉| 久久精品老司| 久久一二三四五六七八九区区| 五月天综合网| 99xav| 激情人妻另类| 国产热av| 97色操| 天美传媒精品一区二区三区| 亚洲女人毛茸茸91| 精品熟妇视频一区二区| 色约约一区=区三区| 亚洲激情视频| 国产捆绑一区| A级毛片在线看免费| 都市久久精品激情亚洲| 12一15性XXXX粉嫩国产| 欧美一二三级精品在线| 一级特黄aaa大片在线观看成人一级片在线观看 | 久久香蕉国产线看观看猫咪av| 色色色色电影网| 五月丁香影视| 中文字幕一区二区三区人妻少妇在线| 蜜臀AV一区二区三区激情综合| 日韩人妻操B| 熟女中出视频| 欧美成人综合| 国产十八禁视频| 超碰天天操| 18禁久久| 天天综合中文字幕 91| 国产呦精品系列在线观看| 秋霞免费无码视频日韩A片| 草草影院最新网址| 丰满人妻av一区二区三区| 思思热在线| 亚洲精品97在线| 亚洲视频一二区| 欧美日韩人妻婷婷一区| 大香交| 99热在线播放| 91色人妻| 超碰成人最新最好看| 丁香色婷婷| 91逼逼女人91| 久久久久9999妇女| 熟女露脸激情自拍视频| 97资源亚洲| 综合影院永久入口国产| 欧美顶级黄色大片免费| 伊人久久婷婷| 国产一区二区三区不卡手机在线| 久久综合精品一区二区三区| 91九九九吃| 亚洲 欧美 日本 国内 首页| 欧美亚洲高清| 狠狠操夜夜| 国产精品香蕉热久久新品| 正在播放:深夜激情大战,自带黑丝袜全力输出骚穴 | 一级毛片电影免费看| 亚洲AV秘 精品久久老牛影视| 91精品久久久久久77777| 亚洲性爱高潮影院| 亚洲吊色| 日韩人妻无码不卡网站| 在线色导航| 99精品久久| yy少妇精品久久| 久久久夜夜夜| 久久久久久久久成人av解说| 久久香蕉影院| 欧美夜色| 欧美少妇色图| 日本Xx性爱| 色第一页| 熟女一区二区三区四区| 亚洲av综合伊人久久| 十八禁啪啦拍视频无遮挡| 91色爽欧美| 偷偷人人精品女女久久| 一级黄色性爱裸体视频| 婷婷激情四射| 丰满精品人妻少妇久久字幕| 97超碰超| 亚欧成人中文字幕一区| 色噜噜人妻av 中文字幕| 屁股久久久久久久久| 欧美日韩久久精品爱爱| 国产日韩欧美亚洲精品95| 激情综合97| 亚洲美女黄色| 爱爱动态60秒| 视频分类 国内精品| www四虎| 99AV| 女同性恋久久| 草b在线| 78久久| 国产小u女在线观看| 99青青草国产视频| 性色综合网| 尤物视频视频官网| 久/久精品99看9| 九九九九免费高| 亚洲 暴爽 AV人人爽日日碰| 制服乱伦| 97超级色碰碰| 午夜.DJ高清在线观看免费7| 欧美日韩色图片| 蜜臀99久久精品久久久久久| 亚洲国产精品成人无码久久久| 在线综合 亚洲 欧美中文字幕 | 日韩午夜啪啪视频| 狠狠2050在线观看| 91人妻最真实刺激绿帽| 亚洲色偷偷色噜噜狠狠99网| 欧美玖玖爱免费玖玖| 韩国一级做a久久久久| 丁香六月综合激情| 97久久超碰亚洲| 国产成人免费观看在线视频| 超碰久久草| 囯戸精品高潮呻吟旡码| 九九精品美女高溯喷水| 麻豆91熟妇人妻中文字幕茄子| 福利色色| 国产人妻精品一区二区三区秋霞 | 乱久久久| 偷拍亚洲| 免费综合亚洲中文| 九一性生活免费视频| 手机在线免费看的av| 四虎AV无码| 日韩有码中文字幕女同性恋| 欧美人人AAA| 欧美性五月| 欧美一区二区观看在线| 91少妇香蕉久久精品| 蜜乳av一区二区| 天天肏美女| 天天澡天天狠天天天做| 国产久久一区二区午夜| 九九九九AV| 美国美女AV在线| 狠狠爱综合网| 精品人妻一区二区免费蜜桃| 国产极品馒头逼| 国产有码一区| 国产在线综合网| 亚洲情色1区| 91人妻人人澡人人爽人人精品| 九九英色视频| 久久日韩精品一区二区| 蜜桃视频一区二区三区在线观看| 97色亚洲| 精品久久久久瑟瑟| 白丝被操91| 很很很很操| 男女激情黄色网址| 成年在线视频日本亚洲在线视频区精品江靖宇公司| 97国产|免费| 色噜噜婷婷| 91美女片在线| 亚洲熟妇自偷自拍另欧美| 91精片| 欧美人妻色|