亚洲有码Av一区二区三区_国产高清啪啪免费视频_69色视频国产_国产成人人人爆出白浆_国产精品自在线拍国_一本久久伊人热热精品无码_午夜性刺激在线看免费带字幕_助力高品质欧美狂喷水_亚洲精品日韩无码_精品无码一区二区三区蜜臀_麻豆高清国产AV_熟妇人素无码中文字幕_亚洲a级片在线观看_国产欧美日韩三区_99国产成人高清在线观看

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網運營的一線實戰(zhàn)洞察。

Qt工程集成Reactor+epoll+線程池實現(xiàn)高并發(fā)網絡服務

Qt工程集成Reactor+epoll+線程池實現(xiàn)高并發(fā)網絡服務 C 后端開發(fā)進階為什么繞不開“Reactor epoll 線程池”這套組合如果你寫過 Qt 客戶端接觸過網絡通信或多線程編程大概率已經感受到單靠 QThread 和信號槽處理高并發(fā)連接時代碼會變得越來越別扭線程切換開銷高、事件響應不直接、資源管理容易失控。這幾年服務端框架都在提“事件驅動”“非阻塞 I/O”底層核心其實就是這套模型。不過很多人第一次接觸“Reactor”“epoll”“線程池”這幾個詞時都是碎片化地學知道 epoll 比 select 性能好知道線程池能復用線程知道 Reactor 是個事件處理模型但三者在工程上到底怎么協(xié)同卻說不太清楚。尤其是 Qt 開發(fā)者一方面享受著 Qt 事件循環(huán)帶來的便利另一方面又擔心它與高性能 I/O 模型結合時的兼容性和復雜度很容易卡在“看懂了概念卻寫不出能跑通的工程代碼”這一步。這篇文章會從一個具體問題出發(fā)如何用 Qt 的事件循環(huán)框架集成一個基于 epoll 的 Reactor 模型并用線程池處理重邏輯任務。我會用通俗的語言拆解三個核心概念然后給出一個可以直接編譯運行的最小工程演示事件監(jiān)聽、事件分發(fā)、任務異步執(zhí)行三個環(huán)節(jié)如何串起來。最后還會補齊常見問題排查和工程最佳實踐。讀完這篇文章你應該能夠獨立評估自己的項目是否適合這套架構并且有能力在 Qt 工程里動手實現(xiàn)一個簡單的 Reactor 網絡服務雛形。1. 這套技術組合到底解決了什么問題先直說結論Reactor epoll 線程池解決的是高并發(fā)場景下“如何用有限的資源處理海量事件”的問題。它不只是一個面試熱點更是現(xiàn)代 C 網絡服務端的主流設計骨架。沒有這套組合時傳統(tǒng)方案是多線程 阻塞 I/O。來一個連接分配一個線程線程里面阻塞讀取數(shù)據。這種模型有兩個明顯問題。第一線程是昂貴的資源。每個線程都有獨立的棧空間通常默認是 8MB 的虛擬內存線程切換還有上下文切換開銷。當連接數(shù)上升到幾千甚至幾萬時系統(tǒng)資源會迅速耗盡。第二線程大部分時間在空等。一個連接如果沒有數(shù)據到達對應線程就阻塞在 read 或 recv 上CPU 時間片被白白消耗在調度上。連接 10000 個每個連接 1 秒來一次心跳大量線程實際上處于休眠狀態(tài)但系統(tǒng)仍然要為它們付出管理代價。引入 epoll 之后模型發(fā)生了根本變化所有連接的 I/O 事件都由一個線程統(tǒng)一監(jiān)聽真正有數(shù)據到達的 socket 才會被通知。這個“通知”的過程不再遍歷全部 socket而是由內核幫你維護一個就緒列表。這就是 O(1) 級別事件通知能力的來源。引入線程池是為了解決另一個問題Reactor 事件循環(huán)線程不能做耗時操作。如果在一個事件的回調里執(zhí)行數(shù)據庫查詢、文件解析、復雜計算就會阻塞事件循環(huán)導致后續(xù)所有連接的事件響應延遲。線程池把耗時任務從事件循環(huán)里剝離出去讓事件循環(huán)保持“輕、快、不阻塞”。所以這套組合的本質是用 epoll 讓一個線程管住海量連接用 Reactor 把事件分發(fā)做得清晰用線程池把耗時任務隔離出去。三者各管一段彼此配合。很多 Qt 初學者會把 QThread 當作并發(fā)問題的“萬能藥”但實際工程中線程不是越多越好。你應該以“事件驅動 有限線程池”為設計目標而不是“每個連接一個線程”。2. 先用明白 Reactor它是一個事件處理框架不只是一個類Reactor 這個名字聽起來抽象其實它的核心思想非常樸素有一個循環(huán)在持續(xù)等待事件事件到來后調用對應的處理函數(shù)處理完畢回到循環(huán)繼續(xù)等待下一個事件。如果用類比理解它就是餐廳里的“服務鈴”。客人按下鈴服務員過來響應處理完這一桌的需求繼續(xù)等待下一桌按鈴。沒有鈴時服務員不需要挨個去問每桌客人需不需要服務。在代碼層面Reactor 通常包含幾個角色事件源Event Source文件描述符fd比如 socket、管道、事件標志。事件多路分發(fā)器Demultiplexer在 Linux 下最常見的就是 epoll它負責監(jiān)聽多個 fd并告訴你哪些 fd 已經就緒。事件處理器EventHandler針對不同事件調用不同處理邏輯。事件循環(huán)Event Loop不斷調用 epoll_wait拿到就緒事件后分發(fā)給對應處理器。// Reactor 事件循環(huán)的骨架理解這個結構是重點 while (true) { int readyCount epoll_wait(epollFd, events, MAX_EVENTS, timeout); for (int i 0; i readyCount; i) { auto handler handlers[events[i].data.fd]; handler-handleEvent(events[i].events); } }這段骨架代碼是在 Linux 系統(tǒng)編程層面理解 Reactor 的最小入口。它明確告訴你事件循環(huán)線程永遠無法被耗時任務占據否則 epoll_wait 不會在預期時間內返回。在 Qt 環(huán)境中Reactor 的思想有幾個對應物。QEventLoop 本身就是一個事件循環(huán)QSocketNotifier 可以監(jiān)聽 socket 的可讀可寫事件。但 Qt 的事件循環(huán)底層不一定使用 epoll在 Linux 上 Qt 其實會優(yōu)先嘗試使用 glib 的上下文集成而且它對底層事件的封裝對開發(fā)者是屏蔽的。如果你需要在 Qt 工程里精確控制 I/O 多路復用通常會自己管理一個線程在該線程中創(chuàng)建 epoll 實例而不是把 epoll 直接塞進主線程的 QEventLoop 里。這個判斷很重要Qt 可以承載 Reactor 的工程結構但 epoll 的線程最好獨立管理并通過 Qt 的信號槽或自建的線程安全隊列把結果傳回主線程。這是集成時最容易做錯的地方。3. epoll 為什么快以及和 select/poll 的直觀對比epoll 是 Linux 內核提供的 I/O 事件通知機制核心能力是讓一個線程同時監(jiān)聽大量文件描述符并且只關注真正就緒的那些。要理解 epoll 的優(yōu)勢最好的方式是和 select、poll 做對比。select 的工作方式是把所有 fd 集合從用戶態(tài)拷貝到內核態(tài)內核逐個檢查 fd 狀態(tài)再把結果拷回用戶態(tài)。fd 越多線性掃描的成本越高而且 fd 數(shù)量還受 FD_SETSIZE 限制通常是 1024。poll 采用了鏈表結構突破了 fd 數(shù)量限制但它仍然需要把所有 fd 傳給內核并且返回后你必須遍歷整個數(shù)組才能知道哪些 fd 就緒。連接一萬個每次執(zhí)行 poll 都是 O(N) 的掃描。epoll 不同。它維護了一個由內核管理的興趣列表你只需要通過 epoll_ctl 告訴內核“我關心哪個 fd 的哪些事件”之后等待時內核負責把就緒事件放到一個就緒鏈表里epoll_wait 返回時你只需要處理就緒鏈表里的 fd 即可。性能與活躍連接數(shù)有關與總連接數(shù)無關。用一個表來直觀對比對比項selectpollepollfd 數(shù)量限制有限1024 左右基本無限制基本無限制事件獲取方式遍歷全部 fd遍歷全部 fd直接拿到就緒鏈表時間復雜度O(N)O(N)O(就緒事件數(shù))內核態(tài)用戶態(tài)拷貝每次拷貝全部 fd每次拷貝全部 fd通過 mmap 等方式減少拷貝跨平臺支持廣支持較廣Linux 專屬epoll 還提供了兩種觸發(fā)模式這在實際工程中很容易踩坑。水平觸發(fā)Level-TriggeredLT只要 fd 上有未處理的數(shù)據epoll_wait 每次都會返回該 fd。優(yōu)點是編程簡單不要求一次性把數(shù)據讀完。缺點是如果你處理太慢會被同一個 fd 反復喚醒。邊緣觸發(fā)Edge-TriggeredET只有當 fd 的狀態(tài)發(fā)生變化比如從無數(shù)據變?yōu)橛袛?shù)據時epoll_wait 才會返回該 fd。你必須一次性把數(shù)據讀完否則會丟失后續(xù)數(shù)據到達的通知。ET 模式配合非阻塞 I/O 是高性能服務器的常見配置但它對代碼的嚴謹性要求更高。在 Qt 工程里如果你只是想在項目中引入 epoll 做實驗建議先從 LT 模式開始跑通完整流程后再嘗試 ET。LT 模式產生的 bug 更少更適合初學者建立正確的心智模型。4. 線程池不是“有線程就并發(fā)”那么簡單的資源治理線程池的核心價值在于復用線程和削峰填谷。反復創(chuàng)建和銷毀線程是有代價的線程池提前創(chuàng)建一批工作線程把任務放入隊列由線程循環(huán)取出并執(zhí)行。這樣既減少了線程創(chuàng)建開銷也限制了并發(fā)線程數(shù)量避免系統(tǒng)資源被極端峰值打穿。線程池通常由三個部分組成任務隊列存放待執(zhí)行的任務。工作線程組一組處于等待狀態(tài)的線程。調度器負責任務入隊、線程喚醒和資源回收。在 C 標準庫中從 C11 開始提供了 std::thread從 C17 開始加入了 std::scoped_lock而 C20 則提供了 std::jthread。但標準庫一直沒有直接提供線程池實現(xiàn)。所以工程實踐中要么自己封裝線程池要么依賴 Qt 的 QThreadPool要么引入第三方庫。Qt 的 QThreadPool 是一個成熟的線程池實現(xiàn)配合 QRunnable 使用非常方便。但在高頻、低延遲的網絡服務場景中QThreadPool 的調度粒度和信號槽傳遞方式可能不夠直接。很多 C 服務端工程師更傾向于自己維護一個基于 std::thread 和 std::queue std::condition_variable 的線程池因為這樣可控性最高。一個最小線程池通常長這樣// 文件路徑ThreadPool.h #pragma once #include atomic #include condition_variable #include functional #include mutex #include queue #include thread #include vector class ThreadPool { public: explicit ThreadPool(size_t threadCount) : stop_(false) { for (size_t i 0; i threadCount; i) { workers_.emplace_back([this] { while (true) { std::functionvoid() task; { std::unique_lockstd::mutex lock(queueMutex_); condition_.wait(lock, [this] { return stop_ || !tasks_.empty(); }); if (stop_ tasks_.empty()) { return; } task std::move(tasks_.front()); tasks_.pop(); } task(); } }); } } ~ThreadPool() { { std::unique_lockstd::mutex lock(queueMutex_); stop_ true; } condition_.notify_all(); for (auto worker : workers_) { worker.join(); } } template typename Func void enqueue(Func func) { { std::unique_lockstd::mutex lock(queueMutex_); if (stop_) { return; } tasks_.emplace(std::forwardFunc(func)); } condition_.notify_one(); } private: std::vectorstd::thread workers_; std::queuestd::functionvoid() tasks_; std::mutex queueMutex_; std::condition_variable condition_; std::atomicbool stop_; };這個線程池實現(xiàn)雖然精簡但已經包含了任務隊列、互斥鎖、條件變量和線程回收機制。在實際項目中通常還需要支持返回任務結果、任務優(yōu)先級、動態(tài)調整線程數(shù)等能力。線程池面臨的真正挑戰(zhàn)是任務隊列的阻塞策略。如果任務隊列是無界的當任務產生速度遠超消費速度時內存會被任務對象占滿。如果隊列是有界的任務入隊時隊列已滿該怎么辦這個問題在面試中經常出現(xiàn)也就是“線程池的阻塞隊列選擇”。工程上常見的方案有拋出異常、丟棄任務、阻塞調用方、由調用線程直接執(zhí)行等方式。更穩(wěn)妥的設計是為任務隊列設置容量上限配合拒絕策略告警。回到 Qt 場景當你用一個 Reactor 線程監(jiān)聽事件然后想把某個耗時任務丟給線程池時最安全的做法是在任務函數(shù)內部捕獲所有異常并通過信號或回調把結果傳回主線程而不是直接操作 Qt Widget 或 QMainWindow。Qt 的 UI 操作必須在主線程執(zhí)行這是跨線程開發(fā)的紅線。5. 環(huán)境準備與前置條件為了跑通下面的示例你需要準備以下環(huán)境操作系統(tǒng)Linux因為 epoll 是 Linux 系統(tǒng)調用Windows 不支持編譯器GCC 或 Clang要求支持 C17 標準Qt 版本Qt 5.12 或更高示例核心不依賴 Qt 特有機制但工程結構使用 Qt 的項目組織方式CMake3.10 或更高如果你的機器還沒有安裝 Qt可以到 Qt 官網獲取對應版本的安裝包。安裝完成后在 CMake 里通過 find_package 找到 Qt 組件。下面是一個 CMakeLists.txt 的最小配置示例# 文件路徑CMakeLists.txt cmake_minimum_required(VERSION 3.10) project(QtReactorDemo VERSION 1.0) set(CMAKE_CXX_STANDARD 17) set(CMAKE_CXX_STANDARD_REQUIRED ON) set(CMAKE_AUTOMOC ON) set(CMAKE_AUTORCC ON) set(CMAKE_AUTOUIC ON) find_package(Qt5 COMPONENTS Core Network Widgets REQUIRED) add_executable(QtReactorDemo main.cpp ReactorServer.h ReactorServer.cpp ThreadPool.h ) target_link_libraries(QtReactorDemo Qt5::Core Qt5::Network Qt5::Widgets )Linux 下編譯這個工程之前請確認內核版本支持 epoll2.6 之前的內核不支持現(xiàn)在絕大多數(shù)發(fā)行版都沒問題。如果使用虛擬機要注意網絡設備模式對 socket 行為的影響最好先使用回環(huán)地址 127.0.0.1 測試。6. 核心流程拆解如何把 epoll 和線程池裝進 Qt 工程從架構層面看集成方案分成四步。第一步規(guī)劃線程邊界。我們至少要設計兩個線程域主線程運行 QApplication/QCoreApplication負責 UI 或業(yè)務邏輯接收線程池回傳的結果。Reactor 線程獨立創(chuàng)建運行 epoll 事件循環(huán)不直接做耗時任務。如果業(yè)務負載很重可以在 Reactor 線程中再拆分一部分線程處理 accept、read、write另一部分線程池處理計算任務。但最小示例只需要一個 Reactor 線程加一個線程池。第二步創(chuàng)建 Reactor 線程。在 Qt 中最簡單的方式不是繼承 QThread而是使用 std::thread 啟動一個函數(shù)讓函數(shù)內部運行 epoll 循環(huán)。QThread 在這里并不是必需的因為 epoll 循環(huán)完全不用 Qt 事件循環(huán)。用 std::thread 可以減少和 Qt 線程模型的耦合。第三步管理 socket 生命周期。所有被 epoll 監(jiān)聽的 fd 需要維護在 Reactor 線程內部的數(shù)據結構中。注意不要在多個線程中同時操作同一個 fd 的 epoll_ctl 調用否則可能出現(xiàn)難以排查的競態(tài)問題。第四步與主線程通信。當 Reactor 線程處理完網絡 I/O需要通知主線程時可以使用 Qt 的信號槽也可以使用自定義的線程安全隊列。需要注意的是從非 Qt 線程發(fā)送信號時必須使用 Qt::QueuedConnection或者通過 QMetaObject::invokeMethod 來安全地調用主線程對象的方法。下面用簡單的文字流程描述一次完整的事件處理客戶端連接到達監(jiān)聽 fd 變成可讀。epoll_wait 返回該事件。Reactor 線程調用 accept 接收新連接并把新連接的 fd 加入 epoll 監(jiān)聽列表??蛻舳税l(fā)送業(yè)務數(shù)據。新連接 fd 變?yōu)榭勺xepoll_wait 再次返回。Reactor 線程讀取數(shù)據解析出業(yè)務請求。Reactor 線程把數(shù)據包封裝成一個任務提交給線程池。線程池空閑線程取出任務執(zhí)行得到響應內容。Reactor 線程通過線程安全隊列或信號拿到響應把它寫回客戶端 fd。整個鏈路中第 6 步到第 8 步之間Reactor 線程沒有執(zhí)行任何耗時操作這是系統(tǒng)保持高性能的關鍵。7. 完整示例ReactorServer 實現(xiàn)下面給出一個可以在 Linux 上編譯運行的完整示例。它會在本機 8080 端口建立 TCP 服務用 epoll 監(jiān)聽事件收到客戶端請求后把處理邏輯丟給線程池完成后返回一條帶線程 ID 的響應。為了在 Qt 工程中演示跨線程回傳這里選擇簡潔的回調 原子計數(shù)方式避免引入過多 Qt 信號槽代碼。實際項目中你可以將回調替換為跨線程信號但思想完全一致。7.1 ThreadPool 頭文件// 文件路徑ThreadPool.h #pragma once #include atomic #include condition_variable #include functional #include mutex #include queue #include thread #include vector class ThreadPool { public: explicit ThreadPool(size_t threadCount) : stop_(false) { for (size_t i 0; i threadCount; i) { workers_.emplace_back([this] { while (true) { std::functionvoid() task; { std::unique_lockstd::mutex lock(queueMutex_); condition_.wait(lock, [this] { return stop_ || !tasks_.empty(); }); if (stop_ tasks_.empty()) { return; } task std::move(tasks_.front()); tasks_.pop(); } task(); } }); } } ~ThreadPool() { { std::unique_lockstd::mutex lock(queueMutex_); stop_ true; } condition_.notify_all(); for (auto worker : workers_) { worker.join(); } } template typename Func void enqueue(Func func) { { std::unique_lockstd::mutex lock(queueMutex_); if (stop_) { return; } tasks_.emplace(std::forwardFunc(func)); } condition_.notify_one(); } private: std::vectorstd::thread workers_; std::queuestd::functionvoid() tasks_; std::mutex queueMutex_; std::condition_variable condition_; std::atomicbool stop_; };7.2 ReactorServer 頭文件// 文件路徑ReactorServer.h #pragma once #include atomic #include functional #include mutex #include thread #include unordered_map #include ThreadPool.h class ReactorServer { public: using OnClientMessage std::functionvoid(const std::string ); ReactorServer(int port, size_t threadCount 4); ~ReactorServer(); void start(); void stop(); void setMessageHandler(OnClientMessage handler); private: void eventLoop(); void handleAccept(int listenFd, int epollFd); void handleRead(int clientFd, int epollFd); int listenFd_ -1; int epollFd_ -1; int port_ 0; std::atomicbool running_{false}; std::thread reactorThread_; ThreadPool pool_; OnClientMessage handler_; };7.3 ReactorServer 實現(xiàn)文件// 文件路徑ReactorServer.cpp #include ReactorServer.h #include arpa/inet.h #include errno.h #include fcntl.h #include netinet/in.h #include string.h #include sys/epoll.h #include sys/socket.h #include unistd.h #include iostream ReactorServer::ReactorServer(int port, size_t threadCount) : port_(port), pool_(threadCount) {} ReactorServer::~ReactorServer() { stop(); } void ReactorServer::setMessageHandler(OnClientMessage handler) { handler_ std::move(handler); } void ReactorServer::start() { if (running_) { return; } // 1. 創(chuàng)建監(jiān)聽 socket listenFd_ ::socket(AF_INET, SOCK_STREAM | SOCK_NONBLOCK, 0); if (listenFd_ 0) { std::cerr socket create failed: strerror(errno) std::endl; return; } int opt 1; setsockopt(listenFd_, SOL_SOCKET, SO_REUSEADDR, opt, sizeof(opt)); sockaddr_in addr; memset(addr, 0, sizeof(addr)); addr.sin_family AF_INET; addr.sin_addr.s_addr htonl(INADDR_ANY); addr.sin_port htons(port_); if (::bind(listenFd_, reinterpret_castsockaddr *(addr), sizeof(addr)) 0) { std::cerr bind failed: strerror(errno) std::endl; ::close(listenFd_); listenFd_ -1; return; } if (::listen(listenFd_, 128) 0) { std::cerr listen failed: strerror(errno) std::endl; ::close(listenFd_); listenFd_ -1; return; } // 2. 創(chuàng)建 epoll 實例 epollFd_ ::epoll_create1(0); if (epollFd_ 0) { std::cerr epoll_create1 failed: strerror(errno) std::endl; ::close(listenFd_); listenFd_ -1; return; } epoll_event ev; memset(ev, 0, sizeof(ev)); ev.events EPOLLIN; ev.data.fd listenFd_; if (::epoll_ctl(epollFd_, EPOLL_CTL_ADD, listenFd_, ev) 0) { std::cerr epoll_ctl add listen fd failed std::endl; ::close(epollFd_); ::close(listenFd_); listenFd_ -1; return; } running_ true; reactorThread_ std::thread([this] { eventLoop(); }); std::cout Reactor server started on port port_ std::endl; } void ReactorServer::stop() { if (!running_) { return; } running_ false; // 通過關閉監(jiān)聽 fd 和 epoll fd 觸發(fā) eventLoop 返回 if (listenFd_ 0) { ::close(listenFd_); listenFd_ -1; } if (epollFd_ 0) { ::close(epollFd_); epollFd_ -1; } if (reactorThread_.joinable()) { reactorThread_.join(); } } void ReactorServer::eventLoop() { constexpr int MAX_EVENTS 64; epoll_event events[MAX_EVENTS]; while (running_) { // 超時設為 100ms可以定期檢查 running_ 狀態(tài) int n ::epoll_wait(epollFd_, events, MAX_EVENTS, 100); if (n 0) { if (errno EINTR) { continue; } std::cerr epoll_wait error: strerror(errno) std::endl; break; } for (int i 0; i n; i) { int fd events[i].data.fd; uint32_t eventMask events[i].events; if (fd listenFd_) { handleAccept(fd, epollFd_); } else { if (eventMask (EPOLLERR | EPOLLHUP)) { ::close(fd); continue; } if (eventMask EPOLLIN) { handleRead(fd, epollFd_); } } } } std::cout Reactor event loop exited std::endl; } void ReactorServer::handleAccept(int listenFd, int epollFd) { while (true) { sockaddr_in clientAddr; socklen_t clientLen sizeof(clientAddr); int clientFd ::accept4(listenFd, reinterpret_castsockaddr *(clientAddr), clientLen, SOCK_NONBLOCK); if (clientFd 0) { if (errno EAGAIN || errno EWOULDBLOCK) { break; } if (errno EINTR) { continue; } std::cerr accept error: strerror(errno) std::endl; break; } char ip[INET_ADDRSTRLEN] {0}; inet_ntop(AF_INET, clientAddr.sin_addr, ip, sizeof(ip)); std::cout New connection from ip : ntohs(clientAddr.sin_port) std::endl; epoll_event ev; memset(ev, 0, sizeof(ev)); ev.events EPOLLIN | EPOLLET; // 邊緣觸發(fā) ev.data.fd clientFd; if (::epoll_ctl(epollFd, EPOLL_CTL_ADD, clientFd, ev) 0) { std::cerr epoll_ctl add client fd failed std::endl; ::close(clientFd); } } } void ReactorServer::handleRead(int clientFd, int epollFd) { char buffer[4096]; std::string request; // ET 模式需要循環(huán)讀取直到 EAGAIN while (true) { ssize_t n ::read(clientFd, buffer, sizeof(buffer)); if (n 0) { request.append(buffer, n); } else if (n 0) { // 對方關閉 ::epoll_ctl(epollFd, EPOLL_CTL_DEL, clientFd, nullptr); ::close(clientFd); std::cout Client closed: clientFd std::endl; return; } else { if (errno EAGAIN || errno EWOULDBLOCK) { break; } if (errno EINTR) { continue; } ::epoll_ctl(epollFd, EPOLL_CTL_DEL, clientFd, nullptr); ::close(clientFd); return; } } if (request.empty()) { return; } std::cout Received request.size() bytes from fd clientFd std::endl; // 把響應計算丟給線程池避免阻塞事件循環(huán) int targetFd clientFd; std::string payload request; pool_.enqueue([this, targetFd, payload]() { // 獲取線程 ID方便演示 auto tid std::this_thread::get_id(); std::string response echo[ payload ] handled by thread std::to_string(reinterpret_castunsigned long long(tid) % 1000); // 響應寫回。此處簡單用 ::send生產環(huán)境需考慮寫緩沖和非阻塞寫法 ::send(targetFd, response.data(), response.size(), 0); }); }7.4 main.cpp// 文件路徑main.cpp #include ReactorServer.h #include QCoreApplication #include QTimer #include csignal #include iostream static std::atomicbool g_stopFlag{false}; int main(int argc, char *argv[]) { QCoreApplication app(argc, argv); int port 8080; if (argc 1) { port std::atoi(argv[1]); } ReactorServer server(port, 4); server.setMessageHandler([](const std::string msg) { std::cout [handler] msg std::endl; }); server.start(); // 用 QTimer 周期性檢查運行狀態(tài)方便安全退出 QTimer timer; QObject::connect(timer, QTimer::timeout, []() { if (g_stopFlag) { server.stop(); app.quit(); } }); timer.start(500); std::cout Qt Reactor demo running. Press CtrlC to stop. std::endl; return app.exec(); }代碼中有幾個要點需要解釋。第一為什么使用 accept4可以直接在接受連接時設置為非阻塞避免額外調用 fcntl減少一次系統(tǒng)調用。第二ET 模式下循環(huán)讀取的意義。邊緣觸發(fā)只通知一次如果不在一次通知里把所有數(shù)據讀完剩余數(shù)據不會再觸發(fā)可讀事件。因此代碼在 handleRead 里用了 while 循環(huán)一直讀到 EAGAIN 為止。這里即使業(yè)務上是短請求也建議養(yǎng)成循環(huán)讀取的習慣。第三線程池里直接調用 ::send 寫回響應。嚴格說這不是最佳做法因為 send 在緩沖區(qū)滿時可能阻塞線程池線程。但作為最小演示它會讓你更直觀地看到“I/O 事件循環(huán)不阻塞、任務在池中執(zhí)行”的效果。生產環(huán)境中更穩(wěn)妥的做法是把響應發(fā)送也放入一套非阻塞發(fā)送隊列。第四stop 的優(yōu)雅退出策略。這里通過關閉 epollFd 讓 epoll_wait 返回錯誤從而退出循環(huán)。更優(yōu)雅的方案是創(chuàng)建一個 eventfd 或管道在 stop 時寫入數(shù)據喚醒事件循環(huán)。如果你的工程需要長時間運行建議把事件循環(huán)的喚醒改成 eventfd 方式。7.5 編譯與運行在 Linux 終端中執(zhí)行以下命令mkdir build cd build cmake .. make -j$(nproc) ./QtReactorDemo如果編譯過程中遇到找不到 Qt5 組件的問題請檢查 CMAKE_PREFIX_PATH 是否指向 Qt 安裝目錄。例如cmake .. -DCMAKE_PREFIX_PATH/opt/Qt/5.15.2/gcc_64運行后你可以打開另一個終端用 nc 命令測試echo hello reactor | nc 127.0.0.1 8080預期輸出中會包含以下關鍵信息Reactor server started on port 8080 New connection from 127.0.0.1:xxxxx Received 13 bytes from fd8 echo[hello reactor ] handled by thread 123注意nc 發(fā)送的字符串可能包含換行符所以 echo 后的內容會多出一個換行這是正常的。關鍵在于接收、線程池處理、響應寫回三個環(huán)節(jié)都能正常工作。如果運行時報錯第一步可以這樣排查查看端口是否被占用使用netstat -tlnp | grep 8080或ss -tlnp。如果被占用換一個端口。確認防火墻沒有屏蔽本機回環(huán)默認 127.0.0.1 不會受防火墻影響但如果你用遠程 IP 測試請確認安全組規(guī)則。觀察控制臺是否打印了Reactor server started。如果沒有檢查 bind 和 listen 的錯誤信息。8. 常見問題與排查思路在實際集成過程中下面幾個問題出現(xiàn)的頻率非常高這里整理成排查表。問題現(xiàn)象可能原因排查方式解決方案epoll_wait 被信號打斷返回 -1EINTR查看 errno是否等于 EINTR在循環(huán)中捕獲 EINTR 并 continue客戶端連接建立后服務端收不到數(shù)據連接 fd 被阻塞或 ET 模式沒有循環(huán)讀檢查 accept4 是否設置了 SOCK_NONBLOCK檢查 handleRead 是否為循環(huán)讀取統(tǒng)一使用非阻塞 fd讀到 EAGAIN 才退出QCoreApplication 一退出Reactro 線程崩潰析構順序問題Reactro 線程還在使用已銷毀的 epoll fd 或 Qt 對象gdb 查看崩潰堆棧在 app.quit 前先 stop server提供 stop 接口先停 Reactor 線程再退出 Qt 事件循環(huán)線程池任務執(zhí)行耗時過長全部線程卡住線程池線程數(shù)太少或任務自身發(fā)生死鎖打印線程池任務隊列長度和線程狀態(tài)為線程池增加任務隊列長度告警重新評估線程數(shù)和任務拆分方式響應順序和請求順序不一致多線程并發(fā)執(zhí)行任務日志記錄請求序號和響應序號如果業(yè)務強依賴順序對同一連接做串行化處理send 返回 EAGAIN 導致數(shù)據丟失寫緩沖區(qū)滿非阻塞 socket 需要排隊發(fā)送不做處理會丟包引入寫緩沖隊列在 EPOLLOUT 事件中繼續(xù)發(fā)送程序中同時處理 Qt 信號和 epoll 事件時偶發(fā)崩潰跨線程訪問同一個 socket fd 或 Qt 對象檢查日志中是否在非 Qt 線程操作 UI定義清晰的線程模型禁止跨線程直接訪問未經同步的對象這些問題的共同根源往往是“線程模型沒有理清”。寫這種網絡服務代碼時不要把 epoll fd、連接 fd、線程池狀態(tài)看得太簡單。每發(fā)生一次崩潰先問自己這個變量被哪些線程訪問了是否有鎖保護生命周期是否清晰9. 在 Qt 工程中落地的工程建議這部分是對真實生產環(huán)境的經驗總結不是概念堆砌。9.1 線程模型先于代碼設計在動手寫代碼之前先畫出線程邊界圖。你的工程里至少要有這些角色主線程Qt 事件循環(huán)管理 UI 和業(yè)務入口I/O 線程運行 epoll 事件循環(huán)建議只做事件分發(fā)和少量輕邏輯工作線程池執(zhí)行耗時任務如果業(yè)務量繼續(xù)擴大可以把 I/O 線程擴展成多個按連接哈希分配到不同 I/O 線程。但首要原則是一個 fd 同一時間只能在一個線程中處理通過 epoll 監(jiān)聽關系決定歸屬。遷移 fd 時要小心競態(tài)。9.2 信號槽跨線程必須謹慎Qt 的信號槽默認在發(fā)送者線程執(zhí)行除非連接方式為 Qt::QueuedConnection。當你在非 Qt 線程需要通知主線程時推薦使用 QMetaObject::invokeMethod 指定 QueuedConnection或者直接調用 signal 時設置連接類型。千萬不要假設“只在 Qt 對象里加鎖就安全”Qt 對象的事件循環(huán)與鎖機制是兩回事。9.3 網絡數(shù)據包處理需要分幀上面示例中直接按 read 到的字節(jié)作為請求。真實項目中TCP 是字節(jié)流沒有天然消息邊界。你需要自定義協(xié)議頭比如“4 字節(jié)長度 消息體”并在讀取時進行粘包和半包處理。這是網絡編程最基本也最重要的基本功。9.4 使用 eventfd 喚醒事件循環(huán)如果你需要優(yōu)雅退出強烈建議注冊一個 eventfd 到 epoll 監(jiān)聽列表。stop 時向 eventfd 寫入數(shù)據事件循環(huán)會正常退出而不是依賴關閉 epollFd 這種“準暴力”方式。這樣能保證正在處理的事件被正確回收。9.5 線程池的異常吞掉問題線程池執(zhí)行函數(shù)一旦拋出未捕獲異常std::thread 會默認調用 std::terminate整個程序會崩潰。在線程池的任務四周包一層 try-catch 是必要防御?;蛘咧辽賹惓2东@后傳入日志系統(tǒng)。pool_.enqueue([this, targetFd, payload]() { try { // 業(yè)務邏輯 } catch (const std::exception e) { std::cerr task error: e.what() std::endl; } catch (...) { std::cerr task unknown error std::endl; } });9.6 性能監(jiān)控與壓測不要以為實現(xiàn)了模型就萬事大吉。發(fā)布前必須用工具驗證。最簡單的方式是使用abApacheBench或wrk做 HTTP 壓測對于原生 TCP 協(xié)議可以寫一個壓測客戶端模擬多個并發(fā)連接。重點觀察QPS 或每秒請求數(shù)。事件循環(huán)線程的 CPU 占用率。如果它接近 100%說明事件分發(fā)層有瓶頸。線程池任務隊列積壓量。如果持續(xù)增長說明線程池容量不足。響應延遲的 P99。不要只看平均延遲。9.7 如何用 Qt 組件輔助調試Qt 的 QLoggingCategory 非常適合做分類日志。你在 ReactorServer 中可以按模塊區(qū)分日志方便線上排查Q_LOGGING_CATEGORY(lcReactor, app.reactor) Q_LOGGING_CATEGORY(lcPool, app.pool)這樣在 main.cpp 中通過設置環(huán)境變量即可打開指定模塊日志QT_LOGGING_RULESapp.reactor.debugtrue;app.pool.debugtrue ./QtReactorDemo這個技巧在大型 Qt 工程中非常實用它讓你不需要改代碼就能靈活控制日志粒度。10. 何時你并不需要這套架構最后說點實際的。Reactor epoll 線程池不是萬能的也不是所有項目都需要它。如果你的 Qt 程序只是一個客戶端工具偶爾連接幾個服務器那么直接用 QTcpSocket 和 QThreadPool 就足夠了。QSocketNotifier 已經幫你處理了底層事件再用原生 epoll 屬于重復造輪子。如果你的項目是服務端但并發(fā)連接數(shù)長期只有幾百epoll 帶來的提升也不如代碼可維護性重要。使用 Qt 的 QTcpServer 線程池開發(fā)效率更高跨平臺性更好。需要引入這套架構的典型場景是長連接數(shù)量大比如物聯(lián)網設備接入網關。每個連接空閑時間遠大于活躍時間心跳?;蠲芗?。需要在單機上支撐上萬個 socket 連接。業(yè)務方明確要求自研網絡層以便精確控制收發(fā)緩沖區(qū)和背壓。從個人技術成長角度理解這套模型的價值不取決于你是否立刻用它。它幫助你看懂很多開源項目比如 Muduo、Boost.Asio、Netty 的設計思路。當你看代碼時不再只看到一堆類而是能看到“事件循環(huán)在哪里、哪個線程在跑、任務如何被轉移”你的 C 后端水平就會真正上一個臺階。下一步建議你親自做一個練習把這個最小示例改成不使用 Qt 組件的純 C 版本并加入 HTTP 解析能力。之后再嘗試把監(jiān)聽 accept、讀事件、寫事件分別拆成三個 handler模擬 Muduo 的 架構風格。這個過程比看十篇文章都有用。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
亚洲成人一区二区精品| 97鸡把在线视频| 久久精品午夜国产亚洲AV无码| 久热9| 吉川爱美98堂在线| 国内一级精品| 九九热精品| 日韩视频小说在线观看| 国内精品久久人妻性色av| 欧美激情色婷婷花野真衣一区二区| 精品久久久av| 欧洲精品二区| 人妻久热在线| 97在线观看播放视频| 国产99热| 色99视频| 在线观看国产黄色| WWW.加勒比人妻一区不卡.com| 色综合天天| 国产毛片久久久久久久| 日韩内射视频| 性无码专区2020| 超碰激情808| 精品国产乱码久久久久久蜜臀| 亚洲高清视频在线免费观看| 亚洲四虎熟女精品| 天堂国产AV| 丝袜综合色图| 精品十八在线观看| 日本性爱网址| 男人的天堂日韩| 国产原创剧情在线丝袜| 操操逼视频| 日韩三级网址| 啊啊啊啊好多水| 少妇人妻无码| 日韩欧美一级特黄大片| 日本精品一级二级三级| 97超碰人操| 欧美性爱18观看| 欧美九九爱| 蜜乳AV.COM| 综合自拍| 亚欧美综合网。| 密臀在线免费观看| 日韩激情无码影院| 黑丝少妇| 91人妻精华帖| 久久曰曰| 狠狠操夜夜| 公司1区2区3区精产精| 96AV久久久| 69精品久久久久中文字幕| www.91人妻.com| 久久综合女优| 无码137片内射在线影院| 白天啪啪晚上啪啪视频| 天美欧美国产| 欧美 综合 亚洲| 久久久久大香青草精品综合| 亚洲av性爱电影| 亚洲欧美日韩精品久| av日韩手机在线影视| 大香蕉人妻久久| 超碰这里有精品| av在线人气| 久久久国产三级黄色片| 天天做天天爱天天高潮| 五月天婷婷欧美三区| 午夜人妻精品综合在线| 天天插天天射| 超碰在线成人电影| 亚洲有码视频二区| 色婷婷成人综合| 97蜜桃综合| 69久久久久久久久久久久久| 亚洲日韩国产欧美综合v| 大干人妻| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 人妻日日夜夜精品| J?P?NESEHD熟女熟妇伦| 97人人干| 伊人亚洲综合| 国产尹人在线视频免费| 天天α片| 日韩在线观看中文字幕视频| 黑人干亚洲| 视频分类 国内精品| 欧美日韩丝袜| 日韩欧美被操黄免费观看| 国产A v无码专区| 女优大全 - 91n| 日韩九九九| 亚洲激情视频| 国产精品久久久| 噜噜噜亚洲精| 日本丝袜美腿人妻九九| 91精品无码人妻系列| 久无码| 夜夜 中文视频rt| 日本成人电影资源网| 9久久精品| 永久免费观看的毛片的网站| 国产剧情一区在线观看| 超碰97资源网亚洲| 欧美少妇性乱| 97色冈| 色玖玖| 亚洲 日韩 丝袜 熟女 变态| 你懂的在线观看区国产 | 日韩精品作爱导航| 成人在线视频一区| 九X超碰| 红杏大香蕉| 日韩欧美亚欧在线视频| 国产乱伦性爱区| 91亚洲欧美| 99re黄| 国产女人9999| 欧美日韩人妻少妇 一区二区三区| 爱爱久久| 久久婷婷欧美| 色悠久久久av| 亚洲黄色AV电影| 国内精品伊人久久久久影院会| 亚洲一二三| 久操免费在线| 婷婷九月| 国产精品欧美在线观看| 久久久精品中文字幕爱豆| 国产黄片精品在线| 人妻中文字幕日韩电影| 97天堂| 天天干美少妇一区| 两性色网| 美国一区二区免费视频| 国产精品99久久久www| 91 刺激在线| 午夜久久久| 日韩一级欧美一级国产一级台湾| 啊啊啊啊啊啊啊网址在线观看| 亚洲中文字幕在线视频一区二区| 亚洲国产一级黄色视频| 欧美丝袜制服久久| 激情看片网站| 国产av高清版| 麻豆 亚洲 97| 亚洲在线91| 国产 日韩,欧美 自拍| 精品无码久久久久久久杏吧| 激情综合网五月婷婷五月天| 人妻精品视频一区二区三区 | 国产精品麻豆免费视频| 欧美性生活免费网| 亚洲综合五月天| 欧美夜夜狠| 热久久九九热| 97ai亚洲| 成人一级性爱| 99热超碰在线| 思思热er精品视频| 国产91丝袜 在线播放| 台湾大香蕉99热| 看日韩操逼| 香港久久久| 免费的黄片wwwwww| 欧美91精彩| 中文字幕在线第二页| 欧美日韩电影成人在线| 99rre在线精品99re8| 精品乱码在线观看| 风骚少妇视频中文字幕| 日本熟妇人妻一区二区三区| 亚洲AV成人精品网站在AV| 欧美曰韩国产精品| 精久久久91| 女人午夜视频777| 2019午夜福利视频| 不卡视频一区蜜桃视频| 国产成人 综合亚洲 天堂| 日本一区二区中文字幕久久| 欧在线一二区| 秋霞 色色| 一牛影视成人片免费| 亚州少妇| 久久精品无码熟妇一区二区三区视频导航 | 亚洲囯产精品女人久久久| 亚洲av乱伦色图网站| 天美麻豆精品视频99| 风骚少妇视频中文字幕| 国产高清26uuu| 情侣开房子拍 日韩无码 女的很漂亮| 天天综合网久久ww| 欧色综合| 亚洲欧洲精品视频发布| 日韩午夜精品一区二区三区电影| 91 亚洲 欧美 日韩 国产 综合| 日韩猛交| av无码av无码专区| 亚洲AV人人澡人人爱| 91天堂色男人的天堂| 国产AAAAAABBBBB| 熟女人妇一区二区三区| 人、人、摸,人、人、草| 嗯啊不要啊啊在线观看视频| 97资源超碰| 精品国产肉丝袜在线拍国语| 日韩操p| 日本不卡中文| 亚洲欧美国产中文视频| 91青视频| 青娱乐淫乱1314| 欧美性爱五月天| 欧美激色| 激情五月天丁香社区| 大乔未久88一区| 中日韩免费看男女操逼大全| 天美国产精品| 国产日韩无码一区二区三区久久区| 78精品| 超碰97COm中文| 国产色呦呦| 欧美,亚洲,日韩,v,天堂,手机在线观看 | 翔田千里AV无码秘 三区| 婷婷丁香成人| 青青草原狼av| 欧美日韩不卡传媒| 一区二区影院| 欧美嗯啊……在线观看视频免费| 欧美性色网| AV天堂国产| 视频国产欧美在线播放| 97超碰色色| 亚洲中文字幕乱码无码一区二区| 特级丰满少妇一级AAAA爱毛片| 丁香九月 婷婷| 国产1769在线| 午夜噜噜噜| 丁香六月激情| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 中文字幕免费看| 久久九九久精品国产尤物|国产精品爽黄69天堂A片潘金莲,国产亚洲精品第一综合 | 九九九九精品一区| 东亚亚洲无码高清| 国产免费一区2区3区| 人人爽天天爽| 亚洲蜜乳av| 亚洲日本大香蕉1| 成人网址在线观看| 99精品丰满人妻无码| 伊人婷婷五月天| 超碰97久久| 97超碰亚洲| 超碰在线成人| 校园激情狠狠四射| 日韩丰满熟妇| 夜夜做夜夜爽精品视频| 开心五月深爱五月| 78m成人视线| 亚洲av国产av综合av卡| 日本东京热久久久电影| 亚洲无码电影久久久| 欧美专区日本专区| 国产免费久久精品99re韩国| 黄色网址在线免费观看| 色吧5亚洲| 国产亚州精品美女久久久免费| 国产路线专区| 亚洲国产欧美日韩人妻日中文| 人人妻人人澡人人爽人人精品浪潮| 有码免费观看| 国产人妻精品一区二区三区秋霞 | 澳门特级毛片免费观看| 97视频在线播放| 黑人中出21连凳花野真衣| AV和黑人在线播放| 91老女人| 97欧美综合网| 四虎免费视频| 色九九九综合| 亚洲伊人久久精品狠狠在线| 99国内精品| 草草影院最新网址| 亚洲无码太久| 久久在线观看免费视频| 成人精品在线免费视频| 国产成人五月天丁香花| 亚洲精品丝袜-不卡成人免费……| 国产成人精品无码久久| 久久久国产av美女私房| 亚洲伊人久久综合97| 97操综合| 欧美少妇性乱| 色哟哟综合| 伊人青青一区成人视频在线观看区 | 99热啪啪| 亚洲综合 欧美| 99re99| 日本五区不卡| 97欧美色资源| 97丝袜亚洲在线播放| 国产成人在线观看综合| 亚洲一区二区精品福利| 国内精品a| 5252色欧美在线男人的天堂| 国产一区二区a毛片| 精品无码秘 人妻一区二区| 啊啊啊啊嗯嗯在线久久久| 超碰97导航| 久久久久久裸体| 午夜精品人妻二区三区| 职场同事知名国产国产精品久久欧美日韩 | 免费岛国一级片| 老熟女综合| 97色综合中文网| 综合自拍| 啊啊啊操死我| 大香蕉中文201| 国产视频小说| 亚洲性高潮| 哈哈操电影| 色综合天天爱去电影网| 一起草日韩| 午夜福利一区二区影院| 欧美在线永久天堂| 久久久91| 性欧美999| 久久本道| 色婷婷aV一区二区三区麻豆综合| ?亚洲伊人伊成久久人综合网| 欧美色91| 亚拍在线| 青草精品视频日本久久久久网站在线| 91狠狠综合久久久久久| 色五月激情网| 国产少妇与亚洲av| 色爱综合网欧美| 久久久久久99999国产精品| 99超碰网| 91亚洲色图| 懂色av色欲av蜜臀av| 超碰天天操| 91大胆欧美| 混色激情av| 久久久∴| 久9久9久9久9久9久9| 亚洲天在线| 国产精品久久久吖| 国产亚洲精品第一最新| 国产a级午夜毛片| 校园春色 男人天堂 | 天天干夜夜鈤| 欧美一级A一级a爱片久久| 2018天天干在线视频| 亚欧国产无码精品在线| 青青色综合| 天天澡天天爽日日av| 国产嫩草精品A88AV| 又大又大又大又粗爽高潮观看| 天天干人人干天天日97| 精品国产一区二区三区久久久蜜臀 | 人妻喷水| 欧美经典一区二区三区| 色鬼在线综合| 蜜桃臀久久| 成 人片 黄色大片| 操逼日批| 中日韩久久久| 国产精品一区二区三| 国产精品久久久久久久电影渣男| 亚洲AV小说| 久久久免费一级黄片| 91网站18在线观看| 欧美影音在线| 欧美色999| 99后入| 亚洲精品亚洲人成人网| 国产精品。| 五十路成人在线视频二区三区| 欧美日韩一二三| 欧美性爱1080p| 99激情视频| 国产亚洲色婷婷99精品91| 亚洲骚男同com| 狠狠91| 人妻少妇色综合| 亚洲在钱| 粉嫩绯色AV一区二区在线| 吉川爱美98堂在线| 我要色综合网| 亚洲色图欧美视频| 熟女高潮合集-永久久久-成人AV| 人人干黄色| 99免费在线视频| 欧美,日韩,中文,另类| 欧美一级久久久丰满| 国产少妇高潮| 91在线精品一区二区三区| 玖玖97综合 | 91精产一区二区三区| 激情五月天中文字幕色| 欧美一级欧美三级在线观看| 欧美色道啊| 天天综合网~91| www.久久99| TS人妖另类精品视频系列| 四方色播| 91超级碰| 97色欧洲| 91精品国产91久久青草| 18禁久极品美女久久哦哟呀!| 亚洲日韩视频二区| 97在线欧洲| 国产视频第二页| 9久久久久久| 国产伦乱91| 黑人中出21连凳花野真衣| 综合伊人网12色| 91校园春色长篇| 久9久精品视频| 黄片色区软件| 毛片99-全集电影手机免费观看完整-B029AV| 欧美日韩一区二区三区四区蜜桃| 中文字幕第95页| 国产女人和拘做爰视频 | 亚洲制服欧美另类内射| 涩亚洲欧洲| 在线人人人人人人精品超| 久久中文字幕人妻熟av女蜜柚| 老熟妇一区二区三区…| 久草男人天堂| 亚洲一本色道中文无码aV天美| 麻豆a'v电影| 亚洲无吗在线视频| 欧美亚洲国产日本在线,久久精品国产| 青青青草伊人精品| 天天日熟妇| 91美女在线观看| 九九久久国产精品| 中文区中文字幕免费看| 丝袜美腿校园春色| 亚洲高清无码AAA久久久精品| 日本三级网页| 秋霞男人网| 狠狠色噜噜狠狠狠狠狠色综合久久 | 欧美高清18A片| 好湿好紧视频| 翔田千里爆乳巨臀无码| 做爱A级亚欧| 欧美手机在线综合| 国产久久久9999| 久久久免费一级黄片| 精品免费囯产一区二区三区 | 亚洲欧美日韩制服另类| 超碰98综合网| 91neishe| 自慰白浆在线观看| 成人av在线播放| 女人妻一区| 大香蕉伊人亚洲| 高清国产精品福利网站| 人人搡人人肉久久精品| 91精品国久久久久久无码| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 天天躁日日躁狠狠躁| 狠狠91| 亚洲无套久久嗯嗯| 二区熟妇韩日| 精品少妇一区二区三区在线视频| 亚洲字幕一区二区| 大黄片做爱的大的| 岛国片国产成人亚洲播放| 翔田千里无码中出中文字幕| 国产精品网址| 思思热在线视频精品| 91亚洲狠狠色| 国产超碰欧美| 97aiaiai| 猛猛干| 亚洲天天操| 中文字幕-区二区三区四区视频中国| 国产极品美女高潮无套在线观看| 国产一区自拍欧美日韩 | 无码逼| 亚洲男人综合| 亚欧成人一级片在线播放| 一区二区三区一亚洲中文字幕、综合区灬| 日日夜夜摸| 九久9精品| 国产Av超碰| 精品人妻美妇91job| 精品 码产区一区二-1080P高清在线www-B029AV| 天天搞在线综合网| 午夜欧美J进J出白浆流出久久久 | 在线无码操| 日本三级日本三级99| 青娱乐久久艹| 亚州情色j区| 色97综合中文字幕| 97超碰中文在线| 婷婷中文网| 神马久久69| aaa亚无码专区| 巨爆乳肉感一区二区三区竹菊影视 | 亚洲情色电影网| 啊啊在线| 91超级碰| 蜜臀在线网站| 欧美日韩岛国大片在线观看| 中文字幕诱惑制服人妻丝袜美丝袜美| 国产精品片| 激情接吻视频久久久久久| 中文字幕一区二区三区人妻少妇在线| 一二区在线观看视频| 欧美一级黄片视频在线| 后入内射蜜桃臀| 新亚洲无码| 九九久久国产精品| 日韩激情毛片一级久久久| 九九夜精品九九在线| 久久激情婷婷| 九一综合精品视品av| 粉嫩av平台| 91欧美成人色站| 午夜超碰| 蜜桃久久一区二区三区| 91丝袜在线观看| 涩五月婷婷| 亚洲熟女乱综合一区二区在线-...亚洲国产日韩欧美一区二区三区,久久久久久精 | 亚洲日韩一区电影| 男人天堂欧美| 91麻豆天美传媒HD| www国产天美久久久| 超碰在线第一页| 久久婷婷热| 97超碰精品图片| 淫色网综合| 黄色电影在线播放综合网站| 欧美91网站| 国产剧情AV不卡在线观看| 国产女主播视频在线观看| 亚洲欧洲国产综合av| 狠狠躁日日躁夜夜躁A| 亚洲精品视频在线| 九九操久久国产免费视频| 婷婷色一区| 成人精品久久久午夜福利| 韩日巨乳美女免费视频在线观看| 日韩欧美午夜一区二区| 精品视频一二三中文| 欧美强奸一区二区诱惑| 97超碰色中文字幕| 日本午夜操逼| 性爱AV天堂| 国产高清无码一区二区三区四区皇冠| 亚洲成人ab| 日日日大屁股骚女人精品| 国产精品麻豆免费视频| 欧美色综合网| 刺激精品视频| 日韩欧洲操屄视频| 久肏视频字幕| 最近2018中文字幕在线高清第一页| 日日做夜狠狠爱欧美黑人| 啊啊啊com| 国产精品视频白浆免费| 亚洲国产成人精品999| 丰满人妻一区二区三区免费| 人妻熟女一区二区| 亚洲淫色网中文| 人人爽天天爽| 天天干美少妇一区| 天天插天天插| 丁香久久| 亚洲欧美精品一区天堂久久 | 九九免费影片| 91精品无码人妻系列| 青娱乐欧美激情一区二区| 国产毛片片精品天天看视频| aV中文麻| 2017亚洲天堂| 青娱乐国产剧情av一区| 99亚洲国产精品色一区二区三区| 日韩成人私密一级精品av| 人人看人人插| 91精品女厕偷拍视频| xxx0国产在线播放| 国产成人亚洲精品无码最新在线| 国产亚洲福利第一页丝袜| 亚洲国产精品成人综合| www.99中文字幕| 国产日韩区| www.91理论| 毛片电影一区二区三区| 蜜臀久久99精品久久久久久久久| 精品福利| 一区二区播放| 91N综合网| 在线岛| 国产精品伦理| 加勒比海人人操超碰在线| 老熟女综合| 亚洲人体视频在线观看| 国产成人91一区二区三区| 精品国产91av一区二区三区| 污色区网站| 超碰97护士| 国产又黄又粗又猛大片| 色五天伊人| 国产精品色| 九色 人妻 大香蕉| 青青草色插素人| 欧美宗合网| 色色香蕉| 蜜桃臀 后入 一区 二区 三区 在线| 91欧美美女日韩国产婷婷| 九九九九九九免费视频| 国产一级舔足在线观看| 91精品黄在线观看| 国产白领连续中出在线播放| 日韩熟女精一区二区三区不卡| 日韩簧片免费看| 一级性爱aaaa| 精品视频久久区| 思思热在线视频免费| 欧美特大AA级黄片| 久操视频免费在线观看| 欧美手机在线综合| a级成人毛片免费视频高清| 日韩欧美视频青青| 熟女露脸激情自拍视频| 亚洲在线91| 国产超碰| 国产精品夜夜夜| 97超碰大| 久久久久成人网| 精品一区二区综合熟妇| 国内伊人久久久久久网站视频| 欧美日韩午夜精品一区二区三区| 久草免费在线一区二区| 超碰99热中文字幕| 91视频精品| 99热99re超碰精品| 人妻丝袜二区| 一区二区 韩日AV| 久草这里只有精品| 99色综合| 亚洲91在线| 91精品黄在线观看| 伊香蕉综合久久久久久久噜噜噜| 久久亚洲av成人无码国产| 亚洲 欧美 91| 日语五十路和六十路亚洲国产精品| 久草网站免费在线观看| 裸体1区| 丰满人妻被猛烈进入中| 台湾佬激情综合| 久久久久久久久久久久色网| 久久婷婷精品| 女人香蕉久久毛毛片精品| 日本九九九九| 天天操天天舔| 欧美黑人精品一区二区| 欧美日韩亚洲电影| 丁香婷婷九月| 超碰97久久| 亚洲一区二区三区久久 亚洲一区二区| 2020中文字幕在线观看| 大香蕉99热| 日本操逼视频在线| 亚州熟妇精品| 久7色| 国产av强奸美女| 91精品人妻一品二品三品| 久热大香蕉| 亚洲天堂男人天堂网| 国产精品天干天干综合网麻豆 | 国模不卡| 欧美伊人电影| 日本99一区二区| 麻豆2区1区天美| 日韩激情啪啪| 日韩Va亚洲va欧美Ⅴa久久| 久久久久99999| 蜜桃午夜视频一区二区 | 97视频网站在线观看| 无码免费一区二区三区啪啪| 天天舔九色婷婷| 久久久久婷婷精品av电影| 中文字幕精品免费一区二区| 久操高青| 国产成人精品日本视频| 精品国产乱码久久久影院| 欧美亚洲日本视频久久久| 精品丰满熟妇人妻一区| 91人妻超碰| 蜜桃精品一区二区三区久在线| 久久国内| 操b在线观看| 91老熟女老女人国产老太| 国模精品娜娜一二三区| yiqicaoav| yazhouzaixian| 男女91| 五月天激情网站| 免费av在线播放二区| 伊人视频| 久操九九九九九九九九九九九九九九九九九九九九九九九九九九九九 | 凹凸 69堂 在线播放| 亚州色站 日韩电影| 丁香色色网| 日本一区二区三区午夜观看| 老鸭窝日丰县女人| 黄片在线免费在线观看| 国产精品一区二区黄片| 搡老女人老熟女91老熟女综合网| 天天综合网入口~91| 91蜜臀在线久久久久| 九九综合| 婷婷色婷婷| 欧美性爱免费短视频| 亚洲精品一区二区日本| 99re视频这里只有精品| 天天综合中文字幕 91| 超碰碰激情97+久| 亚洲制服欧美另类内射| 囯戸精品高潮呻吟旡码| 国产美女口爆吞精视频| 欧美性爱免费短视频| 日韩免费福利在线观看| 国产成人手机视频激情| 日韩欧美午夜视频在线| 国产精品久久99日日| 久久久久亚洲熟妇熟女| 久久成年片色大黄全免费网站| 啊啊啊好多水| 国产精品直播在线观看直播| 搡老女人老妇女AAA一VU麻豆| 日美免费黄片| 天天爽爽爽爽| 神马久久久久久久久久| 亚洲九九爱| 欧美的精品的视频| 国产精品白领在线观看| 国产精品无码av| 强奸乱亚洲| 免费试看60秒| 精品一久久久| 一级免费精品| 人人操人人肉久久精品| 97爱亚洲| 欧美偷拍区| 国人欧美精品一区二区| 亚洲天堂区| 九九九久千久久激情蜜桃在线看 | 日韩人妻少妇 一区二区三区| 美女诱惑1区2区| 久久久久网站-538在线视频-欧美永久乱码 | 国产67194| 97欧美精品综合| 学生妹天天看| 懂色Av| 日韩激情毛片一级久久久| 国产精品久久久久久久久久梁医生| 国产精品免费视频人成| 青青草在线视频欧美| 天天综合青苹果| 强奸乱伦中文字幕AV| 偷拍欧美激情| 91精品国产91熟女| 操逼免费视频无码国产| 嗯嗯嗯嗯啊啊啊好紧好大| 欧美精品,四区。五区| 亚洲欧美色图小说| 91精品国产综合久久久蜜臀| 日韩有码中文字幕女同性恋| 午夜寂寞欧美| 天美传媒av一区二区| 亚洲精品白浆高清久久久久久 | 成人国产二区三区在线,男女精品。| 影音先锋乱伦资源| 欧美少妇大量自拍视频在线观看| 另类欧美色| 婷婷久久五月天| 怡红院成人视频| 丁香五月电影| 78精品| 99热超碰| 99re28在线观看| 欧美成人性爱视频大全| 91n免费处女| 夜夜天天噜狠狠爱2021| 日韩欧美天天爽爽爽天天爽爽| 偷拍 欧美 日韩| www.狠狠操| 久久精品区| 色999;丁香五月| 超碰超碰超碰超碰的大鸡吧操黑丝袜| 国产 三级自拍| 天天天干977| 在线观看AV不卡| 日本成熟少妇A∨网站| 男人把坤坤插入女人的下体| 丝袜美腿制服人妻二区中文字幕| 九九九九九九综合| 99精品在线| 国产综合日韩伦理| 欧美 亚洲 另类 综合| 亚洲电影中字一区二区| 好舒服视频| 在线观看国产黄色| 精品一区二区三区国产| 五十路人妻在线| 99这里有精品| 激情视屏国产乱伦强奸| 久久精品人妻一区| 激情婷婷黑人91| 色鬼在线综合| 在线电影亚洲色图| 亚洲男人的天堂AV| 91九色精品熟女内射| 人人性爱视频免费| 日日躁天天躁狠狠躁| 男人的天堂.com| 国产激情在线| 伦理日韩国产久久| 丝袜综合色图| 国产欧美美女免费观看视频| 色乱二区| 亚洲成aⅴ人片不卡无码| 综合五月天| 好舒服视频| 97香蕉人人乳| 天天摸天天插天天日| 色优久久| 99人人干| 中文字幕精品资源在线| 91人妻中文| 天天色黄色影院天天操| A级国产欧美激情在线| 超碰色图| 天天久久| 東南亚性呦成人伦理资源在线视频| 伊人991| 91爰爱欧美| 国产一区麻豆免费观看| 少妇一区二区三区在线观看| 久久色激情一区二区三区| 91九久| 国内黄色精品| 日本 成 人 小说 电影 一区二区| 在线观看黄色电话| 伊人久久大香大香线蕉中文 | 在线五区| 好涩综合| 97视频在线观看免费高清| 国内一级精品| 91老女人| 黄色片一区二区三区四区五区| 日韩免费av片高清无码| 搞中出久久| 日本护士高潮| 婷婷四五区| 超碰 av 女人天堂| 九月丁香综合网| 夜夜高潮夜夜爽高清视频一| 一级免费啪啪片| 九九这里只有精品| 色五月婷婷网| 欧美在线55555| 怡红院成人视频| 男女做爰猛烈动高潮A片免费应用 少妇厨房愉情理伦片bd在线观看 不卡中文字幕aⅴ在线 | 上床啊啊啊| 阿姨一区二区免费视频-高清正片西瓜视频下载app-T450AV | 99国产在线 精品 视频| 3P乱轮视频| 又黄又爽在线观看视频| 97大色网| 大香蕉99999| 岛国1区2区3区在线观看| 曰韩av中文字幕专区| 国产乱婷婷精品二区三区| 欧美在线干| 无码一区免费在线不卡| 色色色色网站| 天天天天天天天天综合| 国产在线视频午夜精华在| 941超碰| 美欧色综合| 日韩,欧美,中文在线| 欧美一区二区三区大综合| 久9久9精品| 啊啊啊啊网站| 婷婷亚洲综合| 素人伊尹大香蕉免费下载视频| 夜夜爽夜夜爽| 囯产乱伦一区二区三女| 久久人妇| 日韩黄色av中文字幕| 人妻天堂综合网| 9美女超碰在线免费观看| 国产亚洲精品美女久久久久久2021| 欧亚乱色熟一区二区三四区| 国产精品另类| 色欲av国内精品久久久久久| 日韩成人人妻网站| 日本人妻中文字幕精品| 色综合中文字幕不卡| 性91| 亚洲第一综合| 嗯嗯啊啊好大好爽| 精品欧美А∨无码黑人大荫蒂| www.狠狠干.coom| 欧美碰碰综合色| 69超碰综合| 成人毛片免费| 国产成人AV麻豆| 国产精品人妻熟女aⅴ| 歐美性天天| 综合欧美日韩在线观看| 久久久极品| 夜夜操天| 欧美精品亚洲精品日韩传电影| 国产诱惑| 国产精品点击进入在线影院| 日本人体九九九九九九| 欧美亚洲自拍另类人妻| 精品久久久久久久久久久久| 欧美视频一区二区在线| 久久精品无码不卡| 国产欧美日韩在线观看麻豆传媒公司| 校园春色五月天| 好看的久久不射无码影视影院| 999国产精品999| 免费观看一区| 超碰日韩美妻| 狠狠干综合| 成全动漫视频观看免费下载| 日产中文字幕2020| 人妻精品视频一区二区| 日韩啪啪视频| 亚洲欧美精品久| 在线国产探花| 国产精品久久天天干| 东京热伊久| 亚洲棕合电彰| 九九热在线视频| 亚洲av国产av综合av卡| 亚洲狠狠入| 东北女人| 91九九九小逼| 亚洲国产成人精品久久久国产成人一区二区三.| 亚洲激情欧美色图| 青青草日逼视频| 久久久爆乳翘臀一线天伦理视频| 人人操人人干xxx| 男人综合网| 91欧洲入口| 欧美男人亚洲天堂| 精品176精品2| 婷婷三区| 嗯阿好爽好紧| 天堂精品在线| 国产又色又爽又舒服的三级视频| 中文字幕精品一区欧美| 免费AV中文网在线观看| 岛国激情视频在线观看| 亚码激情| 亚洲图片欧美在线视频| 波多野42部无码喷潮在线观看| 国产综合久久久麻桃个| 深喉吞精| 我要色综合网| 青青草国产欧美非洲黑人| 九久9精品| 91丰满| www亚洲欧美| 日韩本不卡视频在线观看| 久久黄人人爽视频| 色九月综合| 亚瑟国产精品久久无码| 人人干黄色| 亚洲小电影免费涩涩成人在线高清| 亚洲影院无码在线| 国产视频一区二区三区在线免费观看| 欧美18老人禁| 老熟女乱子伦中文字幕一区二区| 亚洲 日韩 丝袜 熟女 变态| 精品国产一区二区三区香蕉欧美| 国产精品999zyz| 美国日韩黄色片| 久热99| 国产一区二区三区不卡手机在线| 欧亚乱色熟一区二区三四区| 91无码人妻| 美女上床网站| 亚洲精品国语在线播放| 国产操伦| 欧美性生活综合| 丝袜熟女2P| 极品丝袜无码| 久草精品国产蜜臀| 伊人性在线视频| 国产福利一区二| 91麻豆va国产精品| 免費人妻夜夜爽天天爽爽一区| 97超碰天天爱天天爱| 快播电影网日韩新片| 九热中文字幕| 国产精品欧美日韩久久| 丝袜美腿欧美| 欧美国产操逼| 懂色中文一区二区三区| 极品色www影院| 啊啊啊啊啊在线视频| 欧美日韩制服| 老熟妇一区二区三区…| 蜜臀亚洲中文| 久久久不卡| 日韩欧美一级特黄大片| 一本正道久久熟女| 亚洲欧洲日韩中文字幕一区| 91人妻素女| 情色五月天久久久| 亚洲综合91| 国产精品天美传媒| 91欧美丝袜| 亚洲高清无码在线桃色| 亚洲精品国产AV天美传媒| 国产97亚洲| 99热91| 欧综合网| 大香蕉伊人久久| 大香蕉92| 国产三级日产三级韩国三级 | 蜜桃狠狠色伊人亚洲综合 | 国产树林里野战在线看| 亚洲日韩青青草色月| 日韩欧美亚洲自拍偷拍| 亚洲另类在线观看| 欧美草草高清日韩视频| 啊灬啊灬啊灬好深灬快高潮了动漫-国产字幕国产在线观看-B049AV | 国产精品一区二区后入| 久久青青草原免费视频| 97天堂| 久久鲁干| 骚鸭AV| 91人人爽人人爽人人人,gav福利视频导航,日韩欧美亚洲国产字幕四区 | 色噜噜人妻丝袜AV资源| 男人的天堂午夜av| 亚洲色图日韩精品| 五毛骚逼极品美女怕怕| 狠狠色噜噜狠狠狠狠狠色综合久久| 日本999精品| 九九aV| 九九碰九九爱97超碰| 麻豆黄四叶草网站| 在线国产福利网址导航| 91热色| 超碰资源亚洲97| av日韩在线观看电影| 精品97久久| 欧美性爱一区| 欧美日韩性爱精品| 内射小黄片| 9 1果冻精品视频| 5252色欧美在线| 中文字幕一区二区在线日韩精品| 中文字幕乱妇免费视频| 综合网欧美在线| 国产女人91精品嗷嗷嗷嗷| 日韩精品一二三| 日本中文字幕一区| 亚洲aw毛茸茸在线| 熟女六十路| 色色色色日本| 欧洲在线性爱视频| 曰本道人妻久久久在线不卡色视频| 中文字幕一区 二 区 三 四 五 区日 日 骚 | 人妻少妇精品无码专区二区密桃| 爱啪精品一区| 人妻夜夜爽天天爽麻豆三区网站 | 在线观看日韩av不卡| 97视频900| 亚州操操穴网| 97视频观看| 96精品在线| 色5月婷婷| 欧美拳交在线播放| 骚逼高潮久久精品| 五月丁香啪啪啪| 综合网亚洲在线| 日韩 女同 综合| 亚洲老司机123专区| 啊啊好多水| 少妇内射www在线观看视频 | 国产真实野战在线视频| 天天激情综合站| 波多野结衣一级视频| 涩涩涩综合| 樱花蜜乳av| 亚洲福利中文字幕在线| 亚洲aV无码成人在线观看| 人妻精品一区二区在线| 2017av无码免费无线播| 肏逼视频日本| 国产久久成人| A 天堂在线观看视频| 中文字幕五区| 日韩人妻资源在线看| 九九热男人天堂| 欧美91网站| 激情婷婷丁香网| 欧美日韩另类激情图片| AV一起草在线| 岛国艾薇凹凸视频天堂| 91欧美| 成人热久久精品| 国产一区二区久久| 啪啪啪男女亚洲中文字幕99| 亚洲日韩视频二区| 老司机福利社视频在线观看| 欧美性色欧美| 91操操操操| 影音先锋乱| 素人播放一区| 欧美亚洲美少妇一区二区| 限制级中的三级片中的黑粗大屌屌日人妻熟女 | 亚洲日韩肥臀视频在线观看| 你草精品在线视频| 青木玲在线不卡| 人妻久久一区二区三区 | 人人搡人人肉久久精品| 久久久久久久久久久久97| 热思思免费视频| 亚洲综合激情五月久久| 综合av影片| 国产精品第一页国产大屁股视频免费区| 26uuu国产亚洲综合| 亚洲天天艹| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 亚洲国产欧美另类自拍| 激情视频网址| 久干网| 亚洲欧美日韩制服另类| 无码免费精品高清| 九九九九九九九九九五码| 美女天天干| 激情综合五月婷婷| 极品少妇久久久| 精品性爱一二三区| 欧美人妻中出| 国产超碰AV在线精品| 中文字幕十五区| 曰韩精品视频一区二区| 欧美日韩国产电影| 欧美性爱第一页久久| 亚洲色图欧美色图制服丝袜| 熟妇乱伦一区二区| 欧美精品人妻视频|