日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

用 Arthas 定位 Spring Boot 接口的超時問題,讓應用起飛!

來源: 責編: 時間:2024-06-05 17:44:23 198觀看
導讀背景公司有個渠道系統,專門對接三方渠道使用,沒有什么業務邏輯,主要是轉換報文和參數校驗之類的工作,起著一個承上啟下的作用。最近在優化接口的響應時間,優化了代碼之后,但是時間還是達不到要求;有一個詭異的100ms左右的耗

背景

公司有個渠道系統,專門對接三方渠道使用,沒有什么業務邏輯,主要是轉換報文和參數校驗之類的工作,起著一個承上啟下的作用。6je28資訊網——每日最新資訊28at.com

最近在優化接口的響應時間,優化了代碼之后,但是時間還是達不到要求;有一個詭異的100ms左右的耗時問題,在接口中打印了請求處理時間后,和調用方的響應時間還有差了100ms左右。比如程序里記錄150ms,但是調用方等待時間卻為250ms左右。6je28資訊網——每日最新資訊28at.com

下面記錄下當時詳細的定位&解決流程(其實解決很簡單,關鍵在于怎么定位并找到解決問題的方法)。6je28資訊網——每日最新資訊28at.com

定位過程

分析代碼

渠道系統是一個常見的spring-boot web工程,使用了集成的tomcat。分析了代碼之后,發現并沒有特殊的地方,沒有特殊的過濾器或者攔截器,所以初步排除是業務代碼問題。6je28資訊網——每日最新資訊28at.com

分析調用流程

出現這個問題之后,首先確認了下接口的調用流程。由于是內部測試,所以調用流程較少。6je28資訊網——每日最新資訊28at.com

Nginx -反向代理-> 渠道系統

公司是云服務器,網絡走的也是云的內網。由于不明確問題的原因,所以用排除法,首先確認服務器網絡是否有問題。6je28資訊網——每日最新資訊28at.com

先確認發送端到Nginx Host是否有問題:6je28資訊網——每日最新資訊28at.com

[jboss@VM_0_139_centos ~]$ ping 10.0.0.139PING 10.0.0.139 (10.0.0.139) 56(84) bytes of data.64 bytes from 10.0.0.139: icmp_seq=1 ttl=64 time=0.029 ms64 bytes from 10.0.0.139: icmp_seq=2 ttl=64 time=0.041 ms64 bytes from 10.0.0.139: icmp_seq=3 ttl=64 time=0.040 ms64 bytes from 10.0.0.139: icmp_seq=4 ttl=64 time=0.040 ms

從ping結果上看,發送端到Nginx主機的延遲是無問題的,接下來查看Nginx到渠道系統的網絡。6je28資訊網——每日最新資訊28at.com

# 由于日志是沒問題的,這里直接復制上面日志了[jboss@VM_0_139_centos ~]$ ping 10.0.0.139PING 10.0.0.139 (10.0.0.139) 56(84) bytes of data.64 bytes from 10.0.0.139: icmp_seq=1 ttl=64 time=0.029 ms64 bytes from 10.0.0.139: icmp_seq=2 ttl=64 time=0.041 ms64 bytes from 10.0.0.139: icmp_seq=3 ttl=64 time=0.040 ms64 bytes from 10.0.0.139: icmp_seq=4 ttl=64 time=0.040 ms

從ping結果上看,Nginx到渠道系統服務器網絡延遲也是沒問題的6je28資訊網——每日最新資訊28at.com

既然網絡看似沒問題,那么可以繼續排除法,砍掉Nginx,客戶端直接再渠道系統的服務器上,通過回環地址(localhost)直連,避免經過網卡/dns,縮小問題范圍看看能否復現(這個應用和地址是我后期模擬的,測試的是一個空接口):6je28資訊網——每日最新資訊28at.com

[jboss@VM_10_91_centos tmp]$ curl -w "@curl-time.txt" http://127.0.0.1:7744/sendsuccess              http: 200               dns: 0.001s          redirect: 0.000s      time_connect: 0.001s   time_appconnect: 0.000s  time_pretransfer: 0.001stime_starttransfer: 0.073s     size_download: 7bytes    speed_download: 95.000B/s                  ----------        time_total: 0.073s 請求總耗時

從curl日志上看,通過回環地址調用一個空接口耗時也有73ms。這就奇怪了,跳過了中間所有調用節點(包括過濾器&攔截器之類),直接請求應用一個空接口,都有73ms的耗時,再請求一次看看:6je28資訊網——每日最新資訊28at.com

[jboss@VM_10_91_centos tmp]$ curl -w "@curl-time.txt" http://127.0.0.1:7744/sendsuccess              http: 200               dns: 0.001s          redirect: 0.000s      time_connect: 0.001s   time_appconnect: 0.000s  time_pretransfer: 0.001stime_starttransfer: 0.003s     size_download: 7bytes    speed_download: 2611.000B/s                  ----------        time_total: 0.003s

更奇怪的是,第二次請求耗時就正常了,變成了3ms。經查閱資料,linux curl是默認開啟http keep-alive的。就算不開啟keep-alive,每次重新handshake,也不至于需要70ms。6je28資訊網——每日最新資訊28at.com

經過不斷分析測試發現,連續請求的話時間就會很短,每次請求只需要幾毫秒,但是如果隔一段時間再請求,就會花費70ms以上。6je28資訊網——每日最新資訊28at.com

從這個現象猜想,可能是某些緩存機制導致的,連續請求因為有緩存,所以速度快,時間長緩存失效后導致時間長。6je28資訊網——每日最新資訊28at.com

那么這個問題點到底在哪一層呢?tomcat層還是spring-webmvc呢?6je28資訊網——每日最新資訊28at.com

光猜想定位不了問題,還是得實際測試一下,把渠道系統的代碼放到本地ide里啟動測試能否復現。6je28資訊網——每日最新資訊28at.com

但是導入本地Ide后,在Ide中啟動后并不能復現問題,并沒有70+ms的延遲問題。這下頭疼了,本地無法復現,不能Debug,由于問題點不在業務代碼,也不能通過加日志的方式來Debug。6je28資訊網——每日最新資訊28at.com

這時候可以祭出神器Arthas了。6je28資訊網——每日最新資訊28at.com

Arthas分析問題

Arthas 是Alibaba開源的Java診斷工具,深受開發者喜愛。當你遇到以下類似問題而束手無策時,Arthas可以幫助你解決:6je28資訊網——每日最新資訊28at.com

  • 這個類從哪個 jar 包加載的?為什么會報各種類相關的 Exception?
  • 我改的代碼為什么沒有執行到?難道是我沒 commit?分支搞錯了?
  • 遇到問題無法在線上 debug,難道只能通過加日志再重新發布嗎?
  • 線上遇到某個用戶的數據處理有問題,但線上同樣無法 debug,線下無法重現!
  • 是否有一個全局視角來查看系統的運行狀況?
  • 有什么辦法可以監控到JVM的實時運行狀態?

上面是Arthas的官方簡介,這次我只需要用他的一個小功能trace。動態計算方法調用路徑和時間,這樣我就可以定位時間在哪個地方被消耗了。6je28資訊網——每日最新資訊28at.com

  • trace 方法內部調用路徑,并輸出方法路徑上的每個節點上耗時
  • trace 命令能主動搜索 class-pattern/method-pattern
  • 對應的方法調用路徑,渲染和統計整個調用鏈路上的所有性能開銷和追蹤調用鏈路。

有了神器,那么該追蹤什么方法呢?由于我對Tomcat源碼不是很熟,所以只能從spring mvc下手,先來trace一下spring mvc的入口:6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

[jboss@VM_10_91_centos tmp]$ curl -w "@curl-time.txt" http://127.0.0.1:7744/sendsuccess              http: 200               dns: 0.001s          redirect: 0.000s      time_connect: 0.001s   time_appconnect: 0.000s  time_pretransfer: 0.001stime_starttransfer: 0.115s     size_download: 7bytes    speed_download: 60.000B/s                  ----------        time_total: 0.115s

本次調用,調用端時間花費115ms,但是從arthas trace上看,spring mvc只消耗了18ms,那么剩下的97ms去哪了呢?6je28資訊網——每日最新資訊28at.com

本地測試后已經可以排除spring mvc的問題了,最后也是唯一可能出問題的點就是tomcat。6je28資訊網——每日最新資訊28at.com

可是本人并不熟悉tomcat中的源碼,就連請求入口都不清楚,tomcat里需要trace的類都不好找......6je28資訊網——每日最新資訊28at.com

不過沒關系,有神器Arthas,可以通過stack命令來反向查找調用路徑,以org.springframework.web.servlet.DispatcherServlet作為參數:6je28資訊網——每日最新資訊28at.com

stack 輸出當前方法被調用的調用路徑。6je28資訊網——每日最新資訊28at.com

很多時候我們都知道一個方法被執行,但這個方法被執行的路徑非常多,或者你根本就不知道這個方法是從那里被執行了,此時你需要的是 stack 命令。6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

從stack日志上可以很直觀的看出DispatchServlet的調用棧,那么這么長的路徑,該trace哪個類呢(這里跳過spring mvc中的過濾器的trace過程,實際排查的時候也trace了一遍,但這詭異的時間消耗不是由這里過濾器產生的)?6je28資訊網——每日最新資訊28at.com

有一定經驗的老司機從名字上大概也能猜出來從哪里下手比較好,那就是org.apache.coyote.http11.Http11Processor.service,從名字上看,http1.1處理器,這可能是一個比較好的切入點。下面來trace一下:6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

日志里有一個129ms的耗時點(時間比沒開arthas的時候更長是因為arthas本身帶來的性能消耗,所以生產環境小心使用),這個就是要找的問題點。6je28資訊網——每日最新資訊28at.com

打問題點找到了,那怎么定位是什么導致的問題呢,又如何解決呢?6je28資訊網——每日最新資訊28at.com

繼續trace吧,細化到具體的代碼塊或者內容。trace由于性能考慮,不會展示所有的調用路徑,如果調用路徑過深,只有手動深入trace,原則就是trace耗時長的那個方法:6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

一段無聊的手動深入trace之后……6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

發現了一個值得暫停思考的點:6je28資訊網——每日最新資訊28at.com

+---[min=0.004452ms,max=34.479307ms,total=74.206249ms,count=31] org.apache.catalina.webresources.TomcatJarInputStream:getNextJarEntry() #117

這行代碼加載了31次,一共耗時74ms;從名字上看,應該是tomcat加載jar包時的耗時,那么是加載了31個jar包的耗時,還是加載了jar包內的某些資源31次耗時呢?6je28資訊網——每日最新資訊28at.com

TomcatJarInputStream這個類源碼的注釋寫到:6je28資訊網——每日最新資訊28at.com

The purpose of this sub-class is to obtain references to the JarEntry objects for META-INF/ and META-INF/MANIFEST.MF that are otherwise swallowed by the JarInputStream implementation.

大概意思也就是,獲取jar包內META-INF/,META-INF/MANIFEST的資源,這是一個子類,更多的功能在父類JarInputStream里。6je28資訊網——每日最新資訊28at.com

其實看到這里大概也能猜到問題了,tomcat加載jar包內META-INF/,META-INF/MANIFEST的資源導致的耗時,至于為什么連續請求不會耗時,應該是tomcat的緩存機制(下面介紹源碼分析)。6je28資訊網——每日最新資訊28at.com

不著急定位問題,試著通過Arthas最終定位問題細節,繼續手動深入trace:6je28資訊網——每日最新資訊28at.com

[arthas@24851]$ trace org.apache.catalina.webresources.TomcatJarInputStream *Press Q or Ctrl+C to abort.Affect(class-cnt:1 , method-cnt:4) cost in 44 ms.`---ts=2019-09-14 21:37:47;thread_name=http-nio-7744-exec-5;id=14;is_daemnotallow=true;priority=5;TCCL=org.springframework.boot.loader.LaunchedURLClassLoader@20ad9418    `---[0.234952ms] org.apache.catalina.webresources.TomcatJarInputStream:createZipEntry()        +---[0.039455ms] java.util.jar.JarInputStream:createZipEntry() #43        `---[0.007827ms] java.lang.String:equals() #44`---ts=2019-09-14 21:37:47;thread_name=http-nio-7744-exec-5;id=14;is_daemnotallow=true;priority=5;TCCL=org.springframework.boot.loader.LaunchedURLClassLoader@20ad9418    `---[0.050222ms] org.apache.catalina.webresources.TomcatJarInputStream:createZipEntry()        +---[0.001889ms] java.util.jar.JarInputStream:createZipEntry() #43        `---[0.001643ms] java.lang.String:equals() #46#這里一共31個trace日志,刪減了剩下的

從方法名上看,還是加載資源之類的意思。都已經到jdk源碼了,這時候來看一下TomcatJarInputStream這個類的源碼:6je28資訊網——每日最新資訊28at.com

/** * Creates a new <code>JarEntry</code> (<code>ZipEntry</code>) for the * specified JAR file entry name. The manifest attributes of * the specified JAR file entry name will be copied to the new * <CODE>JarEntry</CODE>. * * @param name the name of the JAR/ZIP file entry * @return the <code>JarEntry</code> object just created */protected ZipEntry createZipEntry(String name) {    JarEntry e = new JarEntry(name);    if (man != null) {        e.attr = man.getAttributes(name);    }    return e;}

這個createZipEntry有個name參數,從注釋上看,是jar/zip文件名,如果能得到文件名這種關鍵信息,就可以直接定位問題了;還是通過Arthas,使用watch命令,動態監測方法調用數據。6je28資訊網——每日最新資訊28at.com

watch方法執行數據觀測

讓你能方便的觀察到指定方法的調用情況。能觀察到的范圍為:返回值、拋出異常、入參,通過編寫 OGNL 表達式進行對應變量的查看。6je28資訊網——每日最新資訊28at.com

watch 該方法的入參

圖片6je28資訊網——每日最新資訊28at.com

這下直接看到了具體加載的資源名,這么熟悉的名字:swagger-ui,一個國外的rest接口文檔工具,又有國內開發者基于swagger-ui做了一套spring mvc的集成工具,通過注解就可以自動生成swagger-ui需要的接口定義json文件,用起來還比較方便,就是侵入性較強。6je28資訊網——每日最新資訊28at.com

刪除swagger的jar包后問題,詭異的70+ms就消失了。6je28資訊網——每日最新資訊28at.com

<!--pom 里刪除這兩個引用,這兩個包時國內開發者封裝的,swagger-ui并沒有提供java spring-mvc的支持包,swagger只是一個瀏覽器端的ui+editor --><dependency>    <groupId>io.springfox</groupId>    <artifactId>springfox-swagger2</artifactId>    <version>2.9.2</version></dependency><dependency>    <groupId>io.springfox</groupId>    <artifactId>springfox-swagger-ui</artifactId>    <version>2.9.2</version></dependency>

那么為什么swagger會導致請求耗時呢,為什么每次請求偶讀會加載swagger內部的靜態資源呢?6je28資訊網——每日最新資訊28at.com

其實這是tomcat-embed的一個bug吧,下面詳細介紹一下該Bug。6je28資訊網——每日最新資訊28at.com

Tomcat embed Bug分析&解決

源碼分析過程實在太漫長,而且也不是本文的重點,所以就不介紹了, 下面直接介紹下分析結果:6je28資訊網——每日最新資訊28at.com

順便貼一張tomcat處理請求的核心類圖:6je28資訊網——每日最新資訊28at.com

圖片圖片6je28資訊網——每日最新資訊28at.com

為什么每次請求會加載Jar包內的靜態資源

關鍵在于org.apache.catalina.mapper.Mapper#internalMapWrapper這個方法,該版本下處理請求的方式有問題,導致每次都校驗靜態資源。6je28資訊網——每日最新資訊28at.com

為什么連續請求不會出現問題

因為Tomcat對于這種靜態資源的解析是有緩存的,優先從緩存查找,緩存過期后再重新解析。具體參考org.apache.catalina.webresources.Cache,默認過期時間ttl是5000ms。6je28資訊網——每日最新資訊28at.com

為什么本地不會復現

其實確切的說,是通過spring-boot打包插件后不能復現。由于啟動方式的不同,tomcat使用了不同的類去處理靜態資源,所以沒問題。6je28資訊網——每日最新資訊28at.com

如何解決

升級tomcat-embed版本即可;6je28資訊網——每日最新資訊28at.com

當前出現Bug的版本為:6je28資訊網——每日最新資訊28at.com

spring-boot:2.0.2.RELEASE,內置的tomcat embed版本為8.5.31;6je28資訊網——每日最新資訊28at.com

升級tomcat embed版本至8.5.40+即可解決此問題,新版本已經修復了。6je28資訊網——每日最新資訊28at.com

通過替換springboot pom properties方式

如果項目是maven是繼承的springboot,即parent配置為springboot的,或者dependencyManagement中import spring boot包的;6je28資訊網——每日最新資訊28at.com

<parent>        <groupId>org.springframework.boot</groupId>        <artifactId>spring-boot-starter-parent</artifactId>        <version>2.0.2.RELEASE</version>        <relativePath/> <!-- lookup parent from repository -->    </parent>

pom中直接覆蓋properties即可:6je28資訊網——每日最新資訊28at.com

<properties>    <tomcat.version>8.5.40</tomcat.version></properties>

升級spring boot版本

springboot 2.1.0.RELEASE中的tomcat embed版本已經大于8.5.31了,所以直接將springboot升級至該版本及以上版本就可以解決此問題。6je28資訊網——每日最新資訊28at.com

本文鏈接:http://m.www897cc.com/showinfo-26-92138-0.html用 Arthas 定位 Spring Boot 接口的超時問題,讓應用起飛!

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: Rust 開發到底用 RustRover 與還是 VS Code Rust 插件?

下一篇: React Native V0.74 穩定版發布

標簽:
  • 熱門焦點
  • K60 Pro官方停產 第三方瞬間漲價

    雖然沒有官方宣布,但Redmi的一些高管也已經透露了,Redmi K60 Pro已經停產且不會補貨,這一切都是為了即將到來的K60 Ultra鋪路,屬于廠家的正常操作。但有意思的是該機在停產之后
  • K60至尊版剛預熱 一加Ace2 Pro正面硬剛

    Redmi這邊剛如火如荼的宣傳了K60 Ultra的各種技術和硬件配置,作為競品的一加也坐不住了。一加中國區總裁李杰發布了兩條微博,表示在自家的一加Ace2上早就已經采用了和PixelWo
  • 中興AX5400Pro+上手體驗:再升級 雙2.5G網口+USB 3.0這次全都有

    2021年11月的時候,中興先后發布了兩款路由器產品,中興AX5400和中興AX5400 Pro,從產品命名上就不難看出這是隸屬于同一系列的,但在外觀設計上這兩款產品可以說是完全沒一點關系
  • 如何通過Python線程池實現異步編程?

    線程池的概念和基本原理線程池是一種并發處理機制,它可以在程序啟動時創建一組線程,并將它們置于等待任務的狀態。當任務到達時,線程池中的某個線程會被喚醒并執行任務,執行完任
  • 這款新興工具平臺,讓你的電腦效率翻倍

    隨著信息技術的發展,我們獲取信息的渠道越來越多,但是處理信息的效率卻成為一個瓶頸。于是各種工具應運而生,都在爭相解決我們的工作效率問題。今天我要給大家介紹一款效率
  • 一文搞定Java NIO,以及各種奇葩流

    大家好,我是哪吒。很多朋友問我,如何才能學好IO流,對各種流的概念,云里霧里的,不求甚解。用到的時候,現百度,功能雖然實現了,但是為什么用這個?不知道。更別說效率問題了~下次再遇到,
  • 大廠卷向扁平化

    來源:新熵作者丨南枝 編輯丨月見大廠職級不香了。俗話說,兵無常勢,水無常形,互聯網企業調整職級體系并不稀奇。7月13日,淘寶天貓集團啟動了近年來最大的人力制度改革,目前已形成一
  • 三星Galaxy Z Fold5今日亮相:厚度縮減但仍略顯厚重

    據官方此前宣布,三星將于7月26日也就是今天在韓國首爾舉辦Unpacked活動,屆時將帶來帶來包括Galaxy Buds 3、Galaxy Watch 6、Galaxy Tab S9、Galaxy
  • onebot M24巧系列一體機采用輕薄機身設計,現已在各平臺開售

    onebot M24 巧系列一體機目前已在線上線下各平臺同步開售。onebot M24 巧系列采用一體化輕薄機身設計,最薄處為 10.15mm,擁有寶石紅、午夜藍、石墨綠、雅致
Top 日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不
亚洲在线一区二区三区| 激情综合网址| 欧美电影免费观看高清完整版| 欧美暴力喷水在线| 欧美777四色影视在线| 欧美日韩国产精品一区| 国产精品久久97| 狠狠色丁香婷婷综合| 亚洲裸体视频| 午夜影视日本亚洲欧洲精品| 久久香蕉精品| 欧美午夜免费电影| 国产综合精品一区| 亚洲精品综合在线| 午夜欧美精品| 欧美福利网址| 国产精品一卡二| 亚洲国产另类精品专区| 亚洲欧美国产三级| 欧美jjzz| 国产欧美一区二区三区视频| 最近中文字幕日韩精品 | 久久嫩草精品久久久精品一| 欧美日韩视频| 国内外成人在线视频| 一区二区三区回区在观看免费视频| 欧美一区二区在线免费播放| 国产一区二区三区四区| 在线成人av.com| 亚洲综合电影一区二区三区| 男男成人高潮片免费网站| 国产精品一国产精品k频道56| 亚洲国产日韩欧美在线图片| 亚洲欧美国产制服动漫| 欧美国产日韩一区二区在线观看| 国产欧美亚洲一区| 99热免费精品| 免费看的黄色欧美网站| 国产麻豆一精品一av一免费| 亚洲美女性视频| 久久一区二区视频| 国产欧美精品日韩| 一区二区三区四区国产| 欧美gay视频激情| 国产视频丨精品|在线观看| 在线视频中文亚洲| 欧美不卡视频一区发布| 国产专区欧美精品| 亚洲伊人久久综合| 欧美日韩国产综合新一区| 亚洲电影免费在线观看| 久久成人资源| 国产伦精品一区二区三区视频黑人 | 久久夜色精品| 国产一区成人| 亚洲欧美在线一区| 欧美三级视频| 日韩午夜三级在线| 欧美91视频| 黄网站色欧美视频| 欧美在线视频免费| 国产精品人成在线观看免费 | 欧美精品在线网站| 亚洲激情校园春色| 猛男gaygay欧美视频| 国产综合在线视频| 国产精品国产一区二区| 久久在线免费视频| 欧美日韩国产综合网| 亚洲影视在线播放| 国产精品日韩在线播放| 亚洲欧美日韩视频一区| 国产精品日韩久久久| 亚洲永久精品大片| 欧美午夜不卡影院在线观看完整版免费| 亚洲午夜视频在线| 亚洲黄色小视频| 亚洲黄色影片| 亚洲精品小视频| 亚洲精品少妇网址| 一本色道久久综合亚洲精品高清| 亚洲国产高清aⅴ视频| 国内揄拍国内精品久久| 欧美国产精品专区| 午夜视频在线观看一区二区三区 | 国产小视频国产精品| 欧美乱妇高清无乱码| 午夜国产不卡在线观看视频| 激情五月综合色婷婷一区二区| 欧美日韩一二区| 欧美在线1区| 亚洲久久视频| 尤物网精品视频| 国语自产精品视频在线看8查询8 | 久久久久一区| 欧美在线亚洲综合一区| 一本色道久久综合狠狠躁篇怎么玩 | 久久久伊人欧美| 欧美肥婆在线| 欧美日韩国产欧美日美国产精品| 亚洲午夜精品网| 午夜精品成人在线| 国产精品高潮呻吟久久| 国产视频一区二区在线观看| 国产性做久久久久久| 国产精品免费一区二区三区在线观看| 欧美主播一区二区三区| 老鸭窝毛片一区二区三区| 亚洲高清在线视频| 欧美激情亚洲综合一区| 夜夜夜久久久| 国产精自产拍久久久久久| 久久精品99无色码中文字幕| 亚洲成色999久久网站| 欧美国产亚洲精品久久久8v| 一区二区三区久久| 国产欧美日韩免费| 毛片av中文字幕一区二区| 日韩亚洲视频在线| 国产精品自拍网站| 美女脱光内衣内裤视频久久网站| 亚洲毛片播放| 国产精品视频一二三| 久久午夜国产精品| 中文高清一区| 国模精品一区二区三区色天香| 久久综合久久久久88| 一区二区三区福利| 国产一区999| 欧美片在线观看| 欧美亚洲自偷自偷| 亚洲欧洲综合另类| 国产精品免费一区二区三区在线观看 | 亚洲激情成人| 国产精品亚发布| 欧美r片在线| 性久久久久久久| 亚洲七七久久综合桃花剧情介绍| 欧美午夜免费| 美女999久久久精品视频| 亚洲午夜国产一区99re久久| 精品动漫av| 国产精品久久久久久久午夜片| 久久久在线视频| 亚洲亚洲精品在线观看| 亚洲成在人线av| 国产精品一区二区久久久| 欧美大片在线观看| 久久国产成人| 一区二区三区精品在线 | 亚洲国产精品久久久久| 国产精品乱码| 欧美精品日本| 久久婷婷国产麻豆91天堂| 亚洲尤物在线| 99re成人精品视频| 经典三级久久| 国产精品一区二区三区四区| 欧美经典一区二区| 久久天堂精品| 久久精精品视频| 亚洲曰本av电影| 99精品视频一区二区三区| 亚洲第一精品影视| 国内精品嫩模av私拍在线观看| 欧美午夜精品久久久久久人妖 | 欧美在线1区| 亚洲深夜福利视频| 亚洲精品国产欧美| 在线观看欧美| 国产一区二区三区精品久久久| 国产精品成人一区二区| 欧美看片网站| 欧美电影免费观看高清| 久久九九国产精品怡红院| 亚洲欧美另类国产| 在线视频精品一区| 亚洲精品欧美| 在线观看欧美黄色| 国内揄拍国内精品久久| 国产日韩精品久久| 国产九九精品| 国产精品私拍pans大尺度在线| 欧美日韩国产成人在线| 欧美国产激情| 欧美成人中文字幕| 欧美99久久| 欧美电影打屁股sp| 免费亚洲电影| 欧美 日韩 国产一区二区在线视频| 久久久久9999亚洲精品| 久久激情视频久久| 欧美在线免费播放| 性欧美xxxx大乳国产app| 午夜精品在线看| 午夜亚洲福利| 欧美一区二区三区四区在线| 欧美三区在线| 欧美区视频在线观看| 欧美日韩国产一级| 欧美三级电影大全| 欧美视频官网| 国产精品推荐精品| 国产日韩欧美在线看|