Java和Docker限制了哪些功能
2019-08-29 來(lái)源:多智時(shí)代

Java和Docker不是天然的朋友。 Docker可以設(shè)置內(nèi)存和CPU限制,而Java不能自動(dòng)檢測(cè)到。使用Java的Xmx標(biāo)識(shí)(繁瑣/重復(fù))或新的實(shí)驗(yàn)性JVM標(biāo)識(shí),我們可以解決這個(gè)問(wèn)題。
虛擬化中的不匹配
Java和Docker的結(jié)合并不是完美匹配的,最初的時(shí)候離完美匹配有相當(dāng)大的距離。對(duì)于初學(xué)者來(lái)說(shuō),JVM的全部設(shè)想就是,虛擬機(jī)可以讓程序與底層硬件無(wú)關(guān)。
那么,把我們的Java應(yīng)用打包到JVM中,然后整個(gè)再塞進(jìn)Docker容器中,能給我們帶來(lái)什么好處呢?大多數(shù)情況下,你只是在復(fù)制JVMs和Linux容器,除了浪費(fèi)更多的內(nèi)存,沒(méi)任何好處。感覺(jué)這樣子挺傻的。
不過(guò),Docker可以把你的程序,設(shè)置,特定的JDK,Linux設(shè)置和應(yīng)用服務(wù)器,還有其他工具打包在一起,當(dāng)做一個(gè)東西。站在DevOps/Cloud的角度來(lái)看,這樣一個(gè)完整的容器有著更高層次的封裝。
問(wèn)題一:內(nèi)存
時(shí)至今日,絕大多數(shù)產(chǎn)品級(jí)應(yīng)用仍然在使用Java 8(或者更舊的版本),而這可能會(huì)帶來(lái)問(wèn)題。Java 8(update 131之前的版本)跟Docker無(wú)法很好地一起工作。問(wèn)題是在你的機(jī)器上,JVM的可用內(nèi)存和CPU數(shù)量并不是Docker允許你使用的可用內(nèi)存和CPU數(shù)量。
比如,如果你限制了你的Docker容器只能使用100MB內(nèi)存,但是呢,舊版本的Java并不能識(shí)別這個(gè)限制。Java看不到這個(gè)限制。JVM會(huì)要求更多內(nèi)存,而且遠(yuǎn)超這個(gè)限制。如果使用太多內(nèi)存,Docker將采取行動(dòng)并殺死容器內(nèi)的進(jìn)程!JAVA進(jìn)程被干掉了,很明顯,這并不是我們想要的。
為了解決這個(gè)問(wèn)題,你需要給Java指定一個(gè)最大內(nèi)存限制。在舊版本的Java(8u131之前),你需要在容器中通過(guò)設(shè)置-Xmx來(lái)限制堆大小。這感覺(jué)不太對(duì),你可不想定義這些限制兩次,也不太想在你的容器中來(lái)定義。
幸運(yùn)的是我們現(xiàn)在有了更好的方式來(lái)解決這個(gè)問(wèn)題。從Java 9之后(8u131+),JVM增加了如下標(biāo)志:
-XX:+UnlockExperimentalVMOptions-XX:+UseCGroupMemoryLimitForHeap
這些標(biāo)志強(qiáng)制JVM檢查L(zhǎng)inux的cgroup配置,Docker是通過(guò)cgroup來(lái)實(shí)現(xiàn)最大內(nèi)存設(shè)置的,F(xiàn)在,如果你的應(yīng)用到達(dá)了Docker設(shè)置的限制(比如500MB),JVM是可以看到這個(gè)限制的。JVM將會(huì)嘗試GC操作。如果仍然超過(guò)內(nèi)存限制,JVM就會(huì)做它該做的事情,拋出OutOfMemoryException。也就是說(shuō),JVM能夠看到Docker的這些設(shè)置。
從Java 10之后(參考下面的測(cè)試),這些體驗(yàn)標(biāo)志位是默認(rèn)開(kāi)啟的,也可以使用-XX:+UseContainerSupport來(lái)使能(你可以通過(guò)設(shè)置-XX:-UseContainerSupport來(lái)禁止這些行為)。
問(wèn)題二:CPU
第二個(gè)問(wèn)題是類似的,但它與CPU有關(guān)。簡(jiǎn)而言之,JVM將查看硬件并檢測(cè)CPU的數(shù)量。它會(huì)優(yōu)化你的runtime以使用這些CPUs。但是同樣的情況,這里還有另一個(gè)不匹配,Docker可能不允許你使用所有這些CPUs。可惜的是,這在Java 8或Java 9中并沒(méi)有修復(fù),但是在Java 10中得到了解決。
從Java 10開(kāi)始,可用的CPUs的計(jì)算將采用以不同的方式(默認(rèn)情況下)解決此問(wèn)題(同樣是通過(guò)UseContainerSupport)。
Java和Docker的內(nèi)存處理測(cè)試
作為一個(gè)有趣的練習(xí),讓我們驗(yàn)證并測(cè)試Docker如何使用幾個(gè)不同的JVM版本/標(biāo)志甚至不同的JVM來(lái)處理內(nèi)存不足。
首先,我們創(chuàng)建一個(gè)測(cè)試應(yīng)用程序,它只是簡(jiǎn)單地“吃”內(nèi)存并且不釋放它。
javaimportjava.util.ArrayList;importjava.util.List;publicclassMemEat{ publicstaticvoidmain(String[]args){ Listl=newArrayList<>(); while(true){ byteb[]=newbyte[1048576]; l.add(b); Runtimert=Runtime.getRuntime(); System.out.println("freememory:"+rt.freeMemory()); } }}
我們可以啟動(dòng)Docker容器并運(yùn)行這個(gè)應(yīng)用程序來(lái)查看會(huì)發(fā)生什么。
測(cè)試一:Java 8u111
首先,我們將從具有舊版本Java 8的容器開(kāi)始(update 111)。
shell dockerrun-m100m-itjava:openjdk-8u111/bin/bash
我們編譯并運(yùn)行MemEat.java文件:
shell javacMemEat.java javaMemEat...freememory:67194416freememory:66145824freememory:65097232Killed
正如所料,Docker已經(jīng)殺死了我們的Java進(jìn)程。不是我們想要的(。D阋部梢钥吹捷敵,Java認(rèn)為它仍然有大量的內(nèi)存需要分配。
我們可以通過(guò)使用-Xmx標(biāo)志為Java提供最大內(nèi)存來(lái)解決此問(wèn)題:
shell javacMemEat.java java-Xmx100mMemEat...freememory:1155664freememory:1679936freememory:2204208freememory:1315752Exceptioninthread"main"java.lang.OutOfMemoryError:Javaheapspace atMemEat.main(MemEat.java:8)
在提供了我們自己的內(nèi)存限制之后,進(jìn)程正常停止,JVM理解它正在運(yùn)行的限制。然而,問(wèn)題在于你現(xiàn)在將這些內(nèi)存限制設(shè)置了兩次,Docker一次,JVM一次。
測(cè)試二:Java 8u144
如前所述,隨著增加新標(biāo)志來(lái)修復(fù)問(wèn)題,JVM現(xiàn)在可以遵循Docker所提供的設(shè)置。我們可以使用版本新一點(diǎn)的JVM來(lái)測(cè)試它。
shell dockerrun-m100m-itadoptopenjdk/openjdk8/bin/bash
(在撰寫(xiě)本文時(shí),此OpenJDK Java鏡像的版本是Java 8u144)
接下來(lái),我們?cè)俅尉幾g并運(yùn)行MemEat.java文件,不帶任何標(biāo)志:
shell javacMemEat.java javaMemEat...freememory:67194416freememory:66145824freememory:65097232Killed
依然存在同樣的問(wèn)題。但是我們現(xiàn)在可以提供上面提到的實(shí)驗(yàn)性標(biāo)志來(lái)試試看:
shell
javac MemEat.java
java -XX:+UnlockExperimentalVMOptions -XX:+UseCGroupMemoryLimitForHeap MemEat
...
free memory: 1679936
free memory: 2204208
free memory: 1155616
free memory: 1155600
Exception in thread "main" java.lang.OutOfMemoryError: Java heap space
at MemEat.main(MemEat.java:8)
這一次我們沒(méi)有告訴JVM限制的是什么,我們只是告訴JVM去檢查正確的限制設(shè)置!現(xiàn)在感覺(jué)好多了。
測(cè)試三:Java 10u23
有些人在評(píng)論和Reddit上提到Java 10通過(guò)使實(shí)驗(yàn)標(biāo)志成為新的默認(rèn)值來(lái)解決所有問(wèn)題。這種行為可以通過(guò)禁用此標(biāo)志來(lái)關(guān)閉:-XX:-UseContainerSupport。
當(dāng)我測(cè)試它時(shí),它最初不起作用。在撰寫(xiě)本文時(shí),AdoptAJDK OpenJDK10鏡像與jdk-10+23一起打包。這個(gè)JVM顯然還是不理解UseContainerSupport標(biāo)志,該進(jìn)程仍然被Docker殺死。
shell
docker run -m 100m -it adoptopenjdk/openjdk10 /bin/bash
測(cè)試了代碼(甚至手動(dòng)提供需要的標(biāo)志):
shell javacMemEat.java javaMemEat...freememory:96262112freememory:94164960freememory:92067808freememory:89970656Killed java-XX:+UseContainerSupportMemEat UnrecognizedVMoption'UseContainerSupport'Error:CouldnotcreatetheJavaVirtualMachine.Error:Afatalexceptionhasoccurred.Programwillexit.
測(cè)試四:Java 10u46(Nightly)
我決定嘗試AdoptAJDK OpenJDK 10的最新nightly構(gòu)建。它包含的版本是Java 10+46,而不是Java 10+23。
shell dockerrun-m100m-itadoptopenjdk/openjdk10:nightly/bin/bash
然而,在這個(gè)ngithly構(gòu)建中有一個(gè)問(wèn)題,導(dǎo)出的PATH指向舊的Java 10+23目錄,而不是10+46,我們需要修復(fù)這個(gè)問(wèn)題。
shell exportPATH=$PATH:/opt/java/openjdk/jdk-10+46/bin/javacMemEat.java javaMemEat...freememory:3566824freememory:2796008freememory:1480320Exceptioninthread"main"java.lang.OutOfMemoryError:Javaheapspace atMemEat.main(MemEat.java:8)
成功!不提供任何標(biāo)志,Java 10依然可以正確檢測(cè)到Dockers內(nèi)存限制。
測(cè)試五:OpenJ9
我最近也在試用OpenJ9,這個(gè)免費(fèi)的替代JVM已經(jīng)從IBM J9開(kāi)源,現(xiàn)在由Eclipse維護(hù)。
請(qǐng)?jiān)谖业南乱黄┪模╤ttp://royvanrijn.com/blog/2018/05/openj9-jvm-shootout/)中閱讀關(guān)于OpenJ9的更多信息。
它運(yùn)行速度快,內(nèi)存管理非常好,性能卓越,經(jīng)?梢詾槲覀兊奈⒎⻊(wù)節(jié)省多達(dá)30-50%的內(nèi)存。這幾乎可以將Spring Boot應(yīng)用程序定義為’micro’了,其運(yùn)行時(shí)間只有100-200mb,而不是300mb+。我打算盡快就此寫(xiě)一篇關(guān)于這方面的文章。
但令我驚訝的是,OpenJ9還沒(méi)有類似于Java 8/9/10+中針對(duì)cgroup內(nèi)存限制的標(biāo)志(backported)的選項(xiàng)。如果我們將以前的測(cè)試用例應(yīng)用到最新的AdoptAJDK OpenJDK 9 + OpenJ9 build:
shell dockerrun-m100m-itadoptopenjdk/openjdk9-openj9/bin/bash
我們添加OpenJDK標(biāo)志(OpenJ9會(huì)忽略的標(biāo)志):
shell java-XX:+UnlockExperimentalVMOptions-XX:+UseCGroupMemoryLimitForHeapMemEat...freememory:83988984freememory:82940400freememory:81891816Killed
Oops,JVM再次被Docker殺死。
我真的希望類似的選項(xiàng)將很快添加到OpenJ9中,因?yàn)槲蚁M谏a(chǎn)環(huán)境中運(yùn)行這個(gè)選項(xiàng),而不必指定最大內(nèi)存兩次。 Eclipse/IBM正在努力修復(fù)這個(gè)問(wèn)題,已經(jīng)提了issues,甚至已經(jīng)針對(duì)issues提交了PR。
更新:(不推薦Hack)
一個(gè)稍微丑陋/hacky的方式來(lái)解決這個(gè)問(wèn)題是使用下面的組合標(biāo)志:
shell java-Xmx`cat/sys/fs/cgroup/memory/memory.limit_in_bytes`MemEat...freememory:3171536freememory:2127048freememory:2397632freememory:1344952JVMDUMP039IProcessingdumpevent"systhrow",detail"java/lang/OutOfMemoryError"at2018/05/1514:04:26-pleasewait.JVMDUMP032IJVMrequestedSystemdumpusing'//core.20180515.140426.125.0001.dmp'inresponsetoaneventJVMDUMP010ISystemdumpwrittento//core.20180515.140426.125.0001.dmpJVMDUMP032IJVMrequestedHeapdumpusing'//heapdump.20180515.140426.125.0002.phd'inresponsetoaneventJVMDUMP010IHeapdumpwrittento//heapdump.20180515.140426.125.0002.phdJVMDUMP032IJVMrequestedJavadumpusing'//javacore.20180515.140426.125.0003.txt'inresponsetoaneventJVMDUMP010IJavadumpwrittento//javacore.20180515.140426.125.0003.txtJVMDUMP032IJVMrequestedSnapdumpusing'//Snap.20180515.140426.125.0004.trc'inresponsetoaneventJVMDUMP010ISnapdumpwrittento//Snap.20180515.140426.125.0004.trcJVMDUMP013IProcesseddumpevent"systhrow",detail"java/lang/OutOfMemoryError".Exceptioninthread"main"java.lang.OutOfMemoryError:Javaheapspace atMemEat.main(MemEat.java:8)
在這種情況下,堆大小受限于分配給Docker實(shí)例的內(nèi)存,這適用于較舊的JVM和OpenJ9。這當(dāng)然是錯(cuò)誤的,因?yàn)槿萜鞅旧砗投淹獾腏VM的其他部分也使用內(nèi)存。但它似乎工作,顯然Docker在這種情況下是寬松的。也許某些bash大神會(huì)做出更好的版本,從其他進(jìn)程的字節(jié)中減去一部分。
無(wú)論如何,不要這樣做,它可能無(wú)法正常工作。
測(cè)試六:OpenJ9(Nightly)
有人建議使用OpenJ9的最新nightly版本。
shell dockerrun-m100m-itadoptopenjdk/openjdk9-openj9:nightly/bin/bash
最新的OpenJ9夜間版本,它有兩個(gè)東西:
另一個(gè)有問(wèn)題的PATH參數(shù),需要先解決這個(gè)問(wèn)題
JVM支持新標(biāo)志UseContainerSupport(就像Java 10一樣)
shell exportPATH=$PATH:/opt/java/openjdk/jdk-9.0.4+12/bin/javacMemEat.java java-XX:+UseContainerSupportMemEat...freememory:5864464freememory:4815880freememory:3443712freememory:2391032JVMDUMP039IProcessingdumpevent"systhrow",detail"java/lang/OutOfMemoryError"at2018/05/1521:32:07-pleasewait.JVMDUMP032IJVMrequestedSystemdumpusing'//core.20180515.213207.62.0001.dmp'inresponsetoaneventJVMDUMP010ISystemdumpwrittento//core.20180515.213207.62.0001.dmpJVMDUMP032IJVMrequestedHeapdumpusing'//heapdump.20180515.213207.62.0002.phd'inresponsetoaneventJVMDUMP010IHeapdumpwrittento//heapdump.20180515.213207.62.0002.phdJVMDUMP032IJVMrequestedJavadumpusing'//javacore.20180515.213207.62.0003.txt'inresponsetoaneventJVMDUMP010IJavadumpwrittento//javacore.20180515.213207.62.0003.txtJVMDUMP032IJVMrequestedSnapdumpusing'//Snap.20180515.213207.62.0004.trc'inresponsetoaneventJVMDUMP010ISnapdumpwrittento//Snap.20180515.213207.62.0004.trcJVMDUMP013IProcesseddumpevent"systhrow",detail"java/lang/OutOfMemoryError".Exceptioninthread"main"java.lang.OutOfMemoryError:Javaheapspace
TADAAA,正在修復(fù)中!
奇怪的是,這個(gè)標(biāo)志在OpenJ9中默認(rèn)沒(méi)有啟用,就像它在Java 10中一樣。再說(shuō)一次:確保你測(cè)試了這是你想在一個(gè)Docker容器中運(yùn)行Java。
結(jié)論
簡(jiǎn)言之:注意資源限制的不匹配。測(cè)試你的內(nèi)存設(shè)置和JVM標(biāo)志,不要假設(shè)任何東西。
如果您在Docker容器中運(yùn)行Java,請(qǐng)確保你設(shè)置了Docker內(nèi)存限制和在JVM中也做了限制,或者你的JVM能夠理解這些限制。
如果您無(wú)法升級(jí)您的Java版本,請(qǐng)使用-Xmx設(shè)置您自己的限制。
對(duì)于Java 8和Java 9,請(qǐng)更新到最新版本并使用:
-XX:+UnlockExperimentalVMOptions-XX:+UseCGroupMemoryLimitForHeap
對(duì)于Java 10,確保它支持’UseContainerSupport’(更新到最新版本)。
對(duì)于OpenJ9(我強(qiáng)烈建議使用,可以在生產(chǎn)環(huán)境中有效減少內(nèi)存占用量),現(xiàn)在使用-Xmx設(shè)置限制,但很快會(huì)出現(xiàn)一個(gè)支持UseContainerSupport標(biāo)志的版本。
標(biāo)簽: 虛擬化 應(yīng)用程序
版權(quán)申明:本站文章部分自網(wǎng)絡(luò),如有侵權(quán),請(qǐng)聯(lián)系:west999com@outlook.com
特別注意:本站所有轉(zhuǎn)載文章言論不代表本站觀點(diǎn)!
本站所提供的圖片等素材,版權(quán)歸原作者所有,如需使用,請(qǐng)與原作者聯(lián)系。