<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40" xmlns:ns0="http://tempuri.org/XMLSchema.xsd"><head><META HTTP-EQUIV="Content-Type" CONTENT="text/html; charset=us-ascii"><meta name=Generator content="Microsoft Word 12 (filtered medium)"><style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri","sans-serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri","sans-serif";
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:70.85pt 70.85pt 2.0cm 70.85pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]--></head><body lang=DE link=blue vlink=purple><div class=WordSection1><p class=MsoNormal><span lang=EN-US>Hi,<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>I am Goetz Lindenmaier from SAP AG, working in the SAP JVM Jit Team.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>We found an issue loading jni libraries where the stack is set to &#8216;execstack&#8217;, or<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>where this flag is not set at all.&nbsp; After loading such a library, the stack guard<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>pages are lost and though stack overflows can no more be detected.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>We had a lot of libraries in our test systems where the execstack<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>flag was missing.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>This webrev contains a small test and a possible fix for the problem:<o:p></o:p></span></p><p class=MsoNormal><a href="http://www.sapjvm.com/gl/webrevs/noexecstack/"><span lang=EN-US>http://www.sapjvm.com/gl/webrevs/noexecstack/</span></a><span lang=EN-US><o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>As I don&#8217;t have a bug ID yet, I just used an arbitrary number to make<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>the test executable with jtreg .&nbsp; Please open a bug for this issue.&nbsp; <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>I&#8217;ll fix the test if I have a proper number.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>This problem exists since 7019808, which adds &#8211;z noexecstack to the<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>linker command on linux.&nbsp; <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>The fix I propose does the following:<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>It reads the elf file to detect whether loading the library can change <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>stack properties.&nbsp; If so, it requests a safepoint and loads the library<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>during the safepoint.&nbsp; After loading the library, it tests the guard<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>pages with SafeFetch.&nbsp; If they are no more protected, it reprotects<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>the guard pages of all Java stacks.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>There might be cases where reading the elf file does not suffice<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>to know that the stack access rights will change.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>As I understand, if a properly compiled jni library loads another <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>library which requires execstack, the stack changes access rights, too.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>This is detected by the SafeFetch, and the stacks are fixed.&nbsp; But in <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>this case the stacks are unprotected for a short time.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>To improve on this, one would have to request a SafePoint for each<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>library loaded.&nbsp; But anyways, there is no bulletproof solution, <o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>as the loaded code could do an mprotect() at some point.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US>Best regards,<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US>&nbsp; Goetz.<o:p></o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span lang=EN-US><o:p>&nbsp;</o:p></span></p></div></body></html>