<div dir="ltr"><div dir="ltr">Maurizio,<div><br></div><div>Going through my inbox after sending the last message, somehow I missed this email.</div><div><br></div><div>Thanks a ton for such a comprehensive answer</div><div>(I ought to start collecting these in a scrapbook for good measure!)</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i>Finally, it is possible that we will introduce a new kind of memory<br>session that is confined not to a single thread, but to an _extent_<br>instead. This means that all threads created in a single extent will be<br>able to access a given memory segment, but threads outside that extent<br>will not be able to do so.</i></blockquote><div><br></div><div>This sounds like it would be fantastic, especially if you can piggyback off of</div><div>work & guarantees already provided by the Loom scheduler/executors.</div><div><br></div><div>It feels like there are a _lot_ of usecases where such "extent-local" memory sharing would be beneficial,</div><div>maybe it even unlocks some uses that the JVM wasn't viable for before -- who knows?</div><div><br></div><div>This would be an integration with the compiler, and not just a Java library-side feature if I understand it correctly?</div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Mon, Sep 12, 2022 at 8:57 AM Maurizio Cimadamore <<a href="mailto:maurizio.cimadamore@oracle.com">maurizio.cimadamore@oracle.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Hi Gavin,<br>
whether you can access a memory segment from multiple threads or not <br>
generally depends on the memory session attached to the segment. If you <br>
create a segment with a "shared" memory session, then the resulting <br>
segment will be accessible in a "racy" way from multiple threads. If the <br>
session associated with the segment is confined, only one thread can <br>
access. When accessing memory in a segment that is shared, some <br>
synchronization has to occur between the accessing threads to make sure <br>
they don't step on each other toes. With Panama, if you have VarHandle <br>
for memory access, you have a big set of memory access operations at <br>
your disposal, dependning on the level of synchronization required (e.g. <br>
plain access, acquire/relese access, volatile access, atomic access).<br>
<br>
Then there's Loom. From Panama perspective, a virtual thread is just a <br>
thread, so if you want to grant a memory segment access from multiple <br>
virtual threads you need a shared session.<br>
<br>
Then there's List itself. Reading and writing on that list concurrently <br>
from multiple thread can itself lead to issues (e.g. missing updates). <br>
So, in general, when accessing data structures from multiple threads, <br>
you either need a data structure that is concurrent by design (e.g. <br>
concurrent hash map, or blocking queue, etc.). Or you need to roll in <br>
your synchronization code. What the right answer is often depends on the <br>
nature of your application.<br>
<br>
Finally, it is possible that we will introduce a new kind of memory <br>
session that is confined not to a single thread, but to an _extent_ <br>
instead. This means that all threads created in a single extent will be <br>
able to access a given memory segment, but threads outside that extent <br>
will not be able to do so. This would be a good addition when working <br>
with virtual threads, because in the case of virtual threads some <br>
additional bookkeeping is set up by the JDK runtime so that, e.g. when <br>
using a StructuredTaskScope, it is not possible to close the task scope <br>
before all the threads forked by that scope have completed. This gives <br>
the memory session API a very nice semantics for its close() operation, <br>
that we'd like to take advantage of at some point.<br>
<br>
Thanks<br>
Maurizio<br>
<br>
On 10/09/2022 16:11, Gavin Ray wrote:<br>
> Reading through the docs for the Extent-Local preview, I was trying to <br>
> understand whether<br>
> this would be usable for sharing a buffer/memory pool across virtual <br>
> threads?<br>
><br>
> Suppose you have some class:<br>
><br>
> class BufferPool {<br>
>   private List<MemorySegment> buffers;<br>
> }<br>
><br>
> The document says that the data must be immutable<br>
> But there is "interior" immutability, and "surface" immutability<br>
><br>
> If multiple virtual threads shared the memory and some potentially<br>
> perform write operations on the MemorySegment's inside of the list<br>
> would that be valid behavior?<br>
><br>
> Or does this even make sense to do?<br>
> (Concurrency/parallelism are probably the things I know the least <br>
> about in software)<br>
><br>
><br>
</blockquote></div>