<div dir="auto">I agree about capacity to do work. What I don't agree with is that you can change concurrency to increase throughput in Little's law - not more than you can change acceleration to increase force.<div dir="auto"><br></div><div dir="auto">And I don't agree that the common bottleneck is the lack of threads - 10k threads on 100 CPUs is not much; 10k longlived threads on 1 CPU is 99.99% waiting. Shortlived threads, or thread per request, isn't really about concurrency in Little's law.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto">Alex</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, 15 Jul 2022, 15:05 Pedro Lamarão, <<a href="mailto:pedro.lamarao@prodist.com.br">pedro.lamarao@prodist.com.br</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr">Em sex., 15 de jul. de 2022 às 05:39, Alex Otenko <<a href="mailto:oleksandr.otenko@gmail.com" target="_blank" rel="noreferrer">oleksandr.otenko@gmail.com</a>> escreveu:<br></div><div class="gmail_quote"><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto">Adding threads allows to do more work. But you can't do more work at will - the amount of work going through the system is a quantity independent of your design.</div></div></blockquote><div><br></div><div>I think that, more precisely, the maximum amount of work that can go through a concrete system is a quantity independent of programmer design.</div><div>Nobody is arguing that increasing the quantity of threads will increase work throughput in a machine with devices already at full capacity.</div><div>What is being argued is that, since "task" is one of the machine's "devices" consumed to do work, </div><div>increasing the capacity for "tasks" increases the maximum amount of work that can go through etc.</div><div>If there are free processors, free memory, free network bandwidth, free storage bandwidth etc. etc. then doing more work concurrently will increase work throughput.</div></div><div><br></div>-- <br><div dir="ltr"><div dir="ltr">Pedro Lamarão<br></div></div></div>
</blockquote></div>