<div dir="ltr">I have ~60 builders, but really only 8 or so that do any real work.  (I have lots of pseudo-builders to do things like clean out the source tree if I want to do a from-scratch build, etc...)  I could cut down on the number of builders if I need to, but greater than the any performance concerns is the fact that when my buildbot instance is under heavy load (many builders running at once) since the web ui does a separate ajax request for each builder, if the buildbot starts dropping responses (which has happened to me before) I can get an incomplete picture of the list of builders; some builders show up, some don't, and of those that show up some builds don't show up. I the webui used some kind of batch API where all builder statuses are returned at once, then either there would be no builders, or all builders with their statuses, instead of a kind of mixture.<div><br></div><div>The above problem hasn't happened since I switched over to HTTP2/postgresql, so perhaps that is the solution, I'll keep using the buildbot and let you know.<br><div>-E</div></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Mon, Jan 16, 2017 at 2:30 AM, Pierre Tardy <span dir="ltr"><<a href="mailto:tardyp@gmail.com" target="_blank">tardyp@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Hi Elliot,<div>Actually, after more investigation, the slowness of <a href="http://nine.bb.net" target="_blank">nine.bb.net</a> I got was just due to latencies between EU(where I am) and US (where <a href="http://buildbot.net" target="_blank">buildbot.net</a> infra is)</div><div><br></div><div>I looked at your trace, I can only see one place with 100%cpu for a while, and that is while fetching the list of builders.</div><div>How many builders do you have?</div><span class="HOEnZb"><font color="#888888"><div><br></div><div>Pierre</div></font></span></div><div class="HOEnZb"><div class="h5"><br><div class="gmail_quote"><div dir="ltr">Le sam. 14 janv. 2017 à 10:30, Pierre Tardy <<a href="mailto:tardyp@gmail.com" target="_blank">tardyp@gmail.com</a>> a écrit :<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr" class="m_-1336165069947099865gmail_msg">Hi Elliot,<div class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div class="m_-1336165069947099865gmail_msg">I was looking at such slowdowns yesterday on <a href="http://nine.buildbot.net" class="m_-1336165069947099865gmail_msg" target="_blank">nine.buildbot.net</a></div><div class="m_-1336165069947099865gmail_msg">For example <a href="https://nine.buildbot.net/#/builders/2/builds/87278" class="m_-1336165069947099865gmail_msg" target="_blank">https://nine.buildbot.<wbr>net/#/builders/2/builds/87278</a> <wbr>take 300-600ms per http request. Which makes the full page load to 20s !</div><div class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div class="m_-1336165069947099865gmail_msg">I am not sure yet what is the reason, as when I built <a href="http://nine.bb.net" class="m_-1336165069947099865gmail_msg" target="_blank">nine.bb.net</a> in the first time, things were much much smoother.</div><div class="m_-1336165069947099865gmail_msg">The DB now has 90k+ builds so this might be sqlite not scaling. I need to do more tests.</div><div class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div class="m_-1336165069947099865gmail_msg">An easy way to speed up the UI is to enable http2</div><div class="m_-1336165069947099865gmail_msg"><a href="https://github.com/buildbot/buildbot-infra/pull/167/files" class="m_-1336165069947099865gmail_msg" target="_blank">https://github.com/buildbot/<wbr>buildbot-infra/pull/167/files</a><br class="m_-1336165069947099865gmail_msg"></div><div class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div class="m_-1336165069947099865gmail_msg">You can also run <a href="https://github.com/tardyp/buildbot_profiler" class="m_-1336165069947099865gmail_msg" target="_blank">https://github.com/tardyp/<wbr>buildbot_profiler</a> and tell us what you get.</div><div class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div class="m_-1336165069947099865gmail_msg">Regards,</div><div class="m_-1336165069947099865gmail_msg">Pierre</div></div><br class="m_-1336165069947099865gmail_msg"><div class="gmail_quote m_-1336165069947099865gmail_msg"><div dir="ltr" class="m_-1336165069947099865gmail_msg">Le sam. 14 janv. 2017 à 09:31, Elliot Saba <<a href="mailto:staticfloat@gmail.com" class="m_-1336165069947099865gmail_msg" target="_blank">staticfloat@gmail.com</a>> a écrit :<br class="m_-1336165069947099865gmail_msg"></div><blockquote class="gmail_quote m_-1336165069947099865gmail_msg" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr" class="m_-1336165069947099865gmail_msg"><span style="font-size:12.8px" class="m_-1336165069947099865gmail_msg">I have noticed that the web interface in Nine has significantly worse performance than in 0.8.14.  By significantly worse performance, I mean that when there are multiple builds going on, the web interface takes many seconds to load, and often times out so that I have to reload my browser a few times to get all the elements to load.  Sometimes I will open the "builders" page, and only a subset of all the builder rows will populate the lists because some of the requests will timeout.</span><div style="font-size:12.8px" class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div style="font-size:12.8px" class="m_-1336165069947099865gmail_msg">Could this be because of a misconfiguration, or is this simply part of the transition over to the new codebase?  I don't really know where to begin testing in order to narrow down what is causing the slowdowns.</div><div style="font-size:12.8px" class="m_-1336165069947099865gmail_msg"><br class="m_-1336165069947099865gmail_msg"></div><div style="font-size:12.8px" class="m_-1336165069947099865gmail_msg">Thanks,</div><div style="font-size:12.8px" class="m_-1336165069947099865gmail_msg">-E</div></div>
______________________________<wbr>_________________<br class="m_-1336165069947099865gmail_msg">
users mailing list<br class="m_-1336165069947099865gmail_msg">
<a href="mailto:users@buildbot.net" class="m_-1336165069947099865gmail_msg" target="_blank">users@buildbot.net</a><br class="m_-1336165069947099865gmail_msg">
<a href="https://lists.buildbot.net/mailman/listinfo/users" rel="noreferrer" class="m_-1336165069947099865gmail_msg" target="_blank">https://lists.buildbot.net/<wbr>mailman/listinfo/users</a></blockquote></div></blockquote></div>
</div></div></blockquote></div><br></div>