<HTML><HEAD></HEAD>
<BODY dir=ltr>
<DIV dir=ltr>
<DIV style="FONT-SIZE: 12pt; FONT-FAMILY: 'Calibri'; COLOR: #000000">
<DIV>The most common case of non-determinism is multithreaded BLAS/LAPACK 
libraries from MKL or OpenBLAS. Those are generally not exactly deterministic 
beyond machine precision unless you run them with a single thread. Some of the 
multithreaded sparse linear solvers like MA86 are also non-deterministic due to 
parallelism. If you really want to hunt this down, as I said in those linked 
threads from last year, set a high print level and output the logs to different 
files, to compare whether everything is truly starting at exactly the same 
point, and if so, where things start differing and by how much. With complicated 
non-convex problems, it’s entirely possible that initially very minor numerical 
roundoff differences can accumulate and eventually lead Ipopt down a different 
convergence path to a different solution.</DIV>
<DIV>&nbsp;</DIV>
<DIV>-Tony</DIV>
<DIV>&nbsp;</DIV>
<DIV 
style='FONT-SIZE: small; TEXT-DECORATION: none; FONT-FAMILY: "Calibri"; FONT-WEIGHT: normal; COLOR: #000000; FONT-STYLE: normal; DISPLAY: inline'>
<DIV style="FONT: 10pt tahoma">
<DIV>&nbsp;</DIV>
<DIV style="BACKGROUND: #f5f5f5">
<DIV style="font-color: black"><B>From:</B> <A title=ipoptuser@gmail.com 
href="mailto:ipoptuser@gmail.com">Ipopt User</A> </DIV>
<DIV><B>Sent:</B> Thursday, November 13, 2014 5:35 AM</DIV>
<DIV><B>To:</B> <A title=Guy.Charles@redbulltechnology.com 
href="mailto:Guy.Charles@redbulltechnology.com">Guy Charles</A> </DIV>
<DIV><B>Cc:</B> <A title=ipopt@list.coin-or.org 
href="mailto:ipopt@list.coin-or.org">ipopt@list.coin-or.org</A> </DIV>
<DIV><B>Subject:</B> Re: [Ipopt] Is ipopt deterministic?</DIV></DIV></DIV>
<DIV>&nbsp;</DIV></DIV>
<DIV 
style='FONT-SIZE: small; TEXT-DECORATION: none; FONT-FAMILY: "Calibri"; FONT-WEIGHT: normal; COLOR: #000000; FONT-STYLE: normal; DISPLAY: inline'>
<DIV dir=ltr>IPOPT itself is fully deterministic, but some dependencies may not 
be deterministic. Please see <A 
href="http://list.coin-or.org/pipermail/ipopt/2013-April/003337.html">http://list.coin-or.org/pipermail/ipopt/2013-April/003337.html</A> 
and <A 
href="http://list.coin-or.org/pipermail/ipopt-tickets/2013-March/000635.html">http://list.coin-or.org/pipermail/ipopt-tickets/2013-March/000635.html</A> 
for possible explanations of the behavior you are seeing. </DIV>
<DIV class=gmail_extra>
<DIV>&nbsp;</DIV>
<DIV class=gmail_quote>On Thu, Nov 13, 2014 at 6:35 AM, Guy Charles <SPAN 
dir=ltr>&lt;<A href="mailto:Guy.Charles@redbulltechnology.com" 
target=_blank>Guy.Charles@redbulltechnology.com</A>&gt;</SPAN> wrote:<BR>
<BLOCKQUOTE class=gmail_quote 
style="PADDING-LEFT: 1ex; MARGIN: 0px 0px 0px 0.8ex; BORDER-LEFT: #ccc 1px solid">
  <DIV lang=EN-GB vlink="#954F72" link="#0563C1">
  <DIV>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Hi,<U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">More out of curiosity 
  really:&nbsp; <U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">At times I’m getting some 
  non-deterministic behaviour in my iterations and no of iterations before Ipopt 
  finds an optimum.&nbsp; Despite running the same script twice in a row with 
  identical conditions, I may get different results.&nbsp; I assume that the 
  ‘error’ is in my function calls, scripts or layers of code between ipopt and 
  the function calls, but I thought I should double check that Ipopt is 
  completely deterministic.<U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Should ipopt be completely 
  deterministic from each isolated solve call?<U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Is there any random jitter 
  added in when it encounters an issue?&nbsp; <U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Would a badly scaled problem 
  cause non-deterministic issues w.r.t numerical precision?&nbsp; 
  <U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Is it possibly that anything 
  in the linear solvers that could cause this?<U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Thanks in advance for any 
  help,<U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN style="COLOR: #1f497d">Guy<U></U><U></U></SPAN></P>
  <P class=MsoNormal><SPAN 
style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P>
  <P class=MsoNormal><SPAN 
  style="COLOR: #1f497d"><U></U><U></U></SPAN>&nbsp;</P></DIV><BR 
  clear=both>______________________________________________________________________<BR>This 
  email has been scanned by the Symantec Email Security.cloud service.<BR>For 
  more information please visit <A href="http://www.symanteccloud.com" 
  target=_blank>http://www.symanteccloud.com</A><BR>______________________________________________________________________<BR></DIV><BR>_______________________________________________<BR>Ipopt 
  mailing list<BR><A 
  href="mailto:Ipopt@list.coin-or.org">Ipopt@list.coin-or.org</A><BR><A 
  href="http://list.coin-or.org/mailman/listinfo/ipopt" 
  target=_blank>http://list.coin-or.org/mailman/listinfo/ipopt</A><BR><BR></BLOCKQUOTE></DIV>
<DIV>&nbsp;</DIV></DIV>
<P>
<HR>
_______________________________________________<BR>Ipopt mailing 
list<BR>Ipopt@list.coin-or.org<BR>http://list.coin-or.org/mailman/listinfo/ipopt<BR></DIV></DIV></DIV></BODY></HTML>