<tt><font size=2>&lt;&lt;Mathematically (and I think algorithmically)
these are equivalent</font></tt>
<br>
<br><font size=2 face="sans-serif">Not necessarily. Depends very much on
the context</font>
<br>
<br><font size=2 face="sans-serif">eg </font>
<br>
<br><font size=2 face="sans-serif">min_x max_i f_i(x)</font>
<br>
<br><font size=2 face="sans-serif">is non-smooth</font>
<br>
<br><font size=2 face="sans-serif">cf with</font>
<br>
<br><font size=2 face="sans-serif">min_x,z z</font>
<br>
<br><font size=2 face="sans-serif">subject to &nbsp;z&gt;= f_i(x)</font>
<br>
<br><font size=2 face="sans-serif">for an example</font>
<br>
<br>
<br><font size=2 color=blue face="Arial">Andrew R. Conn</font>
<br><font size=2 color=blue face="Arial">BM T. J. Watson Research Center</font>
<br>
<br>
<br>
<br><font size=1 color=#5f5f5f face="sans-serif">From: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">ipopt-request@list.coin-or.org</font>
<br><font size=1 color=#5f5f5f face="sans-serif">To: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">ipopt@list.coin-or.org,
</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Date: &nbsp; &nbsp; &nbsp;
&nbsp;</font><font size=1 face="sans-serif">06/13/2014 12:03 PM</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Subject: &nbsp; &nbsp;
&nbsp; &nbsp;</font><font size=1 face="sans-serif">Ipopt Digest,
Vol 114, Issue 7</font>
<br><font size=1 color=#5f5f5f face="sans-serif">Sent by: &nbsp; &nbsp;
&nbsp; &nbsp;</font><font size=1 face="sans-serif">ipopt-bounces@list.coin-or.org</font>
<br>
<hr noshade>
<br>
<br>
<br><tt><font size=2>Send Ipopt mailing list submissions to<br>
 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
ipopt@list.coin-or.org<br>
<br>
To subscribe or unsubscribe via the World Wide Web, visit<br>
 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
</font></tt><a href="http://list.coin-or.org/mailman/listinfo/ipopt"><tt><font size=2>http://list.coin-or.org/mailman/listinfo/ipopt</font></tt></a><tt><font size=2><br>
or, via email, send a message with subject or body 'help' to<br>
 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
ipopt-request@list.coin-or.org<br>
<br>
You can reach the person managing the list at<br>
 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
ipopt-owner@list.coin-or.org<br>
<br>
When replying, please edit your Subject line so it is more specific<br>
than &quot;Re: Contents of Ipopt digest...&quot;<br>
<br>
<br>
Today's Topics:<br>
<br>
 &nbsp; 1. Re: question on formulation of the objective function and<br>
 &nbsp; &nbsp; &nbsp;IPOPT performance (Greg Horn)<br>
<br>
<br>
----------------------------------------------------------------------<br>
<br>
Message: 1<br>
Date: Fri, 13 Jun 2014 14:36:51 +0200<br>
From: Greg Horn &lt;gregmainland@gmail.com&gt;<br>
To: Damien &lt;damien@khubla.com&gt;<br>
Cc: ipopt mailing list &lt;ipopt@list.coin-or.org&gt;<br>
Subject: Re: [Ipopt] question on formulation of the objective function<br>
 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
and IPOPT performance<br>
Message-ID:<br>
 &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp;
&lt;CAAr-h4v3uuR=cHmXqgNbBSXO_v4PGE7aLNGg8qdn+S1sTFvsPg@mail.gmail.com&gt;<br>
Content-Type: text/plain; charset=&quot;utf-8&quot;<br>
<br>
Hi Damien,<br>
<br>
Since no one has answered I'll take a shot at it, though it's not my<br>
expertise. The case you described is:<br>
<br>
minimize f(x) w.r.t {x}<br>
vs<br>
minimize y w.r.t {x,y}, subject to y == f(x)<br>
<br>
I'm not sure if there will be any difference in this case. However, I have<br>
had personal experience with:<br>
<br>
minimize f(g(x)) w.r.t {x} &nbsp; &nbsp; &nbsp;[prob1]<br>
vs<br>
minimize f(y) w.r.t. {x, y} subject to y == g(x) &nbsp; &nbsp;[prob2]<br>
<br>
In this case you can have significantly better convergence by &quot;lifting&quot;<br>
these variables out. [prob2] will compute a better search direction than<br>
[prob1]. This is why people use direct multiple shooting instead of direct<br>
single shooting sometimes. There are even specialized lifting solvers which<br>
can do linear algebra in the space of [prob1] and obtain the search<br>
direction in the space of [prob2], for example:<br>
</font></tt><a href="http://num.math.uni-bayreuth.de/en/conferences/ompc_2013/program/download/friday/Diehl_ompc2013.pdf"><tt><font size=2>http://num.math.uni-bayreuth.de/en/conferences/ompc_2013/program/download/friday/Diehl_ompc2013.pdf</font></tt></a><tt><font size=2><br>
<br>
Hope this helps,<br>
Greg<br>
<br>
<br>
On Wed, Jun 11, 2014 at 8:52 PM, Damien &lt;damien@khubla.com&gt; wrote:<br>
<br>
&gt; All,<br>
&gt;<br>
&gt; I'm looking at two ways to formulate the objective function in a new<br>
&gt; optimisation model. &nbsp;The first way is what you'd call the conventional
way<br>
&gt; I suppose, where you have a variety of variables contributing to the<br>
&gt; objective value and you calculate the gradient and return that to
IPOPT.<br>
&gt; &nbsp;The other way I'm considering is to equate the objective function
to a new<br>
&gt; variable in an extra equality constraint, and have the new variable
as the<br>
&gt; only variable in the objective, with a gradient of 1.0. &nbsp;The
new equality<br>
&gt; constraint then contributes first partial derivatives like any other<br>
&gt; equation or constraint.<br>
&gt;<br>
&gt; Mathematically (and I think algorithmically) these are equivalent,
but I<br>
&gt; was wondering if anyone who's done this before has seen a performance<br>
&gt; difference between the two.<br>
&gt;<br>
&gt; Cheers,<br>
&gt;<br>
&gt; Damien<br>
&gt; _______________________________________________<br>
&gt; Ipopt mailing list<br>
&gt; Ipopt@list.coin-or.org<br>
&gt; </font></tt><a href="http://list.coin-or.org/mailman/listinfo/ipopt"><tt><font size=2>http://list.coin-or.org/mailman/listinfo/ipopt</font></tt></a><tt><font size=2><br>
&gt;<br>
-------------- next part --------------<br>
An HTML attachment was scrubbed...<br>
URL: &lt;</font></tt><a href="http://list.coin-or.org/pipermail/ipopt/attachments/20140613/8e7a79b0/attachment-0001.html"><tt><font size=2>http://list.coin-or.org/pipermail/ipopt/attachments/20140613/8e7a79b0/attachment-0001.html</font></tt></a><tt><font size=2>&gt;<br>
<br>
------------------------------<br>
<br>
_______________________________________________<br>
Ipopt mailing list<br>
Ipopt@list.coin-or.org<br>
</font></tt><a href="http://list.coin-or.org/mailman/listinfo/ipopt"><tt><font size=2>http://list.coin-or.org/mailman/listinfo/ipopt</font></tt></a><tt><font size=2><br>
<br>
<br>
End of Ipopt Digest, Vol 114, Issue 7<br>
*************************************<br>
<br>
</font></tt>
<br>