Dear Prof. Marks,<div><br></div><div>   Thank you again !!</div><div>   I will try  it.</div><div>   All the best,</div><div>                      Luis Ogando</div><div><br></div><div><br><br><div class="gmail_quote">2013/2/20 Laurence Marks <span dir="ltr">&lt;<a href="mailto:L-marks@northwestern.edu" target="_blank">L-marks@northwestern.edu</a>&gt;</span><br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hmmm.<br>
<br>
This is my parallel_options on a machine with openmpi:<br>
<br>
setenv USE_REMOTE 1<br>
setenv MPI_REMOTE 0<br>
setenv WIEN_GRANULARITY 1<br>
setenv WIEN_MPIRUN &quot;mpirun -x LD_LIBRARY_PATH -x PATH -np _NP_<br>
-machinefile _HOSTS_ _EXEC_&quot;<br>
set a=`grep -e &quot;1:&quot; .machines | grep -v lapw0 | head -1 | cut -f 3 -d:<br>
| cut -c 1-2`<br>
#echo $a<br>
setenv MKL_NUM_THREADS $a<br>
setenv OMP_NUM_THREADS $a<br>
setenv MKL_DYNAMIC FALSE<br>
#echo MKL $MKL_NUM_THREADS $OMP_NUM_THREADS $MKL_DYNAMIC<br>
if (-e local_options ) source local_options<br>
set remote = &quot;/bin/csh $WIENROOT/pbsh&quot;<br>
<br>
The command pbsh should be in SRC_mpiutil at<br>
<a href="http://www.wien2k.at/reg_user/unsupported/" target="_blank">http://www.wien2k.at/reg_user/unsupported/</a> which has a few other<br>
things, let me know if I forgot to include it. It is<br>
<br>
mpirun -x LD_LIBRARY_PATH -x PATH -np 1 --host $1 /bin/csh -c &quot; $2 &quot;<br>
<br>
What this does is use mpirun locally for everything rather than<br>
communicating via ssh and spawning processes which can sometimes be a<br>
problem with openmpi.<br>
<div class="im HOEnZb"><br>
<br>
On Wed, Feb 20, 2013 at 10:45 AM, Luis Ogando &lt;<a href="mailto:lcodacal@gmail.com">lcodacal@gmail.com</a>&gt; wrote:<br>
&gt; Dear Prof. Marks,<br>
&gt;<br>
&gt;    Thank you very much for your prompt answer.<br>
&gt;    I am using openmpi, but I believe that I am facing some of the tricky<br>
&gt; issues you mentioned. I work in a SMP machine and the calculation starts<br>
&gt; fine. After some tens of iterations, MPI suddenly asks for a password and<br>
&gt; everything goes down to the drain.<br>
&gt;    I am using open mpi 1.6. Do you recommend any older version ??<br>
</div><div class="im HOEnZb">&gt;    All the best,<br>
&gt;                   Luis Ogando<br>
&gt;<br>
&gt;<br>
&gt;<br>
&gt;<br>
</div><div class="HOEnZb"><div class="h5">&gt; 2013/2/20 Laurence Marks &lt;<a href="mailto:L-marks@northwestern.edu">L-marks@northwestern.edu</a>&gt;<br>
&gt;&gt;<br>
&gt;&gt; One that works.<br>
&gt;&gt;<br>
&gt;&gt; Some versions of openmpi have problems although that is probably the<br>
&gt;&gt; best option for the future. There are some tricky issues with openmpi<br>
&gt;&gt; related to how your flavor of ssh works, there is no standard and some<br>
&gt;&gt; do not propogate kill commands which means that they can leave<br>
&gt;&gt; orphans.<br>
&gt;&gt;<br>
&gt;&gt; An alternative is mvapich. In a benchmark that I did a few months ago<br>
&gt;&gt; the Intel mpi was much better for AVX instructions, but that may have<br>
&gt;&gt; changed.<br>
&gt;&gt;<br>
&gt;&gt; Openmpi is easy to compile; mvapich can be a little trickier.<br>
&gt;&gt;<br>
&gt;&gt; N.B., if you have fast connections, e.g. infiniband, they are more<br>
&gt;&gt; than fast enough and I have never seen this as rate limiting with<br>
&gt;&gt; Wien2k. With ethernet it matters.<br>
&gt;&gt;<br>
&gt;&gt; On Wed, Feb 20, 2013 at 10:29 AM, Luis Ogando &lt;<a href="mailto:lcodacal@gmail.com">lcodacal@gmail.com</a>&gt; wrote:<br>
&gt;&gt; &gt; Dear Wien2k community,<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt;    Is there any recommended flavor and version of an MPI compiler to use<br>
&gt;&gt; &gt; with &quot; Intel(R) Fortran Intel(R) 64 Compiler XE for applications running<br>
&gt;&gt; &gt; on<br>
&gt;&gt; &gt; Intel(R) 64, Version 12.0.3.174 Build 20110309 &quot; ?<br>
&gt;&gt; &gt;    All the best,<br>
&gt;&gt; &gt;                       Luis Ogando<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt;<br>
&gt;&gt; --<br>
&gt;&gt; Professor Laurence Marks<br>
&gt;&gt; Department of Materials Science and Engineering<br>
&gt;&gt; Northwestern University<br>
&gt;&gt; <a href="http://www.numis.northwestern.edu" target="_blank">www.numis.northwestern.edu</a> <a href="tel:1-847-491-3996" value="+18474913996">1-847-491-3996</a><br>
&gt;&gt; &quot;Research is to see what everybody else has seen, and to think what<br>
&gt;&gt; nobody else has thought&quot;<br>
&gt;&gt; Albert Szent-Gyorgi<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Wien mailing list<br>
&gt;&gt; <a href="mailto:Wien@zeus.theochem.tuwien.ac.at">Wien@zeus.theochem.tuwien.ac.at</a><br>
&gt;&gt; <a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien</a><br>
&gt;<br>
&gt;<br>
<br>
<br>
<br>
--<br>
Professor Laurence Marks<br>
Department of Materials Science and Engineering<br>
Northwestern University<br>
<a href="http://www.numis.northwestern.edu" target="_blank">www.numis.northwestern.edu</a> <a href="tel:1-847-491-3996" value="+18474913996">1-847-491-3996</a><br>
&quot;Research is to see what everybody else has seen, and to think what<br>
nobody else has thought&quot;<br>
Albert Szent-Gyorgi<br>
_______________________________________________<br>
Wien mailing list<br>
<a href="mailto:Wien@zeus.theochem.tuwien.ac.at">Wien@zeus.theochem.tuwien.ac.at</a><br>
<a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien</a><br>
</div></div></blockquote></div><br></div>