Thank you. I found related contents in sec 5.5.5. I understand it now. <br><br><br><br><div class="gmail_quote">On Fri, Feb 22, 2013 at 3:05 PM, Peter Blaha <span dir="ltr">&lt;<a href="mailto:pblaha@theochem.tuwien.ac.at" target="_blank">pblaha@theochem.tuwien.ac.at</a>&gt;</span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">No. Please read the UG about parallelization. k-point parallelization is done via scripts.<br>
<br>
Am 22.02.2013 20:28, schrieb Long Zhang:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="im">
Thank you for the information.<br>
I think I had wrong idea about k-point parallel. If it doesn&#39;t use<br>
OpenMP then it&#39;s perfectly fine for me. I&#39;ll drop the idea of<br>
finegrained parallel in this installation.<br>
<br>
Just want to confirm, for using k-point parallel only, MPICH2 is still<br>
required, is that right?<br>
<br>
Thanks.<br>
Long<br>
<br>
<br>
<br>
<br>
On Fri, Feb 22, 2013 at 11:04 AM, Laurence Marks<br></div><div class="im">
&lt;<a href="mailto:L-marks@northwestern.edu" target="_blank">L-marks@northwestern.edu</a> &lt;mailto:<a href="mailto:L-marks@northwestern.edu" target="_blank">L-marks@northwestern.<u></u>edu</a>&gt;&gt; wrote:<br>
<br>
    As Peter said, the simplest approach is just k-point parallel which<br>
    does not need OpenMP. The rate limiting steps are lapack calls which<br>
    the Intel mkl is good for.<br>
<br>
    Whether mpi is good for a small cluster such as you have in not so<br>
    clear. Peter has benchmarked the mpi version and his conclusion is<br>
    that it is not useful; I have benchmarked on my cluster and I have<br>
    consistently found the mpi versions to be faster than the Intel<br>
    threading. I suspect that it really depends upon many details specific<br>
    to the systems, for instance cross-core optimizations, network and<br>
    memory speed....<br>
<br>
    Not a complete answer, but for certain the simplest approach is to<br>
    just use k-point parallel.<br>
<br>
    On Fri, Feb 22, 2013 at 9:55 AM, Long Zhang &lt;<a href="mailto:lzhang6789@gmail.com" target="_blank">lzhang6789@gmail.com</a><br></div><div class="im">
    &lt;mailto:<a href="mailto:lzhang6789@gmail.com" target="_blank">lzhang6789@gmail.com</a>&gt;&gt; wrote:<br>
     &gt;<br>
     &gt; That&#39;s true I agree. If the k-point parallel version does not<br>
    need mpi, then<br>
     &gt; it&#39;s OpenMP I suppose (please correct me if it&#39;s not). But I<br>
    really don&#39;t<br>
     &gt; want to run OpenMP because it will mess my other applications up.<br>
     &gt;<br>
     &gt; I am building it on a small server of 2 Opteron 12-core cpus.<br>
    It&#39;s just a<br>
     &gt; dual-cpu system, not a cluster. I am not sure if I can gain<br>
    enough speed-up<br>
     &gt; by using 24 cores. Anyway if I want a little k-point parallel,<br>
    can I choice<br>
     &gt; to use mpi? or there is no such choice at all?<br>
     &gt;<br>
     &gt; Thank you very much.<br>
     &gt; Long<br>
     &gt;<br>
     &gt;<br>
     &gt; On Fri, Feb 22, 2013 at 3:07 AM, Peter Blaha<br></div>
    &lt;<a href="mailto:pblaha@theochem.tuwien.ac.at" target="_blank">pblaha@theochem.tuwien.ac.at</a> &lt;mailto:<a href="mailto:pblaha@theochem.tuwien.ac.at" target="_blank">pblaha@theochem.<u></u>tuwien.ac.at</a>&gt;&gt;<div>
<div class="h5"><br>
     &gt; wrote:<br>
     &gt;&gt;<br>
     &gt;&gt; I keep saying this all the time:<br>
     &gt;&gt;<br>
     &gt;&gt; The mpi-parallel version needs special hardware !<br>
     &gt;&gt;<br>
     &gt;&gt; It is not of much use on a single quadcore-cpu.<br>
     &gt;&gt; A cluster needs a fast network like infiniband.<br>
     &gt;&gt;<br>
     &gt;&gt; Only then the installation of the mpi-version make sense.<br>
     &gt;&gt;<br>
     &gt;&gt; We have a k-point parallel version, which does not need mpi, but is<br>
     &gt;&gt; perfect for a small cluster with a common NFS filesystem.<br>
     &gt;&gt;<br>
     &gt;&gt;<br>
     &gt;&gt; Am 22.02.2013 06:20, schrieb Long Zhang:<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; Hello,<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; I am trying to install the current version 12.1 on Ubuntu 12.04<br>
     &gt;&gt;&gt; (64-bit). I met some problem related to mpi, can someone please<br>
    give me<br>
     &gt;&gt;&gt; some hint? Thanks in advance.<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; The situation is like this, on a freshly installed Ubuntu 12.04<br>
    64bit, I<br>
     &gt;&gt;&gt; installed current version Intel Fortran Composer XE 2013.2.146, and<br>
     &gt;&gt;&gt; installed MPICH2 and FFTW3 via Ubuntu Software Center.<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; Before run the siteconfig_lapw, I checked<br>
     &gt;&gt;&gt; which ifort<br>
     &gt;&gt;&gt; /opt/intel/composer_xe_2013.2.<u></u>146/bin/intel64/ifort<br>
     &gt;&gt;&gt; which mpif90<br>
     &gt;&gt;&gt; /usr/bin/mpif90<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; and did the following 3 lines in the terminal<br>
     &gt;&gt;&gt; source /opt/intel/composer_xe_2013.2.<u></u>146/bin/compilervars.sh<br>
    intel64<br>
     &gt;&gt;&gt; export<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt;<br>
    LD_LIBRARY_PATH=$LD_LIBRARY_<u></u>PATH:/opt/intel/composer_xe_<u></u>2013.2.146/mkl/lib/intel64<br>
     &gt;&gt;&gt; export MKLROOT=/opt/intel/composer_<u></u>xe_2013.2.146/mkl/<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; Then I run the siteconfig_lapw, and selected system as<br>
    &quot;ifort12+mkl&quot;<br>
     &gt;&gt;&gt; (the first one), selected compilers as &quot;ifort&quot; and &quot;cc&quot;, selected<br>
     &gt;&gt;&gt; &quot;finegrained parallel&quot; and &quot;mpif90&quot;, and got error message like<br>
    this:<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; ------------------------------<u></u>----------------- cut1<br>
     &gt;&gt;&gt; ------------------------------<u></u>-----------------<br>
     &gt;&gt;&gt; Compile time errors (if any) were:<br>
     &gt;&gt;&gt; SRC_hf/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_hf/compile.msg:make: *** [rp] Error 2<br>
     &gt;&gt;&gt; SRC_hf/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_hf/compile.msg:make: *** [cp] Error 2<br>
     &gt;&gt;&gt; SRC_lapw0/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_lapw0/compile.msg:make: *** [para] Error 2<br>
     &gt;&gt;&gt; SRC_lapw1/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_lapw1/compile.msg:make: *** [rp] Error 2<br>
     &gt;&gt;&gt; SRC_lapw1/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_lapw1/compile.msg:make: *** [cp] Error 2<br>
     &gt;&gt;&gt; SRC_lapw2/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_lapw2/compile.msg:make: *** [rp] Error 2<br>
     &gt;&gt;&gt; SRC_lapw2/compile.msg:make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; SRC_lapw2/compile.msg:make: *** [cp] Error 2<br>
     &gt;&gt;&gt; ------------------------------<u></u>----------------- cut1<br>
     &gt;&gt;&gt; ------------------------------<u></u>-----------------<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; I looked into SRC_lapw1/compile.msg, and the detailed error is:<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; ------------------------------<u></u>----------------- cut2<br>
     &gt;&gt;&gt; ------------------------------<u></u>-----------------<br>
     &gt;&gt;&gt; mpif90 -FR -mp1 -w -prec_div -pc80 -pad -ip -DINTEL_VML -DFFTW3<br>
     &gt;&gt;&gt; -traceback -DParallel -c modules_tmp_.F<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt;<br>
    ------------------------------<u></u>------------------------------<u></u>--------------<br>
     &gt;&gt;&gt; The Open MPI wrapper compiler was unable to find the specified<br>
    compiler<br>
     &gt;&gt;&gt; gfortran in your PATH.<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; Note that this compiler was either specified at configure time<br>
    or in<br>
     &gt;&gt;&gt; one of several possible environment variables.<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt;<br>
    ------------------------------<u></u>------------------------------<u></u>--------------<br>
     &gt;&gt;&gt; make[1]: *** [modules.o] Error 1<br>
     &gt;&gt;&gt; make[1]: Leaving directory `/home/lzhang200/wien2k/SRC_<u></u>lapw1&#39;<br>
     &gt;&gt;&gt; make: *** [rp] Error 2<br>
     &gt;&gt;&gt; ------------------------------<u></u>----------------- cut2<br>
     &gt;&gt;&gt; ------------------------------<u></u>-----------------<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; It seems OpenMPI was invoked and it looked for gfortran. I<br>
    don&#39;t have<br>
     &gt;&gt;&gt; gfortran installed at all, but I found I have openmpi<br>
    installed. I then<br>
     &gt;&gt;&gt; used Ubuntu Software Center to search openmpi and uninstalled<br>
    related<br>
     &gt;&gt;&gt; packages. I restarted the system and repeated the siteconfig_lapw.<br>
     &gt;&gt;&gt; However I still get error message, not same but similar, it<br>
    still looks<br>
     &gt;&gt;&gt; for gfortran, for examplethe SRC_lapw1/compile.msg shows:<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; ------------------------------<u></u>----------------- cut3<br>
     &gt;&gt;&gt; ------------------------------<u></u>-----------------<br>
     &gt;&gt;&gt; mpif90 -FR -mp1 -w -prec_div -pc80 -pad -ip -DINTEL_VML -DFFTW3<br>
     &gt;&gt;&gt; -traceback -DParallel -c modules_tmp_.F<br>
     &gt;&gt;&gt; /usr/bin/mpif90: line 370: gfortran: command not found<br>
     &gt;&gt;&gt; make[1]: *** [modules.o] Error 127<br>
     &gt;&gt;&gt; make[1]: Leaving directory `/home/lzhang200/wien2k/SRC_<u></u>lapw1&#39;<br>
     &gt;&gt;&gt; make: *** [rp] Error 2<br>
     &gt;&gt;&gt; ------------------------------<u></u>----------------- cut3<br>
     &gt;&gt;&gt; ------------------------------<u></u>-----------------<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; I did not specify to use gfortran anywhere in the setupof<br>
     &gt;&gt;&gt; siteconfig_lapw, I don&#39;t see why mpif90 keeps looking for it.<br>
    How can I<br>
     &gt;&gt;&gt; fix this problem? Thanks a lot.<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; Regards,<br>
     &gt;&gt;&gt; Long Zhang<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt;<br>
     &gt;&gt;&gt; ______________________________<u></u>_________________<br>
     &gt;&gt;&gt; Wien mailing list<br>
     &gt;&gt;&gt; <a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a><br></div></div>
    &lt;mailto:<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.<u></u>tuwien.ac.at</a>&gt;<div class="im"><br>
     &gt;&gt;&gt; <a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><br>
     &gt;&gt;&gt;<br>
     &gt;&gt;<br>
     &gt;&gt; --<br>
     &gt;&gt; Peter Blaha<br>
     &gt;&gt; Inst.Materials Chemistry<br>
     &gt;&gt; TU Vienna<br>
     &gt;&gt; Getreidemarkt 9<br>
     &gt;&gt; A-1060 Vienna<br>
     &gt;&gt; Austria<br></div>
     &gt;&gt; <a href="tel:%2B43-1-5880115671" value="+4315880115671" target="_blank">+43-1-5880115671</a> &lt;tel:%2B43-1-5880115671&gt;<div class="im"><br>
     &gt;&gt;<br>
     &gt;&gt; ______________________________<u></u>_________________<br>
     &gt;&gt; Wien mailing list<br>
     &gt;&gt; <a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a><br></div>
    &lt;mailto:<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.<u></u>tuwien.ac.at</a>&gt;<div class="im"><br>
     &gt;&gt; <a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><br>
     &gt;<br>
     &gt;<br>
<br>
<br>
<br>
    --<br>
    Professor Laurence Marks<br>
    Department of Materials Science and Engineering<br>
    Northwestern University<br></div>
    <a href="http://www.numis.northwestern.edu" target="_blank">www.numis.northwestern.edu</a> &lt;<a href="http://www.numis.northwestern.edu" target="_blank">http://www.numis.<u></u>northwestern.edu</a>&gt;<br>
    <a href="tel:1-847-491-3996" value="+18474913996" target="_blank">1-847-491-3996</a> &lt;tel:<a href="tel:1-847-491-3996" value="+18474913996" target="_blank">1-847-491-3996</a>&gt;<div class="im"><br>
    &quot;Research is to see what everybody else has seen, and to think what<br>
    nobody else has thought&quot;<br>
    Albert Szent-Gyorgi<br>
    ______________________________<u></u>_________________<br>
    Wien mailing list<br></div>
    <a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a> &lt;mailto:<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.<u></u>tuwien.ac.at</a>&gt;<br>

    <a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><div class="im"><br>
<br>
<br>
<br>
<br>
______________________________<u></u>_________________<br>
Wien mailing list<br>
<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a><br>
<a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><br>
<br>
</div></blockquote><div class="HOEnZb"><div class="h5">
<br>
-- <br>
Peter Blaha<br>
Inst.Materials Chemistry<br>
TU Vienna<br>
Getreidemarkt 9<br>
A-1060 Vienna<br>
Austria<br>
<a href="tel:%2B43-1-5880115671" value="+4315880115671" target="_blank">+43-1-5880115671</a><br>
______________________________<u></u>_________________<br>
Wien mailing list<br>
<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a><br>
<a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><br>
</div></div></blockquote></div><br>