Hi, Oleg,<div>Thanks for you advice.</div><div><br></div><div><br></div><div>Yundi</div><div><br></div><div><br><div class="gmail_quote">On Thu, Jun 27, 2013 at 8:08 PM, Yundi Quan <span dir="ltr">&lt;<a href="mailto:yquan@ucdavis.edu" target="_blank">yquan@ucdavis.edu</a>&gt;</span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><br><br><div class="gmail_quote"><div class="im">---------- Forwarded message ----------<br>From: <b class="gmail_sendername">Oleg Rubel</b> <span dir="ltr">&lt;<a href="mailto:orubel@lakeheadu.ca" target="_blank">orubel@lakeheadu.ca</a>&gt;</span><br>

Date: Thu, Jun 27, 2013 at 7:46 PM<br>Subject: Re: [Wien] scratch folder in k-point parallel calculation<br></div>To: <a href="mailto:wien@zeus.theochem.tuwien.ac.at" target="_blank">wien@zeus.theochem.tuwien.ac.at</a><br>
<br><br>If you are talking about a mixed (MPI &amp; k-parallel) job, there are suggestions in FAQs: <a href="http://www.wien2k.at/reg_user/faq/pbs.html" target="_blank">http://www.wien2k.at/reg_user/<u></u>faq/pbs.html</a><br>


<br>
I use SGE scheduler and the following parallel_options file:<br>
<br>
setenv USE_REMOTE 0<br>
setenv MPI_REMOTE 0<br>
setenv WIEN_GRANULARITY 1<br>
setenv WIEN_MPIRUN &quot;mpiexec -machinefile _HOSTS_ -n _NP_ _EXEC_&quot;<br>
<br>
Eventually, it works with the local SCRATCH directory. I can share a submission script for the mixed MPI+k parallel job, if needed.<br>
<br>
Oleg<div><br>
<br>
<br>
On 13-06-27 4:46 PM, Yundi Quan wrote:<br>
</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div>
I forgot to add that after lapw2, all the output files should be written<br>
to a shared folder (not to scratch folder of each node) so that sumpara<br>
-p could access all the output files. In the version that I&#39;m using<br>
(11.0), it seems that lapw1 is not executed locally.<br>
<br>
<br>
Yundi<div class="im"><br>
<br>
On Thu, Jun 27, 2013 at 1:37 PM, Yundi Quan &lt;<a href="mailto:yquan@ucdavis.edu" target="_blank">yquan@ucdavis.edu</a><br></div></div><div class="im"><div>
&lt;mailto:<a href="mailto:yquan@ucdavis.edu" target="_blank">yquan@ucdavis.edu</a>&gt;&gt; wrote:<br>
<br>
<br>
<br>
    ---------- Forwarded message ----------<br></div></div><div class="im"><div>
    From: *Stefaan Cottenier* &lt;<a href="mailto:Stefaan.Cottenier@ugent.be" target="_blank">Stefaan.Cottenier@ugent.be</a><br>
    &lt;mailto:<a href="mailto:Stefaan.Cottenier@ugent.be" target="_blank">Stefaan.Cottenier@<u></u>ugent.be</a>&gt;&gt;<br>
    Date: Thu, Jun 27, 2013 at 1:33 PM<br>
    Subject: Re: [Wien] scratch folder in k-point parallel calculation<br>
    To: A Mailing list for WIEN2k users &lt;<a href="mailto:wien@zeus.theochem.tuwien.ac.at" target="_blank">wien@zeus.theochem.tuwien.ac.<u></u>at</a><br></div></div><div><div class="h5"><div><div>
    &lt;mailto:<a href="mailto:wien@zeus.theochem.tuwien.ac.at" target="_blank">wien@zeus.theochem.<u></u>tuwien.ac.at</a>&gt;&gt;<br>
<br>
<br>
<br>
        I&#39;m working on a cluster with many nodes. Each node has its own<br>
        /scratch<br>
        folder which cannot be accessed by other nodes. My own data<br>
        folder is<br>
        accessible to all nodes. When the WIEN2k scratch folder is set<br>
        to &#39;./&#39;,<br>
        everything works fine except that all the data write/read are<br>
        done in my<br>
        own data folder which slows down the system. When the WIEN2k scratch<br>
        folder is set to &#39;/scratch&#39;, then the scratch files such as<br>
        case.vector_<br>
        created on one node would not be visible to the other. This<br>
        would not be<br>
        a problem for lapw1 -p and lapw2 -p if each node sticks to certain k<br>
        points and searches for scratch files related to these k-points. Is<br>
        there a way of configuring WIEN2k to work in this manner?<br>
<br>
<br>
    The k-point parallelization scheme works exactly in this way (mpi<br>
    parallelization is different).<br>
<br>
    STefaan<br>
<br>
<br></div></div></div></div>
    ______________________________<u></u>___________________<br>
    Wien mailing list<br>
    Wien@zeus.theochem.tuwien.ac._<u></u>_at<br>
    &lt;mailto:<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.<u></u>tuwien.ac.at</a>&gt;<br>
    <a href="http://zeus.theochem.tuwien." target="_blank">http://zeus.theochem.tuwien.</a>__<a href="http://ac.at/mailman/listinfo/wien" target="_blank"><u></u>ac.at/mailman/listinfo/wien</a><div class="im"><div><br>
    &lt;<a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a>&gt;<br>
    SEARCH the MAILING-LIST at:<br></div></div>
    <a href="http://www.mail-archive.com/__wien@zeus.theochem.tuwien.ac.__at/index.html" target="_blank">http://www.mail-archive.com/__<u></u>wien@zeus.theochem.tuwien.ac._<u></u>_at/index.html</a><br>
    &lt;<a href="http://www.mail-archive.com/wien@zeus.theochem.tuwien.ac.at/index.html" target="_blank">http://www.mail-archive.com/<u></u>wien@zeus.theochem.tuwien.ac.<u></u>at/index.html</a>&gt;<div class="im"><div><br>

<br>
<br>
<br>
<br>
______________________________<u></u>_________________<br>
Wien mailing list<br>
<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a><br>
<a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><br>
SEARCH the MAILING-LIST at:  <a href="http://www.mail-archive.com/wien@zeus.theochem.tuwien.ac.at/index.html" target="_blank">http://www.mail-archive.com/<u></u>wien@zeus.theochem.tuwien.ac.<u></u>at/index.html</a><br>
<br>
</div></div></blockquote><div class="im"><div><div>
______________________________<u></u>_________________<br>
Wien mailing list<br>
<a href="mailto:Wien@zeus.theochem.tuwien.ac.at" target="_blank">Wien@zeus.theochem.tuwien.ac.<u></u>at</a><br>
<a href="http://zeus.theochem.tuwien.ac.at/mailman/listinfo/wien" target="_blank">http://zeus.theochem.tuwien.<u></u>ac.at/mailman/listinfo/wien</a><br>
SEARCH the MAILING-LIST at:  <a href="http://www.mail-archive.com/wien@zeus.theochem.tuwien.ac.at/index.html" target="_blank">http://www.mail-archive.com/<u></u>wien@zeus.theochem.tuwien.ac.<u></u>at/index.html</a><br>
</div></div></div></div><br></div>
</blockquote></div><br></div>