source: BOL/LMDZ_Setup/script_SIMU @ 5434

Last change on this file since 5434 was 5429, checked in by fhourdin, 2 days ago

Improving geting files from http://... + README0

File size: 14.7 KB
Line 
1#!/bin/bash
2## Headers managed by sed
3#@JZ#JeanZay
4#@JZ#SBATCH --job-name=NOM_SIMU         # nom du job
5#@JZ# Nombre de processus MPI :
6#@JZ#SBATCH --ntasks=8
7#@JZ##### number of MPI processes per node : 40(procs/node on Jean-Zay) / cpus-per-task (ex : =5 for 8 OMP)
8#@JZ####SBATCH --ntasks-per-node=5    # if specified, also add "#SBATCH --nodes= ..."  with nodes=ntasks/(ntasks-per-node)
9#@JZ# nombre de threads OpenMP
10#@JZ#SBATCH --cpus-per-task=8
11#@JZ# de Slurm "multithread" fait bien reference a l'hyperthreading.
12#@JZ#SBATCH --hint=nomultithread       # 1 thread par coeur physique (pas d'hyperthreading)
13#@JZ#SBATCH --time=00:30:00            # Temps d execution maximum demande (HH:MM:SS)
14#@JZ#SBATCH --output=outNOM_SIMU%j     # Nom du fichier de sortie
15#@JZ#SBATCH --error=outNOM_SIMU%j      # Nom du fichier d'erreur (ici commun avec la sortie)
16#@JZ# To submit to test queue ; "time" (above) must be max 30 min
17#@JZ#TESTQ#SBATCH --qos=qos_cpu-dev
18#@SP#Spirit
19#@SP#SBATCH --job-name=NOM_SIMU
20#@SP#SBATCH --ntasks=8
21#@SP#SBATCH --cpus-per-task=8
22#@SP#SBATCH --time=00:30:00
23#@SP#SBATCH --output=outNOM_SIMU%j
24#@SP#SBATCH --error=outNOM_SIMU%j
25#@ADS#Adastra
26#@ADS#SBATCH --job-name=NOM_SIMU
27#@ADS#SBATCH --ntasks=8
28#@ADS#SBATCH --cpus-per-task=8
29#@ADS#SBATCH --ntasks-per-node=8
30#@ADS#SBATCH --time=00:30:00
31#@ADS#SBATCH --output=outNOM_SIMU%j
32#@ADS#SBATCH --error=outNOM_SIMU%j
33#@ADS#SBATCH --exclusive
34
35set -eux
36
37# Number of MPI processes :
38ntasks=8
39# number of OpenMP threads
40nthreads=8
41export OMP_NUM_THREADS=$nthreads
42#@JZ#export OMP_NUM_THREADS=$SLURM_CPUS_PER_TASK  # For Jean-Zay (replacing the next 3 lines, commented out)
43# private memory for each thread
44export OMP_STACKSIZE=800M
45
46
47#@JZ#export OMP_PLACES=cores  # "binding" present in old script_SIMU, but terribly reduces performance on Spirit...
48ulimit -s unlimited
49#@SP ulimit -Ss 8192
50
51simul=NOM_SIMU
52
53reseau_local=0
54#veget=y
55veget=CMIP6
56if [[ $veget = "none" ]] ; then VEGET=n ; else VEGET=y ; fi
57
58isotopes=n
59# If isotopes=y, initialisation_iso will be changed to 0 in iso.def after the 1st run period, to read isotopes in restart files
60
61# Choice of aerosols : n / clim / spla
62aerosols=clim
63stopsim=201101
64ok_guide=y   # y/n guidage ou non
65climato=1
66
67echo '##############################################################'
68echo '# Gestion des repertoires de lancement                                 '
69echo '##############################################################'
70
71# Repertoires de la simulation
72SCRATCHD=$SCRATCH
73STORED=$STORE
74MAINDIR=LMDZOR96x95x79
75SIMU_dir=$MAINDIR/$simul
76SIMUDIR=$STORED/$SIMU_dir
77
78# Repertoires de travail
79WWORKD=$SCRATCHD/$simul$$
80if [[ -d $WWORKD ]]; then  # useful when running on local computer, where jobs aren't submitted
81  #rm -rf "$WWORKD"
82  mv $WWORKD $WWORKD$$
83fi
84mkdir -p $WWORKD
85cd $WWORKD
86SCRIPTDIR=$SCRATCHD
87
88cp "$STORED/$MAINDIR/lmdz_env.sh" .; . lmdz_env.sh
89cp "$STORED/$MAINDIR/slurm_set_cpu_binding.sh" .
90
91ERADIR=$STORED/$MAINDIR/GUIDE
92if [ "$aerosols" = "spla" ] ; then ERA10mDIR=$STORED/$MAINDIR/ERA10m ; fi
93LIMITDIR=$STORED/$MAINDIR/LIMIT
94DEFDIR=$SIMUDIR/DEF
95
96GET='ln -s'
97PUT='mv '
98
99
100echo '##################################################################'
101echo 'Gestion des mois et annees'
102echo '##################################################################'
103
104$GET $SIMUDIR/etat
105year=`tail -1 etat | awk ' { print $1 } ' | cut -c1-4`
106month=`tail -1 etat | awk ' { print $1 } ' | cut -c5-`
107echo year $year month $month
108
109if [ "$month" = "" ] ; then
110   paran=1
111   ym=$year
112   next=`expr $ym + 1`
113else
114   paran=0
115   if [ $month = 12 ] ; then
116      nextmonth=1
117      nextyear=`expr $year + 1`
118   else
119      nextmonth=`expr $month + 1`
120      nextyear=$year
121   fi
122   if [ `echo $nextmonth | wc -m` = 2  ] ; then
123      nextmonth=0$nextmonth
124   fi
125   ym=$year$month
126   next=$nextyear$nextmonth
127fi
128
129
130echo ym $ym
131echo mois ancien  : $ym
132echo mois nouveau : $next
133
134echo '#################################################################'
135echo 'Modification de run.def et gcm.def pour prendre en compte la duree du'
136echo 'du mois en question.'
137echo 'le dayref est modifie pour tricher avec le calendrier (ecrit pour'
138echo 'une annee de 260 jours dans le modele).'
139echo 'On passe donc comme jour de reference le numero du jour du mois dans'
140echo 'une annee en 360 jours.'
141echo '#################################################################'
142
143# Choix du calendrier
144#AS: La condition if "$climato" = "0" suffit, car "$ok_guide" = "y" est interdit avec $climato" = "1" dans setup.sh (exit ligne 160)
145##calend=earth_360d
146##if [ "$ok_guide" = "y" -o "$climato" = "0" ] ; then calend=gregorian ; fi
147if [ "$climato" = "0" ] ; then calend=gregorian ; else calend=earth_360d ; fi
148bisextile=0
149if [[ $(( year % 4 )) = 0 && $calend = gregorian ]] ; then bisextile=1 ; fi
150if [ $paran = 0 ] ; then
151   if [ "$calend" = "gregorian" ] ; then
152      ndays=( 31 28 31 30 31 30 31 31 30 31 30 31 )
153      if [ $bisextile = 1 ] ; then ndays[1]=29 ; fi
154   else
155      ndays=( 30 30 30 30 30 30 30 30 30 30 30 30 )
156   fi
157   #Constants with a leading 0 are interpreted as octal numbers.
158   # You can remove the leading zero by parameter expansion: hour=${hour#0}
159
160   nday=${ndays[(( ${month#0} - 1 ))]}
161   ndayh=$nday
162   dayref=1 ; mm=1 ; while [ $mm -lt ${month#0} ] ; do
163    (( dayref = $dayref + ${ndays[(( $mm - 1 ))]} )) ; (( mm = $mm + 1 )) ; done
164else
165   dayref=1
166   if [ "$calend" = "gregorian" ] ; then
167      if [ $bisextile = 0 ] ; then nday=365 ; else nday=366 ; fi
168   else
169      nday=360 ; ndayh=30
170      # nday=3 ; ndayh=1 # Pratique pour des tests rapides
171   fi
172fi
173
174echo CALENDRIER $calend : longueur du mois vrai $year $month $nday dayref=$dayref
175
176
177echo '####################################################################'
178echo '# On va chercher les fichiers necessaires a la simulation'
179echo '####################################################################'
180#Reminder : we are in $WWORKD = $SCRATCHD/$SIMU_dir = $SCRATCHD/$MAINDIR/$simul
181
182echo DEFDIR $DEFDIR
183echo SIMUDIR $SIMUDIR
184echo simul $simul
185
186if [ $reseau_local = 0 ] ; then mkdir DEF ; cd DEF ; $GET $DEFDIR/* . ; cd .. ; fi
187
188cp -f DEF/* .
189#---The following changes in .def files will only be visible in the running directory (on SCRATCH if $reseau_local = 0)
190# They concern variables that change during runtime : nday, dayref, anneeref, ndayh
191# The other "sed" were totally or partially moved in setup.sh, to be done in $MAINDIR/DEF/*.def, before creating $MAINDIR/$SIMU (more transparent)
192#sed -e 's/ok_guide=.*.$/ok_guide='$ok_guide'/' DEF/guide.def >| guide.def
193#sed -e 's/nday=.*.$/nday='$nday'/' -e 's/dayref=.*.$/dayref='${dayref}'/' -e 's/calend=.*.$/calend='$calend'/' -e 's/anneeref=.*.$/anneeref='$year'/' DEF/run.def >| run.def
194
195#=====!!!!!!!!====!!!!!!====!!!!+++====!!!!!!====!!!!!!!=====!!!!!!====z!!!====!!!!========!!!!!========!!!
196##POUR que des TESTS soyent tres RAPIDES (pour ex, verifier fichiers input), ON FORCE nday=1 jour  !!!
197#nday=1
198#=====!!!!!!!!====!!!!!!====!!!!+++====!!!!!!====!!!!!!!=====!!!!!!====z!!!====!!!!========!!!!!========!!!
199
200sed -e 's/nday=.*.$/nday='$nday'/' -e 's/dayref=.*.$/dayref='${dayref}'/' -e 's/anneeref=.*.$/anneeref='$year'/' DEF/run.def >| run.def
201sed -e 's/phys_out_filetimesteps=[[:space:]]*[0-9][0-9]day/phys_out_filetimesteps=  '$ndayh'day/'  DEF/config.def >| config.def
202#--- End of *.def changes in the $WWORKD only
203
204${GET} $SIMUDIR/start.$ym.nc start.nc
205${GET} $SIMUDIR/startphy.$ym.nc startphy.nc
206if [ $climato = 1 ] ; then
207   ${GET} $LIMITDIR/limit.nc limit.nc
208else
209   ${GET} $LIMITDIR/limit.$year.nc limit.nc
210fi
211
212
213echo '####################################################################'
214echo '# Imports des fichiers aerosols si flag_aerosol>0 dans config.def, '
215echo '# et si dans setup.sh on a "aerosols=clim" ou "aerosols=spla". '
216echo '# NOTE: Si "aerosols=n" dans setup.sh, script_SIMU met flag_aerosol=0 et on tourne SANS aerosols' 
217echo '####################################################################'
218if [ "`grep 'flag_aerosol=' config.def | head -1 | cut -d= -f2`" != 0 ] ; then
219  if [ $aerosols = clim ] ; then
220    # if [ $climato = 1 ] ; then suf=clim ; else suf=$year ; fi
221    suf=clim
222    # Le script pourrait être sophistique pour prendre des aerosols interannuels
223    ${GET} $LIMITDIR/aerosols.$suf.nc aerosols$year.nc
224    if [ ! -f aerosols1980.nc ] ; then ${GET} $LIMITDIR/aerosols.$suf.nc aerosols1980.nc ; fi
225    ${GET} $LIMITDIR/aerosols.nat.nc aerosols.nat.nc
226  fi
227
228  if [[ $aerosols = "spla" ]]; then
229    get_input_files ln_from_pub SPLA_WA/emissions
230    ln -s dust$mo.nc dust.nc
231    # Le calcul d'emissions de sels marins utilise les vents ERA-10m interpoles sur grille_s (lonv,latu) avec le script era2gcm_uv10m.sh
232    # NB : GET=ln -s ; ERA10mDIR contient lui-meme le lien ERA10m vers le repertoire des vents interpoles $REA_uv10m (REA=ERA5, ERAI ou OPERA)
233    echo WORK IN PROGRESS FOR SPLA ; exit 1
234    ventl="u10m.nc v10m.nc"
235    for file in $ventl ; do ${GET} $ERA10mDIR/${year}/${month}/$file . ; done
236  fi
237fi
238
239#----------------------------------------
240# Noveaux forcages a activer a l'avenir
241#   (commentes en attendant) :
242#----------------------------------------
243#for file in climoz_LMDZ.nc solarforcing.nc  taulwstrat.2D.nc  tauswstrat.2D.nc ; do
244#   ${GET} $LIMITDIR/$file $file
245#done
246#----------------------------------------
247
248${GET} $SIMUDIR/gcm.e gcm.e ; chmod  +x gcm.e
249
250
251if [ $VEGET = y ] ; then
252
253    set +e ; for t in stomate sechiba ; do cp $SIMUDIR/start_$t.$ym.nc ${t}_rest_in.nc ; done ; set -e
254    #For Orchidee trunk (post-CMIP6), orchidee_pft.def must be copied in addition to orchidee.def
255    \cp -f DEF/orchidee*.def .
256
257    # If no sechiba restart is found, the restart files for sechiba, stomate,
258    # and routing are created on line in the simulation, requiring Orchidee input files
259    if [ ! -f sechiba_rest_in.nc ] ; then
260
261       get_input_files ln_from_pub Orchidee # linking all orchidee input files
262
263       ln -sf alb_bg_modisopt_2D_ESA_v2.nc alb_bg.nc
264       echo ATTENTION : ON UTILISE LES FICHIERS DE L ANNEE 2000
265       ln -s PFTmap_15PFT.v1_2000.nc PFTmap.nc
266       ln -s woodharvest_2000.nc woodharvest.nc
267       sed -e 's/^SECHIBA_restart_in.*./SECHIBA_restart_in=NONE/' \
268           -e 's/^STOMATE_RESTART_FILEIN.*./STOMATE_RESTART_FILEIN=NONE/' \
269           -i orchidee.def
270    fi
271
272    # Input files for routing are always needed
273    if [ "`grep RIVER_ROUTING orchidee.def |grep -i y`" ] ; then
274      set +e
275      ln_from_pub 3DInputData/Orchideee routing.nc
276      ln_from_pub 3DInputData/Orchideee routing_simple.nc
277      cp $SIMUDIR/start_routing.$ym.nc routing_start.nc
278      set -e
279    fi
280
281fi
282
283
284echo '#################################################################'
285echo    'Repertoire contenant les fichiers de reanalyses'
286echo '#################################################################'
287
288if [ "$ok_guide" = "y" ] ; then
289   \rm -f u.nc v.nc T.nc hur.nc
290   if [ -f u.nc ] ; then
291      echo PROBLEME D EFFACEMENT DES FICHIERS DE REANALYSES
292      exit 1
293   fi
294   for var in u v T hur ; do $GET $ERADIR/$year/$month/$var.nc $var.nc ; done
295   echo Fin du rapatriement des fichiers de guidage
296fi
297
298echo '##################################################################'
299echo    'liste des fichiers avant le lancement de la simulation'
300echo '##################################################################'
301ls -lrt
302#diff DEF ./
303
304echo '##################################################################'
305echo    'Lancement de la simulation'
306echo '##################################################################'
307
308#@ADS if 1; then
309time $MPICMD $ntasks ./gcm.e > listing
310#@ADS else
311#@ADS srun --cpu-bind=none --mem-bind=none -- ./slurm_set_cpu_binding.sh ./gcm.e > listing
312#@ADS fi
313
314if [ ! -f restartphy.nc ] ; then
315echo PROBLEME PAS DE FICHIER RESTARTPHY
316exit
317fi
318
319echo '##################################################################'
320echo     'sauvegarde des fichiers de sortie'
321echo '##################################################################'
322
323# listing
324${PUT} listing ${SIMUDIR}/list$ym
325# if the listing for Orchidee is also needed, then uncomment the following line :
326#if [ $VEGET = y ] ; then ${PUT} out_orchidee_0000.0000 ${SIMUDIR}/out_orchidee$ym ; fi
327
328# restart(s)
329${PUT} restart.nc ${SIMUDIR}/start.$next.nc
330${PUT} restartphy.nc ${SIMUDIR}/startphy.$next.nc
331if [ $VEGET = y ] ; then for t in sechiba stomate ; do
332    f=${t}_rest_out.nc ; if [ -f $f ] ; then ${PUT} $f ${SIMUDIR}/start_$t.$next.nc ; fi ; done 
333    f=routing_restart.nc ; if [ -f $f ] ; then ${PUT} $f ${SIMUDIR}/start_routing.$next.nc ; fi
334fi
335
336# fichiers "histoires"
337# Si on tourne avec xios (et type="one_file") au lieu de ioipsl, on n'a pas besoin de rebuild, on doit juste copier les fichiers
338liste_out="histmth histday histhf histmthCOSP Xhistins XhistLES sechiba_history sechiba_history_4dim sechiba_out_2 stomate_history stomate_ipcc_history diag_routing dynzon"
339xios_used=0
340
341for fileout in $liste_out ; do
342  if [ -f  $fileout.nc ] ; then 
343     ${PUT} $fileout.nc ${SIMUDIR}/$fileout.$ym.nc
344     xios_used=1
345  fi
346done
347
348if [ $xios_used = 0 ] ; then
349  $GET $SIMUDIR/reb.sh
350  chmod +x reb.sh
351  ./reb.sh $ym $SIMUDIR $liste_out
352fi
353
354if [ -f guide_ins.nc ] ; then ${PUT} guide_ins.nc ${SIMUDIR}/guide_ins.$ym.nc ; fi
355
356echo '##################################################################'
357echo     'preparation et lancement de la simulation suivante'
358echo '##################################################################'
359
360# Gestion du fichier etat de controle de la simulation
361echo $ym OK >> etat
362echo $next a faire >> etat
363# ${PUT} etat $SIMUDIR/etat # Pas necessaire car etat est un lien vers $SIMUDIR/etat
364
365# set initialisation_iso to 0 for next run to read isotopes from restart files
366if [ $isotopes = y ] ; then
367   sed -i 's/^initialisation_iso=.*.$/initialisation_iso=0/' $SIMUDIR/DEF/iso.def
368fi
369set +e ; \rm out* sec* sta* list* rest* gcm.e aer* ; set -e
370
371# Arret si on est arrive au bout
372if [ $next =  $stopsim ] ; then
373   echo 'On arrive au bout, simulation next:'$next', stopsim:'$stopsim
374   # Cas particulier ou on veut chainer plusieurs simulations multi annuelles.
375   # pour le tuning automatique.
376   # Ici on passe de SCM_1-019 a SCM_1-029
377   if [ "${simul:0:3}" = "SCM" ] ; then
378      pre="SCM_1-"
379      num=`echo $simul | sed -e 's/'$pre'//'`
380      # (( num = $num + 10 )) change a cause d un probleme avec 008
381      num=`echo $num | awk ' { print $1 + 10 } '`
382      num=`printf "%03d\n" $num`
383      simul_new=$pre$num
384      cd $SCRIPTDIR
385      if [ $num -le 250 ] ; then
386         sed -e 's/^simul=.*.$/simul='$simul_new'/' -e 's/^\# @ job_nam.*.=.*.$/\# @ job_name = '$simul_new'/' tmp_$simul >| tmp_$simul_new
387         submitcmd tmp_$simul_new
388      fi
389   fi
390   exit
391fi
392
393
394echo '##################################################################'
395echo      'lancement de la simulation suivante tmp_'$simul' depuis :'
396echo '##################################################################'
397pwd
398
399
400cd $SCRIPTDIR
401submitcmd tmp_$simul
402#$SUBMITCMD tmp_$simul
Note: See TracBrowser for help on using the repository browser.