source: BOL/LMDZ_Setup/setup.sh @ 5462

Last change on this file since 5462 was 5462, checked in by fhourdin, 5 days ago

Automatisation gfortran<10
File size: 31.9 KB
Line 
1#!/bin/bash
2# This script sets up and launches a (series of) simulation(s).
3# RECOMMENDATION: use main.sh to drive it (do not run it directly)
4
5set -eu
6
7#---------------------------------------------------------------------------
8function define_expert_options() { # Expert-level choices
9#---------------------------------------------------------------------------
10
11  # optim: either "" or "-debug" to compile in debug mode
12  #       (slower but better diagnosis of segfaults)
13  optim=""
14
15  # "n" or "y". If testmode="y", then simulations run for a single day
16  # per period.
17  # NOTE: you must set mthend accordingly !
18  testmode="n"
19
20  # Radiative code: "oldrad" / "rrtm" / "ecrad"
21  rad="rrtm"
22
23  #   !!! STRONG recommendation : experiments with DIFFERENT Orchidee or
24  #   aerosol options should be performed in DIFFERENT LMDZ_Setup folders
25  #   !!! (especially as they may need different initial files)
26
27  # AEROSOLS : "n" (=no)/"clim" (=average 1995-2014) / "spla" (interactive)
28  # (WARNING : if you first run the scripts with aerosols=n, then you want
29  # to change to =clim, you must remove the INIT and LIMIT folders and
30  # rerun main.sh with init=1 in order to create aerosol files
31
32  aerosols="clim"
33
34  # SURFACE/VEGETATION SCHEME
35  # - "none" : bucket scheme
36  #   CMIP6 : orchidee CMIP6 version
37  #   7983/7994 : orchidee svn release 7983 (orch2.2) and 7994 (last tested)
38  #   If you need other orch versions, and also require XIOS, you'll need
39  #                    to create the appropriate files in DEF/XMLfilesOR...
40  veget="CMIP6"
41
42  # New snow scheme INLANDSIS! "y" / "n"
43  # Activates INLANDSIS compilation
44  #  to be done : treatment of specific restart and def file
45  inlandsis="n"
46
47  # netcdf: 0 (use existing library) / 1 (recompile netcdf, slow)
48  netcdf=0
49
50  # --->>> ALSO PAY ATTENTION TO OUTPUT files, frequency, level ------------
51  #   With IOIPSL : Choose your config.def among versions available in DEF,
52  #     copy it as config.def (the copy is done automatically for "iso"),
53  #     edit it and set up output files, frequencies and levels.
54  #     NB : For aerosols=spla, output level minimum 4 is required to outpu
55  #     the specific variables.
56  #     For aerosols=n, aerosol flags will automatically be set to "n".
57  #   With XIOS : adjust DEF/XMLfiles*/file*xml
58}
59
60
61#---------------------------------------------------------------------------
62function enable_platform() {  # Sed platform-specific headers
63#---------------------------------------------------------------------------
64  local file="$1"
65  local platform
66
67  case ${hostname:0:5} in
68    jean-) platform="JZ";;
69    spiri) platform="SP";;
70    adast) platform="ADS";;
71    *) echo "Warning: $hostname is not a known job platform (ignore if running locally)"; return 0;;
72  esac
73
74  sed -i'' -e "s/^#@$platform//" "$file"
75}
76
77#---------------------------------------------------------------------------
78function load_install_lib() { #Fetch and source install_lmdz.sh to get myget
79#---------------------------------------------------------------------------
80  if [[ ! -f "install_lmdz.sh" ]]; then
81    wget --no-cache "http://svn.lmd.jussieu.fr/LMDZ/BOL/script_install/install_lmdz.sh"
82  fi
83  # shellcheck disable=SC1090
84  source <(sed 's/function \(.*\) {/function installlmdz_\1 {/g' install_lmdz.sh)  # source with a namespace for functions
85  function myget { installlmdz_myget "$@"; }
86}
87
88#---------------------------------------------------------------------------
89function set_default_params() { # Default value of script parameters
90#---------------------------------------------------------------------------
91
92  SIM=$(basename "$local")CTL  # name
93  phylmd="lmd" #option -p $phylmd for makelmdz
94
95  cosp="n"  # COSP
96  xios="n"  #XIOS
97
98  # Nudging :
99  ok_guide="n"
100  # With nudging, use real calendar (climato=0) and monthly integrations
101  climato=1
102  freq="mo"  # frequence mensuelle mo ou annuelle yr
103
104  # NB : the run stops in the BEGINNING of mthend (test "next=stopsim")
105  mthini=200001
106  mthend=200501
107  resol="144x142x79"
108
109  version="20230412.trunk"
110  svn=""
111
112  init=1
113
114  LIMIT="LIMIT"
115
116}
117
118#---------------------------------------------------------------------------
119function read_cmdline_args() {
120#---------------------------------------------------------------------------
121  while (($# > 0)); do
122    case $1 in
123      "-h") cat <<........fin
124       setup.sh can be launched/driven by main.sh
125             setup.sh [-v version] [-r svn_release] [-init INIT] [-d 96x95x79] [-f mo] [-nudging]
126             -v "version" like 20150828.trunk; see https://lmdz.lmd.jussieu.fr/Distrib/LISMOI.trunk (default <$version>)
127             -r "svn_release"        either the svn release number or "last" (default <$svn>)
128             -d IMxJMxLM             to run in resolution IM x JM x LM (default <$resol>)
129             -install                pour installer et compiler le modele
130             -f mo/yr                pour tourner en mensuel ou annuel (default <$freq>)
131             -rad RAD                Radiation
132             -netcdf  0/1/DIR        Netcdf installation
133             -aerosols n/clim/spla   Aerosols : none / climatological / interactive with SPLA
134             -veget CMIP6            CMIP6 version of rchidee
135                    7983             orch2.2
136                    7994             trunk
137             "INIT"                  1: creates INIT and LIMIT
138                                     0: reads from INIT and LIMIT
139                                     SIMU: reads from preexisting simulation SIMU and LIMIT (default <$init>)
140             -nudging                to run with nudging. Nudging files must be created independently
141             -p                      the physics to use (default <$phylmd>)
142             -name                   install folder name (default <$SIM>)
143             Other options available (see "options" section in the script)
144........fin
145        exit;;
146      "-v") version="$2"; shift; shift;;
147      "-r") svn=$2; shift; shift;;
148      "-d") resol=$2; shift; shift;;
149      "-f") freq=$2; shift; shift;;
150      "-p") phylmd=$2; shift; shift;;
151      "-name") SIM=$2; shift; shift;;
152      "-rad") rad=$2; shift; shift;;
153      "-netcdf") netcdf=$2; shift; shift;;
154      "-aerosols") aerosols=$2; shift; shift;;
155      "-veget") veget=$2; shift; shift;;
156      "-cosp") cosp=y; shift;;
157      "-xios") xios=y; shift;;
158      "-init") init=$2; shift; shift;;
159      "-nudging") ok_guide=y; shift;;
160      "-climato") climato=$2; shift; shift;;
161      "-mthini") mthini=$2; shift; shift;;
162      "-mthend") mthend=$2; shift; shift;;
163      *) echo "unexpected $1"; $0 -h; exit
164    esac
165  done
166
167  # Initialisation
168  if [[ $init = 1 || $init = 0 ]]; then
169    INIT="INIT"
170  else
171    INIT=$init
172  fi
173
174  case $rad in
175    oldrad) iflag_rrtm=0; NSW=2;;
176    rrtm)   iflag_rrtm=1; NSW=6;;
177    ecrad)  iflag_rrtm=2; NSW=6;;
178  esac
179
180  im=$(echo "$resol" | cut -dx -f1)
181  jm=$(echo "$resol" | cut -dx -f2)
182  lm=$(echo "$resol" | cut -dx -f3)
183
184  yearini=$(echo "$mthini" | cut -c-4)
185  if [[ $freq = yr ]]; then stopsim=$(echo "$mthend" | cut -c-4); else stopsim=$mthend; fi
186
187  if [[ -d $SIM ]]; then
188     echo "La simulation $SIM existe deja. Il est conseillé d'arrêter et de vérifier."
189     echo "Si vous êtes sûr de vous, vous pouvez la prolonger. Voulez vous la prolonger ? (y/n)"
190     read -r ans
191     if [[ $ans != y ]]; then exit 1; fi
192  fi
193
194  ######################################################################
195  # Choix du nombre de processeurs
196  # NOTES :
197  # omp=8 by default (for Jean-Zay must be a divisor of 40 procs/node)
198  # omp=1 : required for SPLA (omp parallelism not ready)
199  # omp=2 for veget=CMIP6+XIOS beacause of a bug in ORCHIDEE/src_xml/xios_orchidee.f90
200  ######################################################################
201  (( mpi = ( jm + 1 ) / 2 ))
202  omp=8
203  if [[ $aerosols = "spla" ]]; then omp=1; fi
204  if [[ $veget = "CMIP6" && $xios = "y" ]]; then omp=2; fi
205  if [[ $mpi -gt $NB_MPI_MAX ]]; then mpi=$NB_MPI_MAX; fi
206  if [[ $omp -gt $NB_OMP_MAX ]]; then omp=$NB_OMP_MAX; fi
207
208  # Compute how many mpi per node (required e.g. for Adastra)
209  mpi_per_node=0
210  if [[ $NB_CORE_PER_NODE_MAX -gt 0 ]]; then
211    local N_omp_mt=1
212    if [[ $omp -gt 1 ]]; then (( N_omp_mt = omp / N_HYPERTHREADING )); fi  # take into account hyperthreading
213    (( mpi_per_node = NB_CORE_PER_NODE_MAX / N_omp_mt ))
214    if [[ mpi_per_node -gt mpi ]]; then mpi_per_node=$mpi; fi
215  fi
216
217  echo "Total MPI=$mpi (PER NODE=$mpi_per_node), OMP=$omp"
218}
219
220#---------------------------------------------------------------------------
221function ensure_correct_option_combinations() {
222  # AVOID COMBINATIONS OF OPTIONS THAT DON'T WORK in user choices
223#---------------------------------------------------------------------------
224  if [[ $ok_guide = y && $climato = 1 ]]; then
225     echo "STOP: Running nudged simulations with climatological SSTs is not planned. Change <climato> to <0> or modify the setup (experts)"; exit 1
226  fi
227
228  if [[ $climato = 0 && $freq = "yr" ]]; then
229     echo "STOP: Running simulations with interannual SSTs is possible only month by month and a true calendar."
230     echo "Change <climato> to <1> or <freq> to <mo> or modify setup.sh (experts)"; exit 1
231  fi
232
233
234  # (Temporary) Constraints for aerosols=spla :
235  # --> resolution 128x88x79 and rad=rrtm
236  if [[ $aerosols = "spla" && ( ${im}x${jm} != "128x88" || $freq != mo ) ]]; then
237    echo 'STOP: For now, <aerosols=spla> requires <resol=128x88x79>,'
238    echo 'and uses the zoomed grid from gcm.def_zNAfrica_BiJe,'
239    echo 'for which forcing & initial files are available'
240    echo "Right now resol=<$resol>"
241    echo 'Should be run in monthly mode'
242    exit 1
243  fi
244
245  if [[ $rad = "ecrad" && $phylmd != "lmd" ]]; then
246    echo "<rad=ecrad> is only supported for <phy=phylmd> here"  # (Amaury) I added this check because we fetch ecrad data from libf/phylmd/ecrad/data only.
247  fi
248}
249
250#---------------------------------------------------------------------------
251function install_model() {
252#---------------------------------------------------------------------------
253  mkdir -p "$LMDZD"
254
255  local ins_xios ins_cosp ins_aero ins_inlandsis
256  if [[ $xios = "y" ]]; then ins_xios="-xios"; else ins_xios=""; fi
257  if [[ $cosp = "y" ]]; then ins_cosp="-cosp v1"; else ins_cosp=""; fi
258  if [[ $aerosols = "spla" ]]; then ins_aero="-spla"; else ins_aero=""; fi
259  if [[ $inlandsis = "y" ]]; then ins_inlandsis="-inlandsis"; else ins_inlandsis=""; fi
260  if [[ -n $svn ]]; then svnopt="-r $svn"; else svnopt=""; fi
261
262  version_name=LMDZ$(echo "$version" | sed -e 's/-v//g' -e 's/-unstable//' -e 's/-r/r/' -e 's/ //g')
263  LMDZname="${version_name}${svn}OR$veget${ins_xios}"
264  MODEL="$LMDZD/$LMDZname/modipsl/modeles/LMDZ"
265
266  if [[ -d $MODEL ]]; then echo "Found existing install at MODEL=$MODEL"; fi
267  echo "Installing model"
268  cd "$LMDZD"
269  cp "$local/install_lmdz.sh" .
270  chmod +x install_lmdz.sh
271  local make_j=8
272  # We launch using $MPICMD, except if it's using mpirun (no srun equivalent for bash script) => if supported, the compilation runs in a cluster job
273  jobcmd="\"$RUNBASHCMD $make_j\""
274  if [[ ${hostname:0:5} = "jean-" ]]; then jobcmd="\"$RUNBASHCMD $make_j --partition=compil\""; fi  # On JeanZay: compile on the <compil> partition
275  if [[ $(echo "$RUNBASHCMD" | cut -c -4) = "bash" ]]; then
276     jobcmd="bash"
277  fi
278  if [[ $PARALLEL == 0 ]] ; then parallel= ; else parallel="-parallel mpi_omp" ; fi
279  echo "./install_lmdz.sh -noclean $optim -v $version $svnopt -d $resol -rad $rad -bench 0 $parallel $ins_cosp $ins_xios $ins_aero $ins_inlandsis -name $LMDZname -veget $veget -netcdf $netcdf -arch $ARCH -make_j $make_j -jobcmd $jobcmd" >> install_lmdz_options.$$.sh
280  chmod +x install_lmdz_options.$$.sh
281  echo "Running install_lmdz_options.$$.sh"
282  set -o pipefail
283    gcm=$MODEL/$(./install_lmdz_options.$$.sh | tee /dev/tty | tail -n 1 | sed -n "s:.* executable is \(.*\.e\).*:\1:p")
284  set +o pipefail
285  mv install_lmdz.sh install_lmdz.$$.sh
286  cd "$local"
287}
288
289#---------------------------------------------------------------------------
290function setup_def() {  # modify various .def in ./DEF (+ xios xml )
291#---------------------------------------------------------------------------
292  cd "$local"
293
294  # Utilisation des .def_iso pour LMDZ-ISOtopes
295  if [[ $phylmd = "lmdiso" ]]; then
296    for file_iso in $(ls DEF | grep _iso); do
297      cp DEF/"$file_iso" DEF/"${file_iso%%_iso}"
298    done
299  fi
300
301  ######################################################################
302  # Choix de la grille verticale
303  ######################################################################
304  if [ ! -f "DEF/L$lm.def" ]; then
305    echo "STOP: Résolution verticale non prévue - créer un fichier DEF/L$lm.def"; exit 1
306  else
307    sed -i'' -e "s/INCLUDEDEF=L.*.def/INCLUDEDEF=L$lm.def/" DEF/run.def
308  fi
309
310  ######################################################################
311  # Changements dans les fichiers DEF/*def
312  # (ils vont se repercuter dans les repertoires de simulation $local/$SIM et de run $SIMRUNDIR)
313  ######################################################################
314
315  # Choix du fichier tracer.def coherent avec l'option "aerosols"
316  #  NOTE : Le nouveau tracer.def_nospla par defaut n'inclut pas Rn-Pb;
317  #  si on les veut, il faut utiliser ci-dessous; a la place, tracer_RN_PB.def
318  #---------------------------------------------------------------------
319  # NB : Les traceurs absents de start* files sont initialises=0 dans le code
320  if [[ $aerosols = "spla" ]]; then
321    # nouveau tracer.def (remplace "traceur.def")
322    cp DEF/tracer.def_spla DEF/tracer.def
323  elif [[ $phylmd = "lmdiso" ]]; then
324    # déjà copié si 'y'
325    cp DEF/tracer.def_nospla DEF/tracer.def
326  fi
327
328  # TEMPORAIREMENT pour spla on force l'utilisation de gcm.def_zNAfrica_BiJe (avec resolution 128x88x79)
329  #----------------------------------------------------------------------
330  if [[ $aerosols = "spla" ]]; then
331      cp DEF/gcm.def_zNAfrica_BiJe DEF/gcm.def; fi
332
333  # Inscription du choix ok_guide dans DEF/guide.def
334  #---------------------------------------------------------------------
335  sed -i'' -e 's/ok_guide=.*.$/ok_guide='$ok_guide'/' DEF/guide.def
336
337  # Inscription du type de calendrier (qui est fonction de $climato) dans DEF/run.def
338  #---------------------------------------------------------------------
339  # NB Contrairement a ce qui est ecrit dans les fichiers run.def standard,
340  # dans ce tutorial le choix earth_365d n'est pas disponible, et earth_366d s'appelle gregorian
341  if [[ $climato = 0 ]]; then calend="gregorian"; else calend="earth_360d"; fi
342  sed -i'' -e 's/calend=.*.$/calend='$calend'/' DEF/run.def
343
344  # Changements dans config.def (pre-choisi, et regle pour output si utilisation avec IOIPSL)
345  #   cf options veget, aerosols, cosp, xios
346  #---------------------------------------------------------------------
347  if [[ $veget = "none" ]]; then  VEGET="n"; else VEGET="y"; fi
348  sed -i'' -e 's/VEGET=.*.$/VEGET='$VEGET'/' DEF/config.def
349
350  ok_cdnc=y ; ok_ade=y ; ok_aie=y ; ok_alw=y
351  case $aerosols in
352    clim) flag_aerosol=6 ;;
353    spla) flag_aerosol=1 ;;
354    n)    flag_aerosol=0 ; ok_cdnc=n ; ok_ade=n ; ok_aie=n ; ok_alw=n ;;
355    *)    echo Option aerosols=$aerosols not available ; exit 1
356  esac
357  sed -i'' -e 's/^ok_cdnc=.*.$/ok_cdnc='$ok_cdnc'/' \
358           -e 's/^ok_ade=.*.$/ok_ade='$ok_ade'/' \
359           -e 's/^ok_aie=.*.$/ok_aie='$ok_aie'/' \
360           -e 's/^ok_alw=.*.$/ok_alw='$ok_alw'/' \
361           -e 's/^flag_aerosol=.*.$/flag_aerosol='$flag_aerosol'/' DEF/config.def
362  pwd
363
364  # COSP : ok_cosp desactive COSP si on a compile avec; il ne l'active pas si on a compile sans
365  sed -i'' -e 's/ok_cosp.*.$/ok_cosp='$cosp'/' DEF/config.def
366  if [[ $cosp = "y" ]]; then \cp -f "$MODEL"/DefLists/cosp*.txt "$local"/DEF/; fi
367
368  # Sorties LMDZ en fonction de l'option "xios"
369  sed -i'' -e 's/ok_all_xml=.*.$/ok_all_xml='$xios'/' DEF/config.def
370
371  # Ajuster physiq.def en fonction de radiative code (default: values for rad=rrtm)
372  #   Pour isotopes=y , mettre iflag_ice_thermo=0 au lieu de 1
373  #---------------------------------------------------------------------
374  sed -i'' -e "s/iflag_rrtm=.*.$/iflag_rrtm=$iflag_rrtm/" -e "s/NSW=.*.$/NSW=$NSW/" DEF/physiq.def
375  sed -i"" -e "s:directory_name.*$:directory_name=\"$MODEL/libf/phylmd/ecrad/data\",:" DEF/namelist_ecrad
376
377  if [[ $phylmd = "lmdiso" ]]; then iflag_ice_thermo=0; else iflag_ice_thermo=1; fi
378  sed -i -e 's/iflag_ice_thermo=.*.$/iflag_ice_thermo='$iflag_ice_thermo'/' DEF/physiq.def
379
380  # Choix de orchidee.def en fonction de orchidee_rev; modification pour xios
381  #  NOTE separate orchidee_pft.def file for ORCHIDEE trunk post-CMIP6
382  #---------------------------------------------------------------------
383  orchidee_def=orchidee.def_6.1
384  orchidee_pft_def=""
385  if [[ $veget = "7983" ]]; then
386    orchidee_def=orchidee.def_6.2work
387  elif [[ $veget = "7994" ]]; then
388    orchidee_def=orchidee.def_6.4work
389    orchidee_pft_def=orchidee_pft.def_6.4work
390    if ! grep "INCLUDEDEF=orchidee_pft.def" DEF/run.def; then
391      sed -i'' -e 's/INCLUDEDEF=orchidee.def/INCLUDEDEF=orchidee.def\nINCLUDEDEF=orchidee_pft.def/' DEF/run.def; fi
392  fi
393  cp -f DEF/$orchidee_def DEF/orchidee.def
394  if [[ $orchidee_pft_def != "" ]]; then cp -f DEF/$orchidee_pft_def DEF/orchidee_pft.def; fi
395
396  # Only for veget=CMIP6 it is still possible to use IOIPSL; newer versions of orchidee.def have XIOS_ORCHIDEE_OK = y
397  sed -i'' -e 's/XIOS_ORCHIDEE_OK =.*.$/XIOS_ORCHIDEE_OK = '$xios'/' DEF/orchidee.def
398
399  ######################################################################
400  # Si on tourne avec XIOS, mise a jour des fichiers context et field* dans XMLfilesLMDZ
401  # (ils vont se repercuter dans les repertoires de simulation $local/$SIM et de run $SIMRUNDIR)
402  ######################################################################
403  if [[ $xios = y ]]; then
404    cp -f "$MODEL"/DefLists/context_lmdz.xml "$local"/DEF/XMLfilesLMDZ/.
405    cp -f "$MODEL"/DefLists/field_def_lmdz.xml "$local"/DEF/XMLfilesLMDZ/.
406    if [[ $cosp = y ]]; then cp -f "$MODEL"/DefLists/field_def_cosp1.xml "$local"/DEF/XMLfilesLMDZ/.; fi
407  fi
408}
409
410#---------------------------------------------------------------------------
411function setup_ce0l() { # Verification de l'existance de l'état initial, compilation eventuelle pour sa creation
412#---------------------------------------------------------------------------
413  if [[ ! -d $INIT ]]; then
414    if [[ $init = 0 ]]; then
415      echo "STOP: Récuperer les repertoires $INIT ou lancer avec option -init"; exit 1
416    else
417      # Compile ce0l
418      cd "$MODEL"
419      sed -e 's/gcm$/ce0l/' compile.sh > compile_ce0l.sh; chmod +x compile_ce0l.sh
420      echo "Compiling ce0l"
421      if ! ./compile_ce0l.sh &> ce0l.log; then echo "STOP: ce0l compilation failed, see $MODEL/ce0l.log"; exit 1; fi
422      echo "Compiled ce0l"
423      ce0l=${gcm/gcm/ce0l}
424
425      cd "$local"
426    fi
427  elif [[ $init = 1 ]]; then
428    echo "STOP: Vous essayez d initialiser le modele mais $INIT existe deja"; exit 1
429  fi
430}
431
432#---------------------------------------------------------------------------
433function setup_simu() {
434#---------------------------------------------------------------------------
435  #SIMRUNTOPDIR="$SIMRUNBASEDIR/$(basename "$local")"
436  SIMRUNTOPDIR="$SIMRUNBASEDIR"
437  SIMRUNDIR=$SIMRUNTOPDIR
438  mkdir -p "$SIMRUNDIR"
439  cd "$SIMRUNDIR"
440  echo "La simulation s'exécutera sur $SIMRUNDIR"
441
442  #####################################################################
443  # Creation du repertoire $SIM s'il n'existe pas deja
444  #####################################################################
445  if [[ ! -d $local/$SIM ]]; then
446    mkdir "$local/$SIM"
447    cd "$local"
448
449    # Edit reb.sh
450    cp reb.sh "$local/$SIM/reb.sh"; chmod +x "$local/$SIM/reb.sh"
451    sed -i'' -e "s:^rebuild=.*.$:rebuild=$LMDZD/$LMDZname/modipsl/bin/rebuild:" "$local/$SIM/reb.sh"
452    enable_platform "$local/$SIM/reb.sh"
453
454    # Copy .def
455    cp lmdz_env.sh "$local/$SIM/"
456    mkdir "$local/$SIM/DEF"; cp DEF/*def DEF/namelis* "$local/$SIM/DEF/"
457    #Pour XIOS, respectivement COSP, copier aussi les fichiers *xml / *txt
458    if [[ $cosp = "y" ]]; then cp DEF/cosp*txt "$local/$SIM/DEF/"; fi
459    if [[ $xios = "y" ]]; then
460       cp DEF/XMLfilesLMDZ/*xml "$local/$SIM/DEF/"
461       if [[ $veget != 'none' ]]; then cp DEF/XMLfilesOR$veget/*xml "$local/$SIM/DEF/"; fi
462    fi
463    chmod u+w "$local/$SIM"/DEF/*
464
465    # Gestion du calendrier
466    #######################
467    cd "$SIM"
468    sed -i'' -e "s/anneeref=.*.$/anneeref=$yearini/" DEF/run.def
469    if [[ $freq = "yr" ]]; then date=$yearini; else date=$mthini; fi
470    echo "$date a faire" >| etat
471
472    # Recuperation des fichiers : executable initiaux et forcages
473    #############################################################
474    echo "date: $date"
475    for f in start startphy; do
476      inf=../$INIT/$f.$date.nc
477      if [[ -f $inf || $init = 1 ]]; then ln -s "$inf" ./; else echo "STOP: $inf missing"; exit ; fi;
478    done
479    for f in sechiba stomate; do
480      if [[ -f ../$INIT/start_$f.$date.nc ]]; then ln -sf "../$INIT/start_$f.$date.nc" .; fi
481    done
482    cp "$gcm" gcm.e
483  fi
484  cd "$local"/..
485
486  #####################################################################
487  echo "Modification du script de lancement"
488  #####################################################################
489  local cput
490  if [[ $freq = "yr" ]]; then cput="04:00:00"; else cput="01:00:00"; fi
491  local isotopes="n"
492  if [[ $phylmd = "lmdiso" ]]; then isotopes="y"; fi
493  sed -e "s/NOM_SIMU/$SIM/" \
494  -e "s/time=.*.$/time=$cput/" \
495  -e "s/ntasks=.*.$/ntasks=$mpi/" \
496  -e "s/ntasks-per-node=.*.$/ntasks-per-node=$mpi_per_node/" \
497  -e "s/cpus-per-task=.*.$/cpus-per-task=$omp/" \
498  -e "s/nthreads=.*./nthreads=$omp/" \
499  -e "s/MAINDIR=.*.$/MAINDIR=$(basename "$local")/" \
500  -e "s:STORED=.*.*:STORED=$(dirname "$local"):" \
501  -e "s:SCRATCHD=.*.*:SCRATCHD=$SIMRUNBASEDIR:" \
502  -e "s/stopsim=.*.$/stopsim=$stopsim/" \
503  -e "s/^veget=.*.$/veget=$veget/" \
504  -e "s/^aerosols=.*.$/aerosols=$aerosols/" \
505  -e "s/^isotopes=.*.$/isotopes=$isotopes/" \
506  -e "s/^climato=.*.$/climato=$climato/" \
507  -e "s/^ok_guide=.*.$/ok_guide=$ok_guide/" \
508  "$local/script_SIMU" >| "$SIMRUNDIR/tmp_$SIM"
509
510  enable_platform "$SIMRUNDIR/tmp_$SIM"
511
512  if [[ $testmode = "y" ]]; then
513    sed -i'' -e "s/time=.*.$/time=00:10:00/" -e "s/#nday=1/nday=1/" -e "s/#@TESTQ//" "$SIMRUNTOPDIR/tmp_$SIM"
514  fi
515}
516
517#----------------------------------------------------------------------
518function list_yrmth() {
519#----------------------------------------------------------------------
520    local liste=""
521    local mthini=$1
522    local mthend=$2
523    local mo_=$mthini
524    while [[ $mo_ != $mthend ]] ; do
525        liste="$liste $mo_"
526        yr__=$( echo $mo_ | cut -c 1-4 )
527        mo__=$( echo $mo_ | cut -c 5-6 )
528        echo YM $yr__ $mo__
529        if [ $(( $mo__ +1 )) == 12 ] ; then
530           yr__=$(( $yr__ + 1 )) ; mo_=$yr__$mo__
531        else
532           mo_=$(( $mo_ + 1 ))
533        fi
534    done
535    echo $liste
536   
537}
538
539#----------------------------------------------------------------------
540increment_month() {
541#----------------------------------------------------------------------
542  local year=$( echo $1 | cut -c 1-4 )
543  local month=$(( $1 - ${year}00 ))
544  if [ $(( $month - 12 )) -eq 0 ]; then
545    year=$((year + 1))
546    month=1
547  else
548    month=$((month + 1))
549  fi
550  if [[ $month -le 9 ]] ; then month=0$month ; fi
551  echo $year$month
552}
553
554#----------------------------------------------------------------------
555function fetch_simu_init_files() {
556#----------------------------------------------------------------------
557  #####################################################################
558  echo "Recuperation eventuelle de certains fichiers sur http:lmdz.lmd.jussieu.fr/pub"
559  #####################################################################
560
561  #  ORCHIDEE input files
562  get_input_files wget_pub Orchidee
563
564  # Files for aerosols and chemistry
565  if [[ $aerosols = "clim" ]]; then
566       get_input_files wget_pub AerChem ; fi
567
568  # Files for SPLA
569  if [[ $aerosols = "spla" ]]; then
570       get_input_files wget_pub SPLA_WA/emissions
571       mo_=$mthini
572       while [[ $mo_ != $mthend ]] ; do
573       # Code horrible duplique a cause de 08 (FH)
574           local yr__=$( echo $mo_ | cut -c 1-4 )
575           local mo__=$(( $mo_ - ${yr__}00 ))
576           if [[ $mo__ -le 9 ]] ; then mo__=0$mo__ ; fi
577           for var in u10m v10m u v ; do
578               echo wget_pub 3DInputData/SPLA_WA/ERA5/$yr__/$mo__ $var.nc
579               wget_pub 3DInputData/SPLA_WA/ERA5/$yr__/$mo__ $var.nc
580           done
581           mo_=$( increment_month $mo_ )
582       done
583  fi
584}
585
586#----------------------------------------------------------------------
587function run_sim_or_init() {
588#----------------------------------------------------------------------
589  cd "$local"
590
591  if [[ $init = 1 ]]; then
592    #####################################################################
593    echo "Creation de l etat initial"
594    #####################################################################
595
596    # Creation du repertoire INIT et mise en place de liens logiques vers les starts
597    # en anticipation de leur création :
598    mkdir "$local/$INIT"; cd "$local/$INIT"
599    for an in $mthini $yearini; do for f in start startphy; do ln -s "$f.nc" "$f.$an.nc"; done; done
600
601    # Creation du repertoire INIT temporaire et rapatriement des fichiers necessaires
602    if [[ -d $SIMRUNDIR/$INIT ]]; then mv "$SIMRUNDIR/$INIT" "$SIMRUNDIR/$INIT$$"; fi
603    mkdir "$SIMRUNDIR/$INIT"; cp -r "$local/DEF" "$SIMRUNDIR/$INIT/"
604    cd "$SIMRUNDIR/$INIT"; cp DEF/*.def .; cp "$local/lmdz_env.sh" .
605    if [[ $xios = "y" ]]; then
606      cp DEF/XMLfilesLMDZ/*xml .
607      if [[ $veget != 'none' ]]; then cp DEF/XMLfilesOR$veget/*xml .; fi
608    fi
609    sed -e "s/anneeref=.*.$/anneeref=$yearini/" DEF/run.def >| run.def
610
611    #-------------------------------------------------------------------
612    # Fichiers Limit
613    #-------------------------------------------------------------------
614    local yrs suf
615    if [[ $climato = 0 ]]; then
616      # calend est choisi plus haut dans "Changements dans les fichiers DEF/*def" et ecrit dans $MAINDIR/DEF/run.def
617      yrini=$(echo "$mthini" | cut -c-4)
618      yrend=$(echo "$mthend" | cut -c-4)
619      yrs=""; yr=$yrini
620      while [[ $yr -le $yrend ]]; do yrs="$yrs $yr"; (( yr = yr + 1 )); done
621      suf="360x180_"
622    else
623      yrs=2000
624      suf="1x1_clim"
625    fi
626
627    liste_get="Albedo.nc Relief.nc Rugos.nc landiceref.nc"
628    for yr in $yrs; do
629       if [[ $climato = 0 ]]; then sufyr=$suf$yr; else sufyr=$suf; fi
630       liste_get="$liste_get amipbc_sic_$sufyr.nc amipbc_sst_$sufyr.nc"
631    done
632    echo LISTEGET "$liste_get"
633    for file in $liste_get; do
634       wget_pub 3DInputData/Limit $file
635       ln_from_pub  3DInputData/Limit $file
636    done
637    #-------------------------------------------------------------------
638    # Initial state ECDYN
639    #-------------------------------------------------------------------
640    wget_pub 3DInputData/Init ECDYN.nc
641    ln_from_pub 3DInputData/Init ECDYN.nc
642    ln -sf ECDYN.nc ECPHY.nc
643
644    # Creation du script d'initialisation
645    cat << ...eod >| tmp
646#!/bin/bash
647#@JZ#JeanZay
648#@JZ#SBATCH --job-name=Init         # nom du job
649#@JZ#SBATCH --ntasks=1              # Nombre de processus MPI
650#@JZ#SBATCH --cpus-per-task=1      # nombre de threads OpenMP
651#@JZ# /!\ Attention, la ligne suivante est trompeuse mais dans le vocabulaire
652#@JZ# de Slurm "multithread" fait bien référence à l'hyperthreading.
653#@JZ#SBATCH --hint=nomultithread    # 1 thread par coeur physique (pas d'hyperthreading)
654#@JZ#SBATCH --time=00:10:00         # Temps d'exécution maximum demandé (HH:MM:SS)
655#@JZ#SBATCH --output=Init%j.out     # Nom du fichier de sortie
656#@JZ#SBATCH --error=Init%j.out      # Nom du fichier d'erreur (ici commun avec la sortie)
657#@JZ# To submit to dev queue; "time" (above) must be max 2h
658#@JZ#TESTQ#SBATCH --qos=qos_cpu-dev
659#@SP#Spirit
660#@SP#SBATCH --job-name=Init
661#@SP#SBATCH --ntasks=1
662#@SP#SBATCH --cpus-per-task=1
663#@SP#SBATCH --hint=nomultithread
664#@SP#SBATCH --time=00:10:00
665#@SP#SBATCH --output=Init%j.out
666#@SP#SBATCH --error=Init%j.out
667#@ADS#Adastra
668#@ADS#SBATCH --job-name=Init
669#@ADS#SBATCH --ntasks=1
670#@ADS#SBATCH --cpus-per-task=1
671#@ADS#SBATCH --nodes=1
672#@ADS#SBATCH --hint=nomultithread
673#@ADS#SBATCH --time=00:10:00
674#@ADS#SBATCH --output=Init%j.out
675#@ADS#SBATCH --error=Init%j.out
676
677set -eu
678
679# ANCIEN MULTI STEP  case \${LOADL_STEP_NAME} in
680
681# ANCIEN MULTI STEP   init )
682
683if [ ! -f lmdz_env.sh ]; then echo "manque fichier lmdz_env.sh"; ls; exit 1; fi
684. lmdz_env.sh
685ulimit -s unlimited
686cd $SIMRUNDIR/$INIT
687echo "Executable : $ce0l"
688for yr in $yrs; do
689  if [ $climato = 0 ]; then sufyr=$suf\$yr; else sufyr=$suf; fi
690  ln -sf amipbc_sic_\$sufyr.nc amipbc_sic_1x1.nc
691  ln -sf amipbc_sst_\$sufyr.nc amipbc_sst_1x1.nc
692  sed -e 's/anneeref=.*.$/anneeref='\$yr'/' DEF/run.def >| run.def
693  echo Starting initialisation
694  # Runing ce0l.e
695  OMP_NUM_THREADS=1 $MPICMD 1 $ce0l  # ce0l requires MPI=OMP=1
696  if [ $climato = 0 ]; then mv limit.nc limit.\$yr.nc; fi
697done
698# ANCIEN MULTI STEP   ;;
699
700# ANCIEN MULTI STEP   interp )
701if [[ $aerosols = clim ]]; then
702  cp $local/interp_aerosols.sh .; chmod +x interp_aerosols.sh
703  # Les aerosols de l'annee 2000 ont été remplacés par "9999" qui pointe vers un fichier moyen sur 1995-2014
704  #for year in 2000 1850; do  ./interp_aerosols.sh \$year; done
705  #mv aerosols.2000.nc aerosols.clim.nc; mv aerosols.1850.nc aerosols.nat.nc
706  for year in 9999 1850; do ./interp_aerosols.sh \$year; done
707  mv aerosols.9999.nc aerosols.clim.nc; mv aerosols.1850.nc aerosols.nat.nc
708fi
709
710for f in sta* gri*nc; do cp \$f $local/$INIT/\$f; done
711if [[ $climato = 1 ]]; then cp limit.nc $local/$INIT/limit.nc; fi
712mkdir -p $local/$LIMIT
713for f in limit*.nc ; do cp \$f $local/$LIMIT/\$f; done
714if [ $aerosols = clim ]; then  for f in aerosols[.0-9]*nc; do cp \$f $local/$LIMIT/\$f; done; fi
715#
716cd $SIMRUNDIR
717...eod
718    if [[ $ok_guide != "y" ]]; then # Running first simulation automatically except for nudging
719      cat << ...eod >> tmp
720      echo "Submitting job tmp_$SIM"
721      #echo "\$SUBMITCMD tmp_$SIM"
722      #\$SUBMITCMD tmp_$SIM
723      echo submitcmd tmp_$SIM
724      submitcmd tmp_$SIM
725...eod
726    fi
727    cat << ...eod >> tmp
728  # ANCIEN MULTI STEP   esac
729...eod
730    enable_platform tmp
731    echo "#################################################################"
732    #echo "Submitting initialisation job <$SUBMITCMD tmp> from $(pwd)"
733    echo "Submitting initialisation job <submitcmd tmp> from $(pwd)"
734    chmod +x tmp
735    #$SUBMITCMD tmp
736    submitcmd tmp
737    echo "#################################################################"
738
739  else #case [ $init != 1 ]
740     cd "$SIMRUNDIR"
741     echo "################################################################"
742     echo "Submitting job tmp_$SIM"
743     #echo "$SUBMITCMD tmp_$SIM"
744     #$SUBMITCMD "tmp_$SIM"
745     echo "submitcmd tmp_$SIM"
746     submitcmd "tmp_$SIM"
747     echo '################################################################'
748  fi
749}
750
751#---------------------------------------------------------------------------
752function message_post_submit() {
753#---------------------------------------------------------------------------
754  if [[ $ok_guide = "y" && $init = 1 ]]; then
755    cd "$local"
756    enable_platform era2gcm_tuto.sh
757    echo "Once initialisation is finished, you have to create nudging files"
758    echo "Edit era2gcm_tuto.sh and set the desired parameters in section <User choices>"
759    echo "Make sure you have acces to the chosen ERA files, and the required modules are loaded, then run : ./era2gcm_tuto.sh"
760    if [[ $aerosols = "spla" ]]; then
761      echo "Your aerosol choice is <spla>, so you need ERA 10m-winds interpolated on LMDZ grid. Use script era2gcm_uv10m.sh"
762    fi
763  else
764    echo "Si tout se passe bien, vous avez initialisé et lancé automatiquement la simulation."
765    echo "Le job qui a été lancé se trouve sur $SIMRUNTOPDIR/tmp_$SIM"
766  fi
767}
768
769#---------------------------------------------------------------------------
770function setup_and_load_lmdz_env() {
771#---------------------------------------------------------------------------
772  if [[ ! -f .lmdz_setup_root_dir ]]; then echo "STOP: setup.sh is not located in the root dir ??!!"; exit 1; fi
773  # sed root_dir in lmdz_env.sh
774  sed -i'' "s<root_dir=.*<root_dir=$local<" lmdz_env.sh
775
776  # Set up the appropriate environment
777  source lmdz_env.sh
778}
779
780local=$(pwd)
781
782setup_and_load_lmdz_env
783load_install_lib
784define_expert_options
785set_default_params
786read_cmdline_args "$@"
787ensure_correct_option_combinations
788install_model
789setup_def
790setup_ce0l
791setup_simu
792fetch_simu_init_files
793run_sim_or_init
794message_post_submit
Note: See TracBrowser for help on using the repository browser.