Météo-France seasonal forecast system 5 forEurosip

Technical description

May 2015

Page 1

Table of contents

Introduction..........................................................................................................................................4
General features of the operational seasonal forecast system 5 at Météo-France................................5
Main upgrades of system 5 with respect to system 4...........................................................................6
System 5 processing overview.............................................................................................................7
Initial Conditions Fetching.............................................................................................................8
Atmosphere initial conditions pre-processing.................................................................................9
Coupled model integration.............................................................................................................10
Post-processing..............................................................................................................................11a) post-processing for internal validation..................................................................................11b) post-processing for EUROSIP, partners and external users..................................................11
References..........................................................................................................................................12
APPENDIX 1: SYSTEM 5 BASIC FACTS.......................................................................................13
1. Ensemble version..................................................................................................................13
2. Configuration of the EPS......................................................................................................13
3. Initial conditions and perturbations.......................................................................................14
4. Model Uncertainties perturbations:.......................................................................................14
5. Surface Boundary perturbations:..........................................................................................14
6. Other details of the models:..................................................................................................14
7. Re-forecast Configuration.....................................................................................................15
8. References:............................................................................................................................15
APPENDIX 2 : SCRIPTS OF THE SEASONAL FORECAST SYSTEM 5.....................................17
Master script 'psaisdaem5.op_tr'....................................................................................................17
Ocean data fetching script 'getdata-sys5.op_tr'..............................................................................18
Script d'élaboration du fichier de conditions initiales atmosphériques 'inipsais-sys4.op'.............19
Script d'intégration du système couplé 'previsais-sys4.op'............................................................21
Script de création des séries temporelles quotidiennes de paramètres 'postpro-sys4.op'..............25
Script de création des moyennes mensuelles par paramètre 'moymens-sys4.op'..........................26
Script de post-traitement pour le CEPMMT 'fa2grib-sys4.op'......................................................28
Script d'archivages des fichiers Grib sur la base Mars recherche 'archi_mars-sys4.op'................33
APPENDIX 3: HOW TO DEAL WITH VERTICAL RESOLUTION CHANGE FOR THE
ECMWF IFS ANAYSES....................................................................................................................35
APPENDIX 4 : TROUBLESHOOTING...........................................................................................37
What to do if one or several forecasts fail.....................................................................................37
What to do if it happens during the integration stage ?.................................................................37
Introduction..........................................................................................................................................4
General features of the operational seasonal forecast system 5 at Météo-France................................5
Main upgrades of system 5 with respect to system 4...........................................................................6
System 5 processing overview.............................................................................................................7
Page 2

Initial Conditions Fetching.............................................................................................................8
Atmosphere initial conditions pre-processing.................................................................................9
Coupled model integration.............................................................................................................10
Post-processing..............................................................................................................................11
References..........................................................................................................................................12
APPENDIX 1: SYSTEM 5 BASIC FACTS.......................................................................................13
APPENDIX 2 : SCRIPTS OF THE SEASONAL FORECAST SYSTEM 5.....................................17
Master script 'psaisdaem5.op_tr'....................................................................................................17
Ocean data fetching script 'getdata-sys5.op_tr'..............................................................................18
Script d'élaboration du fichier de conditions initiales atmosphériques 'inipsais-sys4.op'.............19
Script d'intégration du système couplé 'previsais-sys4.op'............................................................21
Script de création des séries temporelles quotidiennes de paramètres 'postpro-sys4.op'..............25
Script de création des moyennes mensuelles par paramètre 'moymens-sys4.op'..........................26
Script de post-traitement pour le CEPMMT 'fa2grib-sys4.op'......................................................28
Script d'archivages des fichiers Grib sur la base Mars recherche 'archi_mars-sys4.op'................33
APPENDIX 3: HOW TO DEAL WITH VERTICAL RESOLUTION CHANGE FOR THE
ECMWF IFS ANAYSES....................................................................................................................35
APPENDIX 4 : TROUBLESHOOTING...........................................................................................37
What to do if one or several forecasts fail.....................................................................................37
What to do if it happens during the integration stage ?.................................................................37

Page 3

Introduction

Météo-France built its own model for numerical weather prediction as soon as the early
1970's, and for climate simulations in the early 1980's. However, seasonal forecasting
became a fully operational activity in the late 1999's. Several scientific projects such as
FP5-DEMETER and FP7-ENSEMBLES pointed out the added value of multi-model
forecasting to improve seasonal prediction by reducing the individual model errors. This
major conclusion was the baseline of the EUROSIP multi-model seasonal forecasting
system consisting in a number of independent coupled seasonal forecasting systems
integrated into a common framework.
http://old.ecmwf.int/products/forecasts/seasonal/documentation/eurosip/index.html
Météo-France is one of the EUROSIP contributors, together with ECMWF, the UK MetOffice and more recently NCEP.
In 2015, the seasonal forecast system 5 will replace system 4 to become the MétéoFrance contribution to EUROSIP.
After a brief overview of system 5 version and the upgrades with respect to system 4, thisdocument describes its first stage consisting in building initial states for the atmosphere,
ocean, sea-ice and land surface, as inputs of the forecast. Then, a few comments are
given about the coupled model integration between the initial time-step and the 7-monthforecast lead-time. In the end, the post-processing of raw output files from the model
integration into standardized time series and monthly-mean files is described. These files
are intended to be fetched by the multi-model EUROSIP consortium and by Météo-France
Climatology Department as well, for validation purposes and end-users products
designing.
A detailed appendix follows roughly the same outline but provides more technical details.


The traditional fact sheet, as defined by ECMWF

A step-by-step guideline1 for reading and decrypting the multiple scripts that are run
every month for the forecast production. Together with the subsequent
troubleshooting paragraph, it should permit anyone with basic knowledge of shell
scripting to dig into the code and address the issue if the forecast production should
fail.

This document does not describe the atmosphere and ocean data assimilation techniques
which are carried out respectively by ECMWF and MERCATOR-OCEAN.
It does not describe the models either. See Voldoire et al. (2013) for more details on the
coupled model developed for CMIP5 from which system 5 is derived.

1This section is written in French

Page 4

General features of the operational seasonal forecast system 5 at Météo-France
As any long-range forecast system, Météo-France system 5 consists in an ensemble
forecast operational production together with an ensemble re-forecast dataset, also calledhindcast.
Both ensembles come from integrations of the global coupled atmosphere/ocean/seaice/land-surface model CNRM-CM illustrated in Figure 1.

Figure 1: CNRM-CM model components of Seasonal forecast system 5
In this system, the ensemble members are generated by small differences in their initialconditions but also during the integration, in order to take into account uncertainties in theinitial state as well as model errors.
More specifically, the 51 members of the forecast come from a combination of 2 sets oflagged average runs differing by their start date 2 with either 25 or 26 distinct sets ofperturbations applied during the integration as part of the stochastic dynamics procedure(Batté and Déqué, 2012) . This is illustrated in Figure 2
The hindcast is fixed – as opposed to ‘on the fly hindcasts’. It accounts for 15 members
and spans 22 years from 1991 until 2014. It was built with one ocean initial state combinedwith 15 distinct sets of perturbations for stochastic dynamics.

2

The closest Wednesay to the 15th day of each calendar month and the following Wednesday

Page 5

Figure 2: Generation of the 51 members ensemble seasonal forecast; example of the May 2015 toNovember 2015 forecast

Main upgrades of system 5 with respect to system 4
The former system 4 has been running operationally since September 2012. It consists in
a 51 member forecast based on ARPEGE-Climat version 5.2 coupled with NEMO3.2. The
atmosphere component has a 1.5° horizontal resolution and 31 vertical levels, while theocean one has a 1° horizontal resolution and 42 vertical levels. The ensemble is generated
by 51 distinct initial conditions and slightly different start dates (lagged average technique).
The main upgrades in system 5 are listed hereunder:
1. ARPEGE-Climat version moves to Arpege-IFS cycle 37 with a finer horizontal
resolution of 0.75° (Tl255 truncation)
2. Vertical resolution is increased to 91 levels allowing an explicit representation of thestratosphere (ozone, non-orographic gravity wave drag3. Surface processes are managed by the dedicated SURFEX 7.3 modelling platform
4. Sea-ice is computed by a dedicated model: GELATO v5
5. Ensemble spread is generated by a stochastic dynamics technique in addition tousing a lagged initialization

Page 6

System 5 processing overview
The ECMWF user account dedicated to seasonal forecast production is zac. It can only beaccessed either by zac security token, currently owned by Constantin Ardilouze (CA), orfrom ecgate server, with the command:% ssh zac@ecgate
It can also be accessed by the following users for backup purposes: Jean-François
Guérémy or Michel Déqué. These 3 users are the designated recipients of the e-mails
confirming the successful achievement of the forecasts. The path to all the scripts of thesystem 5 is:
cca:/sc1/home/zac/PREVISAISO/procs/system5/OPER
cca is the name of one of the 2 systems of the CRAY-High Performance Computing
Facility at the ECMWF, the other one being ccb. Both cca and ccb share the same filesystem.
The system 5 forecast system relies on a chain of scripts that successively perform thefetching of the initial condition data, their pre-processing, the model integration (strictly
speaking), the post-processing and finally the data archiving. The steps of this chain withthe corresponding script names are illustrated in Figure 3. Note that there are two
branches for post-processing: one is dedicated to EUROSIP requirements while the otherone is lighter and allows Météo France to use home-made diagnostic tools.

Page 7

Figure 3: Overview of the scripts chaining for system 5
At each start date, the most recent pair of ocean and atmosphere analyses are fetchedand processed, then 25 or 26 forecasts are launched.
To do so, each day shortly after 05 UTC, a cron job-scheduler3 executes thepsaisdaem5.op_tr script twice, either with argument being ‘1’ for start date number 1
or ‘2’ for start date number 2.
If the date of the current day does not match one of the 2 start dates, the script ends withno further action.

Otherwise, it executes the first script getdata-sys5.op_tr with the appropriate startdate argument and ends by sending to CA an automated e-mail confirming this execution.

Initial Conditions Fetching
Every Wednesday our partner MERCATOR-OCEAN drops a set of 14 files on the Météo3

The crontab file is located in /sc1/home/zac/cron directory

Page 8

France storage server Hendrix in the following directory4:
Hendrix:/home/s/spsy/spsy002/PSY2G3R4/db

These files describe 14 successive daily ocean states. Two of them are actual ocean
analyses resulting from the most recent data assimilation cycle while the other 12 areguesses issued from the ocean model integration. getdata-sys5.op fetches from theHendrix server the ocean analysis matching the start date by means of a ectranswrapper function called gf and located in the /sc1/home/zac/procs directory.
Figure 2 shows an example of how the 51 members of the forecast are generated.
The start dates correspond to :-The first Wednesday comprised between the 12 th and the 18th day of each month-

The following Wednesday

At these start dates, the most recent ocean analysis and the corresponding atmosphere
analysis are fetched and processed. On the first start date, 25 integrations of the model
begin, each one with a distinct set of stochastic dynamics perturbations. On the second
one, 26 more integrations are initiated similarly.

Atmosphere initial conditions pre-processing
The getdata-sys5.op_tr programme mentioned earlier ends with the execution of theinipsais-sys5.op_tr script which fetches atmosphere initial conditions from theoperational IFS analyses stream. Unlike the MERCATOR-OCEAN file which can be useddirectly by NEMO as a restart, the IFS analysis grib files need a pre-processing to fit
ARPEGE format standards and to be interpolated on the ARPEGE target grid.
First of all, to avoid potential availability issues, the target atmosphere analysis filecorresponds to the 00h analysis cycle of the day before the start date.
The analysis retrieval requires 3 distinct queries on the MARS archive system :Vertical fields (spectral coefficients on model vertical levels)Surface fields (grid points)Specific humidity field (grid points on model vertical levels).

Note that the requested resolution is T255 even though the original IFS analysis has amuch greater horizontal resolution. The upscaling is managed by the MARS retrieval
system.
These queries lead to 3 Grib-formatted files that are copied onto the ecfs archive server.
The atmosphere initial condition file for the ARPEGE model is produced in 2 steps : the socalled ‘901 ARPEGE configuration’ which converts the 3 Grib-formatted files into one FA 5
file and the ‘927 configuration’ which modifies the horizontal and vertical geometry of this45This Hendrix directory must have ‘writing’ rights for external users so that Mercator-Ocean can drop their files.
‘Format Arpege’ , a kind of Grib format specific to the ARPEGE model

Page 9file to fit the target grid.
A few missing boundary conditions fields are then added to the newly created FA restart,
before executing the second step which fits the atmosphere restart to the grid of themodel. In the end, the script automatically launches the integration of the model by the
execution of previsais-sys5.get_tr. The integration processes one month at a time;thus at the end of the run, the script is re-launched for month 2 and so on, until our 7month forecast is achieved.
It should be kept in mind that due to the lagged-average technique, there is a time offset
between the « integration month » and the calendar month. This offset is taken into
account during the post processing stage in order to ignore the inner dates of the raw
model output files.
Coupled model integration
For computing optimisation matters,
this stage had to be split in 3 :1) previsais-sys5.get_tr gathers on the work directory all the model executablebinary files, as well as initial and boundary condition files, and namelists which are edited
according to the start date and duration of the run. It is a serial job (one processor unit
needed) launched with 6 arguments :

ANA an integer of value 1 or 2 indicating the restart start date



NPERT an integer of value 1 to 26 indicating the perturbations dataset forstochastic dynamics



NPASS an integer of value 1 to 7 indicating the integration month

MD an integer of value1 to 12 : first calendar month of the forecast

YD : year of this first month ( !! forecasts beginning in december – e.g. MD=12 ,with initial conditions coming from year YD - are referenced as year “YD+1”
forecasts!)

PAP (optional argument) : any character. Indicates that the run will be performed
with a flick, e.g. slightly modified numerical coefficients (such as horizontal humidity
diffusion for instance) in order to overcome an instability2) previsais-sys5.exe_tr runs the coupled model. It is a distributed job (parallel
processing) that requires 9 computing nodes 6 : 1 for Oasis – even though Oasis needs
only one processor to be run – 1 for NEMO and 7 for ARPEGE.
3) previsais-sys5.put_tr saves restart files for the next integration month as wellas raw atmosphere output files to be post-processed later. The latter are actually renamed
and gathered into a tar archive ‘POST’ file which is saved on ecfs. Namelists are updated
and saved as well. At the end of the script, if the ‘integration month’ (NPASS variable) is
below 7 (NPASSMAX variable), previsais-sys5.get_tr is launched withNPASS=NPASS+1. If not, the forecast run is over and thus, the two post-processing
6

1 node = 24 processing units

Page 10

programmes are executed : fa2grib-sys5.op_tr and postpro-sys5.op_tr. It
should be noticed that previsais-sys5.put_tr is a serial job.

Post-processing
As mentioned earlier, system 5 has two distinct post-processing branches : the first one forinternal validation, and the other one to feed the EUROSIP database at ECMWFa) post-processing for internal validation
postpro-sys5.op_tr builds daily series files for a number of parameters. At the end of
the job, a test on the number of processed members is performed. When this number
reaches the expected value, e.g. 51 members, a new script is executed for monthly
means computing: moymens-sys5.op_tr. The processed fields are : total precipitation,
temperature at 200 hPa, 850 hPa, 2m and surface levels, 500 and 700 hPa geopotential
height ; mean sea-level pressure, stream function and velocity potential at 200 hPa. One
must keep in mind that precipitation values are cumulated along the integration and set
back to 0 at the beginning of each month. Consequently, daily series computing requires
subtractions which can lead to marginally negative values due to Grib compacting
numerical side-effects. The format of the daily series files is FA. Each file corresponds to
one field computed daily for the whole forecast length. Monthly means – computed overcalendar months - are processed as ‘IEEE binary’ unformatted files. The latter are
archived on ecfs and hendrix via ectrans. Daily series as well as raw model outputs
are archived on ecfs :ec:/zac/system5/sorties/psais/YYYYYYYY is the forecast year, knowing that forecasts initiated in November and December (eg.
corresponding to JFM and FMA seasonal forecasts) relate to the following year.
b) post-processing for EUROSIP, partners and external users
fa2grib-sys4.op processes model output in daily series for the Mars database. It
requires Grib1 format encoding. The internal specifications of this format, as well as thelarge amount of processed fields, make the script particularly dense and harsh to decrypt.
These specifications must be cautiously applied in order to fit the required standards of themultimodel EUROSIP ensemble.
archi_mars-sys4.op archives our seasonal forecasts in the dedicated researchsection of the Mars database. Grib files previously processed are gathered in a ‘tar’archive file MMSF.INIDATE.NN.tar , with INIDATE being the forecast start date and NN
being the member number (from 0 to 50). They are temporarily saved on :cca:/sc1/tcwork/zac/lb/system5/INIDATE
cca:/sc2/tcwork/zac/lb/system5/INIDATE
Page 11ectmp:/zac/seasonal_cca/system5/INIDATE
Ocean output files are not saved. The forecasts saved on Mars are retrieved by the DCLIM
department in Météo France to be reshaped and stored into the operational forecast
database via the SOPRANO system. In this case, Mars performs a horizontal interpolationfrom the ARPEGE reduced Gaussian grid to a uniform latitude longitude grid. Before
ending, the script automatically sends an e-mail to JFG, MD et CA mentioning the numberof completed forecasts and, if needed, the member numbers corresponding to forecaststhat failed and should be relaunched. It is a straightforward way to monitor the forecast
progress status. Every month, two such e-mails are sent for either the first 25 or the last 26
forecast batches.
A step-by-step reading guide for each of the above-mentioned scripts is provided in the
appendix. It should allow anyone to quickly get a grip on the operational system in theevent of a breach of duty or unforeseen issue.
References
Batté, L., & Déqué, M. (2012). A stochastic method for improving seasonal predictions.
Geophysical Research Letters, 39(9).
Voldoire, A., Sanchez-Gomez, E., y Mélia, D. S., Decharme, B., Cassou, C., Sénési, S., ...
& Chauvin, F. (2013). The CNRM-CM5. 1 global climate model: description and basic
evaluation. Climate Dynamics, 40(9-10), 2091-2121.
The description of EUROSIP :http://old.ecmwf.int/products/forecasts/seasonal/documentation/eur
osip/index.html

Page 12APPENDIX 1: SYSTEM 5 BASIC FACTS

1. Ensemble version
Ensemble identifier code:

CNRM-CM 6.0

Short Description:
Global ensemble system using a lag-averaged and a stochastic
scheme to simulate initial state and model uncertainties using a lagged-average scheme.
Based on 51 members, run once a month up to 7 months.
Research or operational: Operational
Data time of first forecast run: 01/05/2015

2. Configuration of the EPS
Is the model coupled to an ocean model ? Yes from day 0
If yes, please describe ocean model briefly including frequency of coupling and any
ensemble perturbation applied: Ocean model is NEMO3.2 with a 1 degree horizontal
resolution, 42 vertical levels, initialized from unperturbed MERCATOR-OCEAN Ocean and
Sea-iceand Sea_ice Analysis. Frequency of coupling is 24-hourly.
Is the model coupled to a sea Ice model? Yes
If yes, please describe sea-ice model briefly including any ensemble perturbation
applied:
Sea-ice model is GELATO v5 , embedded in the ocean model. It is initialized fromunperturbed 1 degree resolution MERCATOR-OCEAN Ocean and Sea-ice Analysis
Is the model coupled to a wave model? No
If yes, please describe wave model briefly including any ensemble perturbation
applied: NA
Ocean model: NEMO 1 degree resolution
Horizontal resolution of the atmospheric model: TL255 (about 80 km)
Number of model levels: 91
Top of model: 0.01 hPa
Type of model levels: hybrid sigma-pressure
Forecast length: 7 months
Run Frequency: once a month
Is there an unperturbed control forecast included?: No
Number of perturbed ensemble members: 51
Integration time step: 15 minutes

3. Initial conditions and perturbations
Data assimilation method for control analysis: 4D Var
Resolution of model used to generate Control Analysis: TL1279L137 (IFS operational
analysis)
Ensemble initial perturbation strategy: None (in-run perturbations only)
Horizontal and vertical resolution of perturbations: NA
Perturbations in +/- pairs: NA

4. Model Uncertainties perturbations:
Is model physics perturbed? No
Do all ensemble members use exactly the same model version? Yes
Is model dynamics perturbed? Yes (Batté and Déqué 2012)
Are the above model perturbations applied to the control forecast? Yes
Additional Comments : see References

5. Surface Boundary perturbations:
Perturbations to sea surface temperature? No
Perturbation to soil moisture? No
Perturbation to surface stress or roughness? No
Any other surface perturbation? No
Are the above surface perturbations applied to the Control forecast? NA
Additional comments

6. Other details of the models:
Description of model grid: Reduced Gaussian Grid
List of model levels in appropriate coordinates:
http://old.ecmwf.int/products/data/technical/model_levels/model_def_91.html
What kind of large scale dynamics is used? Spectral semi-lagrangian
What kind of boundary layer parameterization is used? Ricard and Royer 93
What kind of convective parameterization is used? Bougeault 85
What kind of large-scale precipitation scheme is used? Smith 90
What cloud scheme is used? Ricard and Royer 93
What kind of land-surface scheme is used? ISBA-3L
How is radiation parametrized?

Long Wave Radiation : Rapid Radiation Transfer Model (RRTM)
Short Wave radiation : Foucart-Morcrette
Other relevant details? See References

7. Re-forecast Configuration
Number of years covered: 22 years (1993-2014)
Produced on the fly or fix re-forecasts? Fix re-forecasts
Frequency:
2014

The re-forecast consists of a 15-member ensemble for the period 1993-

Ensemble size: 15 members
Initial conditions: ERA interim (T255L60)
for Atmosphere and Land surface +MERCATOR-OCEAN ocean reanalyses (1 degree)
Is the model physics and resolution the same as for the real-time forecasts: Yes
If not, what are the differences: NA
Is the ensemble generation the same as for real-time forecasts? Yes
If not, what are the differences: NA

8. References:
Batté, L., & Déqué, M. (2012). A stochastic method for improving seasonal predictions.
Geophysical Research Letters, 39(9).
Bougeault, P. (1985). A simple parameterization of the large-scale effects of cumulus convection.
Monthly Weather Review, 113(12), 2108-2121.
Mlawer, E. J., Taubman, S. J., Brown, P. D., Iacono, M. J., & Clough, S. A. (1997). Radiativetransfer for inhomogeneous atmospheres: RRTM, a validated correlated‐k model for the longwave.
Journal of Geophysical Research: Atmospheres (1984–2012), 102(D14), 16663-16682.
Morcrette, J. J. (1990). Impact of changes to the radiation transfer parameterizations plus cloudoptical. Properties in the ECMWF model. Monthly Weather Review, 118(4), 847-873.
Noilhan, J., & Mahfouf, J. F. (1996). The ISBA land surface parameterisation scheme. Global andplanetary Change, 13(1), 145-159.
Noilhan, J., & Planton, S. (1989). A simple parameterization of land surface processes formeteorological models. Monthly Weather Review, 117(3), 536-549.
Ricard, J. L., & Royer, J. F. (1993, December). A statistical cloud scheme for use in an AGCM. In
Annales Geophysicae (Vol. 11, pp. 1095-1115).
Salas y Mélia D (2002) A global coupled sea ice-ocean model. Ocean Model 4:137–172

Smith, R. N. B. (1990). A scheme for predicting layer clouds and their water content in a generalcirculation model. Quarterly Journal of the Royal Meteorological Society, 116(492), 435-460.
Voldoire, A., Sanchez-Gomez, E., y Mélia, D. S., Decharme, B., Cassou, C., Sénési, S., ... &Chauvin, F. (2013). The CNRM-CM5. 1 global climate model: description and basic evaluation.
Climate Dynamics, 40(9-10), 2091-2121.

APPENDIX 2 : SCRIPTS OF THE SEASONAL FORECAST
SYSTEM 5
The following is a step-by-step reading guide. In this appendix, variable names are initalics, file names are in quotes and procedure/command names are underlined.
$HOME always refers to the following path on cca: /sc1/home/zac$TEMP refers to the following path on cca: /sc1/tcwork/zac/lb/TEMP
All the scripts begin with the sourcing of a file .CONF_intel : it swaps the default CRAY
with the INTEL compilation environment. Most of this appendix is in French, as it is really
useful for French people operating the model. An English translation should come in the
future.
Master script 'psaisdaem5.op_tr'
Reminder : it is executed daily with a cron job scheduler. A copy of the crontab file('cron_file5') is located in $HOME/cron.
It requires one argument : an integer of value 1 or 2 which corresponds to one of the initialconditions (variable TRAJ). Each one is paired with a specific start date. If the current day
matches the start date, the system is launched with corresponding initial conditions
The script starts with an assessment of the day ($DAY), month and year of the current
calendar day and $MLEN the number of days of the current monthdates_restart_system5 is executed. It creates the file ‘INIDATE’ which is sourced to export
the 2 start dates $INIDATE1 and $INIDATE2 in the environment.
$DDAY est le jour de $INIDATE1 (si $TRAJ=1) ou $INIDATE2 (si $TRAJ=2)
LDAY=$DDAY +1 so that the forecast is launched the following day, which ensures that theocean restart be effectively available.
$
LDAY is compared to $DAY. If both values are not equal , the script exits and nothing more
happens. Otherwise, the forecast starts with the execution of 'getdata-sys5.op_tr' with 3
arguments : the initial state $TRAJ, the current year $YEAR and current month $MONTH.

The 'JOURNAL_PS5' text file gathers the date and time of successive operational scripts
execution. It helps locating the failed step if the forecast should abort. This file is appended
along the whole forecast chain. Here it is erased just before the first set of execution (with$TRAJ=1) as it corresponds to an older month forecast cycle. A new one is created on$TEMP with the current date followed bay the name of the script that has just been
executed (here getdata-sys5.op_tr $TRAJ $YEAR $MONTH)An email is sent to CA to inform him of this execution by means of mailx command

Ocean data fetching script 'getdata-sys5.op_tr'
It first checks if 3 arguments have been provided ( Current month $MOIS, current year
$AN, initial state number $ANA). Otherwise, an error message is displayed and theprogram exits.
Etape 1 : Extraction des fichiers nécessaires à la constitution du restart
atmosphérique depuis la base d'archivage MARS du CEPMMT.
Comme dans le script précédent, le jour du mois correspondant au numéro d'analyse $TR
est calculé et initialise la variable $JOUR. Celle-ci permet ensuite de définir la variable$DATE au format YYYYMMDD.
On se place ensuite dans un répertoire temporaire de stockage des données à acquérir.
Ce répertoire est créé s'il n'existe pas.
Dans la suite, 3 fichiers 'ALTI.dir', 'SURF.dir' et 'HUMI.dir' sont créés. Ces fichiers
contiennent les paramètres d'entrée attendus par la commande mars pour extraire lesdonnées voulues.
Une distinction est faite entre les analyses antérieures à 2011 – nécessaires pour produiredes retro-prévisions saisonnières - qui proviennent de la réanalyse ERA-INTERIM(CLASS=ei) et les postérieures qui sont des analyses opérationnelles (CLASS=od)
On se référera à la notice de la commande mars sur la page
http://www.ecmwf.int/publications/manuals/mars/guide/MARS_command.html pour plus dedétails.
Une fois les 3 fichiers d'analyse au format Grib extraits, ils sont regroupés par lacommande tar et le fichier résultat est copié sur la base d'archivage ECFS de l'utilisateur
zac ainsi que sur cougar (commande sf)
Etape 2 : Extraction des restart océaniques Mercator
Les restarts océaniques, qui sont produits par Mercator-océan, sont stockés sur Cougar etsont déjà formatés pour servir directement de conditions initiales à NEMO.
Les noms de ces fichiers contient 3 dates :date0 = date de début de run Mercator à 00H
date1 = date du restart à 00H
date2 = date de fin de run Mercator à 00H et de mise à disposition pour Météo-FranceDans le script, les dates date0 et date2 sont initialisées au mois de décembre 2011 (débutdes analyses Mercator opérationnelles pour le système 4), puis itérées jusqu'à
correspondance avec le mois et l'année du début de la prévision saisonnière que l'on
prépare.
(if [ $imo -eq $MOIS -a $ian -eq $AN ] ; then...)On évalue alors, en fonction du numéro d'analyse atmosphérique, le nombre de restarts

océaniques à récupérer, i.e. 5 ou 6 selon le cas.
Tant que le compteur $nres n'a pas atteint ce nombre, on définit $date1, on ajuste si
besoin $date0 et $date2, puis on extrait avec la commande gf le restart océaniquecorrespondant et on le dépose temporairement sur un répertoire local en le renommant.
On vérifie l'intégrité du fichier extrait à l'aide la commande wc -c qui évalue son nombred'octets.
 En cas d'échec de l'extraction ou de fichier corrompu :Le script recommence jusqu'à 3 fois, avec une pause d'une minute entre chaque tentative.
Si cela n'a pas corrigé le problème, une solution de dépannage – non testée – est alors
proposée, en reculant de 7 jours $date0 et $date2. En cas d'échec de cette ultime
solution, un mail est automatiquement généré et envoyé à JPP pour l'en informer, et le job
est interrompu.
 En cas de succès :Le restart est copié dans le répertoire adéquat sur la base d'archivage ECFS del'utilisateur zac, avant d'être supprimé du répertoire local où il avait été déposé.
Quand le compteur $nres a atteint sa valeur maximale, on crée un fichier texte 'OK1.inip'
contenant un message de succès de l'acquisition des fichiers restart et qui permet desortir de la boucle.
L'étape suivante du système de prévision saisonnière est alors lancée avec l'exécution duscript 'inipsais-sys4.op' avec 4 arguments : l'année courante $AN, le mois courant$MOIS , le numéro d'analyse atmosphérique $TR et la classe d'analyse atmosphérique$CLASS.
NB : dans le système opérationnel, $CLASS prend toujours la valeur 'od' (abréviation dusystème Mars pour 'operational archive') par opposition à la valeur 'ei' ('Era Interim', qui
contient les rénalyses atmosphériques disponibles jusqu'en 2012 pour initialiser des rétroprévisions)

Script d'élaboration du fichier de conditions initiales atmosphériques 'inipsaissys4.op'
Le script vérifie d'abord la présence des 4 arguments cités plus haut ( année courante$AN, mois courant $MOIS, numéro d'analyse atmosphérique $TR et classe d'analyse$CLASS). Si cette condition n'est pas respectée, un message d'erreur s'affiche et le scripts'interrompt.
Ce script effectue dans l'ordre les 4 étapes suivantes
1) lecture des données des 3 fichiers Grib ECMWF extraits de la base Mars par'getdata-sys4.op'

2) Création d'un fichier ARPEGE « brut » - de même géométrie que les analyses IFS à partir de ces données avec adaptation des réservoirs de sols ECMWF auxréservoirs de sols ISBA d'ARPEGE-climat3) Adaptation de la géométrie du restart ainsi produit (changement de troncature et deniveaux verticaux)4) Ajout de champs manquants au restart ARPEGE
Voici plus en détail son déroulement :On se place dans le répertoire $TMPDIR
Etape 1 et préparation des fichiers pour l'étape 2
On calcule le jour ($JOUR) correspondant au numéro de l'analyse atmosphérique traitée,puis on rapatrie en local le fichier tar contenant les 3 Grib de cette analyse qu'on récupère
après 'détarage' effectué un peu plus loin dans le script. Ce fichier 'tar' es trouve sur lesystème d'archivage ECFS de l'utilisateur zac : cf. la phase 1 du script 'getdata-sys4.op'.
On copie localement (en la renommant 'nam') la banque de namelists 'conf923n.22.nam',ainsi que le fichier 'tar' contenant les 12 fichiers mensuels de conditions aux limites
climatologiques.
Les variables définissant les géométries de départ $GEOM1 (celle de l'analyse ECMWF )et finale $GEOM3 (celle du restart ARPEGE) sont initialisées, de même que le nom durestart final ($NRES0)
On source le fichier '.nam' pour créer les différents fichiers de namelist et on modifie 4variables de la namelist 'nam_$GEOM1' grâce à la commande sed. Quelques variables decette namelist sont passées dans l'environnement de travail, pour servir de paramètres
ultérieurement, via les commandes grep dirigées vers un fichier 'cc2' qui est à son tour
sourcé.
Enfin intervient l'étape 1 à proprement parler avec la lecture des fichiers Grib ECMWF en
exécutant read_fields_grib_api_new_soil, qui produit un fichier binaire 'Mars.data',
renommé 'Mars.data1' pour le bon fonctionnement de l'étape 2.
La suite du script contient le code du programme Fortran SM2.F qui est dans la foulée
compilé avec édition des liens, puis exécuté. Il permet la création d'un fichier de conditions
aux limites 'Const.Clim2' pour ARPEGE dans une géométrie dite «intermédiaire », etcontenant l'indice du plus proche voisin dans la grille source.
Etape 2 et préparation des étapes 3 et 4
Le binaire 'ARPEGE_s' est rapatrié en local puis exécuté. Il crée un fichier 'Restart1' qui
est une version brute du restart ARPEGE que l'on cherche à produire, avec une troncature
et un nombre de niveaux similaires aux analyses initiales de ECMWF. Il s'agit d'une
procédure dérivée de la configuration 901 d'ARPEGE, adaptée pour la gestion del'humidité des sols.
Avant de changer sa géométrie, le fichier Restart1 est complété par des champs
manquants grâce à l’exécution du script 'modres.fatofa.0'.
Etapes 3 et 4
Le nouveau restart produit est renommé 'ICMSH${CNMEXP}INIT' pour pouvoir servir defichier d'entrée à l'exécution d'ARPEGE en configuration 927, c'est à dire pour unchangement de géométrie. De même, les autres fichiers nécessaire sont rapatriéslocalement et renommés de façon adéquate:
 le fichier de conditions aux limites adaptées à la géométrie finale, qui provient dudésarchivage 'nclim4_$GEOM3.tar'
 la namelist 'nam2_$GEOM3'
 l'exécutable ARPEGE 'arpegeV5.2'
Après exécution d'ARPEGE en configuration 927, le restart est à la bonne géométrie mais
il lui manque encore des champs pour être pleinement opérationnel. Ce défaut est corrigé
grâce à l'exécution de 'modres.fatofa.1' .
Le restart final est archivé sur ECFS ainsi que sur Cougar
Enfin, l'étape suivante de la prévision est lancée avec le script 'previsais-sys4.op'.
Script d'intégration du système couplé 'previsais-sys4.op'
Le script commence par vérifier qu'il a bien au moins 5 arguments en entrée, faute de quoi
il écrit un message d'erreur et s'interrompt. Ces arguments sont dans l'ordre le numérod'analyse atmosphérique initiale $TRAJA, le numéro du passage $NPASS, le mois etl'année initiaux $MD et $YD et, en option, le type de papillon utilisé $TO (nécessaire pourrelancer la prévision après un plantage causé par une instabilité numérique)
Plusieurs variables sont initialisées : celles issues des 5 (ou 6) arguments, ainsi quel'identifiant du système de prévision, le nombre de niveaux verticaux, la géométrie
utilisée, le nombre de nœuds et de processeurs utiles.
Ce script prépare en réalité 3 jobs successifs: le premier collecte les fichiers(step_name=getfiles), le second réalise l'intégration (step_name=run) et le troisième
stocke les fichiers en sortie et prépare le passage suivant (step_name=putfiles).
Etape préparatoire :De nouvelles variables sont initialisées, dont le nombre de passages maximal de laprévision, et on se place dans le répertoire temporaire de travail préalablement créé sous
$TEMP/VERSION5.
Un test sur la variable d'environnement $LOADL_STEP_NAME permet de vider cerépertoire si elle prend la valeur 'getfiles', qui correspond à l'Etape 1 détaillée ci-après.
Par convention, la période de l'année DJFM est rattachée à l'année des mois JFM, donc si
le mois initial $MD est décembre, on incrémente d'un point la variable 'année' $YS
On définit ensuite le mois final de la prévision $MF ainsi que le jour, le mois et l'année(resp. $JRE, $MRE et $YRE) du fichier de conditions initiales atmosphériques en fonction
de son numéro $TRAJA
Dans la suite du script, une série de chemins absolus sont définis : vers les conditions initiales pour l'atmosphère, l'océan, l'hydrologie de surface(TRIP) et le coupleur (OASIS) ( variables $INIREST*) vers les namelists initiales des ces mêmes 4 composantes du système de prévision

(variables $ININAM*)
 vers les répertoires d'archivage des différents restarts qui seront produits au cours
de l'intégration ( variables $PATHRE*)
 vers le répertoire d'archivage des sorties atmosphériques d'ARPEGE à conserver
après intégration (variable $PATHSOA)
 vers les restarts (variables $RESTART*) et les namelists (variables $NAMELIST*)à utiliser à chaque passage hormis le premier
Le fichier '$ININAM' est une petite namelist que l'on crée, contenant une seule variableassociée à la gestion de l'ozone. Elle a pour but de compléter la namelist atmosphériqueinitiale $ININAMA. Ces deux namelists sont concaténées ultérieurement dans le script.

Enfin, une commande case oriente le script vers l'un des 3 jobs décrits plus haut, selon lavaleur prise par la variable $LOADL_STEP_NAME
Etape 1 : collecte des fichiers et initialisation de variables
Cette étape intervient lorsque $LOADL_STEP_NAME vaut 'getfiles'. On écrit alors dans lejournal l'heure de lancement de l'étape 1 avec les numéros des états initiaux
atmosphériques et océaniques courants ainsi que le numéro du passage.
Les fichiers de conditions aux limites d'OASIS 'pack.oasis3_nemo1_giec.tar' et de NEMO
'ORCA1_nemo_v3_2_giec.tar' sont rapatriés et désarchivés sur le répertoire de travail.
Les variables $NDLON (nombre de longitudes) et $TSTEP (pas de temps du modèle) sontextraites de la namelist ARPEGE '$ININAMA' et passées dans l'environnement de travail.
A partir du nombre de jours $LMD du mois initial de la prévision et de $TSTEP, on calcule
le nombre de pas de temps $NSTOP nécessaire au modèle ARPEGE pour achever laprévision sur le mois complet, et $NSTOPT, l'équivalent pour le modèle TRIP qui a un pas
de temps de 3 heures.
Les variables $GELATO et $LMCC02 sont définies de telle sorte que le modèle de glace
de mer Gelato n'est pas activé et que la banquise est traitée comme une surface
continentale.
Préparation des namelists

Cas du premier passage $NPASS=1

Comme expliqué dans la première partie du document, une intégration préliminaire d'unjour pour rien lors du passage 1 est nécessaire pour constituer des restarts pour OASIS
cohérents avec ceux d'ARPEGE et de NEMO.
A partir de chaque namelist initiale $ININAM*, on crée deux namelist '$NAMELIST0' (pourl'intégration préliminaire d'un jour) et '$NAMELIST1' (pour l'intégration du premier mois).
Dans le détail, les namelist pour le modèle atmosphérique '$ININAMA' et '$ININAM' sontconcaténées en un fichier temporaire 'fort.4_'.
On redirige cette namelist dans un fichier 'fort.4' après modification à l'aide de lacommande de substitution sed, notamment pour mettre à jour les variables initialiséesaux étapes précédentes, et en supprimer d'autres. On modifie en particulier lesconcentrations de gaz à effet de serre (valable jusqu'en 2015)
Cette namelist 'fort.4' est recopiée avec le nom 'fort.4_1'. Elle servira pour le premierpassage. Une autre version fort.4_0 est alors créée, dans laquelle la variable NSTOP
prend la valeur $NSTOP_1j qui est égale à 8, c'est à dire le nombre de pas de temps de 3
heures dans une journée. Cette namelist 'fort.4_0 'servira pour l'intégration préliminaire.
De la même façon, les namelists initiales pour les modèles d'océan, de routage
hydrologique et pour le coupleur sont éditées et renommées en deux versions, pour lepremier passage d'un mois et pour l'intégration préliminaire d'un jour.
Cas des passages suivants 1<$NPASS≤$NPASSMAX

Les namelist adéquates sont simplement renommées avec le nom générique nécessairepour être lues correctement lors de l’exécution du modèle.
Restart et conditions aux limites
Le fichier de conditions aux limites correspondant à la géométrie du modèle et au mois dedépart de l'intégration est rapatrié et renommé 'Const.Clim'
Les concentrations de gaz à effet de serre sont mises à jour dans la namelist d'ARPEGE.
Ensuite, on distingue le premier passage des suivants pour rapatrier et renommer lesfichiers restarts des différentes composantes du modèle. OASIS a besoin de deux fichiersd'états initiaux. Il faut des fichiers d'exécutables et des fichiers de données pourl'interpolation OASIS (Pack OASIS).
Certaines conditions aux limites du restart atmosphérique dépendant du mois de l’annéesont ensuite mises à jour en exécutant updclig5a (aérosols et indice foliaire) puis updozo3(ozone).
Le second step utilise 34 noeuds et exécute les trois binaires (ARPEGE, NEMO et OASIS)
en parallèle. Une intégration préliminaire d'un jour pour rien (lors du passage 1) permet deconstituer des restarts pour OASIS cohérents avec ceux d'ARPEGE et d'OPA. Sinon, lors
du premier jour d'intégration, ARPEGE ne verrait pas la température de surface de la mer
du jour et NEMO ne verrait pas les flux atmosphériques correspondant à cettetempérature. Si le papillon atmosphérique ou océanique est activé, le coefficient dediffusion de l'humidité est modifié dans la namelist correspondante.
Binaires
Enfin, les binaires des modèles NEMO, OASIS, TRIP et ARPEGE sont récupérés,renommés et leur droit d'exécution modifié.
Un fichier texte 'system.conf' est créé. Il répète le nom de chacun de ces binaires autant
de fois que le nombre de processeurs alloués pour chacun. Ce fichier de commande sert
d'input au programme d'exécution du modèle couplé.
Etape 2 : intégration
Dès que $LOADL_STEP_NAME vaut 'run', on teste le numéro du passage. Si c'est lepremier, alors on lance l'intégration préliminaire d'une journée afin de préparer un fichierde couplage atmosphérique 'atm.nc' adéquat. Pour cela, on utilise les namelist'$NAMELIST0' et on lance le programme poe qui permet d'exécuter des jobs sur lecalculateur IBM du Centre Européen de Prévision (POE=Parallel Operating Environment).

Après exécution et ménage des fichiers inutiles, on prépare le premier passage à
proprement parler (mois 1), en appelant les fichiers '$NAMELIST1'
Ensuite, quel que soit le numéro du passage, on exécute de nouveau poe avec les options
adéquates.
Un compteur $plantage est initialisé à 0 et incrémenté en cas d'échec d'une de ces
exécutions. S'il ne reste pas égal à 0, un message d'erreur est adressé par mail à JPP, lefichier d'output du job est renommé avec le suffixe '.plante' et la commande exit interrompt
le programme. Sinon, un message de succès est écrit dans le fichier d'output.
Etape 3 : archivage et lancement des post-traitements
Dès que $LOADL_STEP_NAME prend la valeur 'putfiles', on incrément le numéro dupassage dans une nouvelle variable $NPASS_S.
Les variables qui caractérisent l'état d'avancement de l'intégration $NSTOP, $NFRPOS et$TSTEP sont mises à jour en récupérant leur valeur dans la namelist 'fort.4'.
Comme précédemment, un compteur $plantage reste à 0 tant que le stockage des fichiersse déroule normalement.
Le dernier fichier de prévision atmosphérique produit est archivé est renommé pour servir
de restart au passage suivant. Pour la modèle océanique, on dispose d'autant de fichiers
que de processeurs alloués à NEMO. Une boucle sur ce nombre de processeurs$NPNEMO permet de renommer ces fichiers et de les regrouper dans une archive 'TAR'
stockée sur ECFS.
On construit puis applique ensuite une fonction PCS qui renomme et copie tous lesfichiers atmosphériques nécessaires aux post-traitement ultérieurs.
Tous ces fichiers, ainsi que la namelist sont regroupés dans un 'TAR' avec le préfixe POST
qui est alors stocké à la fois sur ECFS et dans un répertoire temporaire.
A la fin du dernier passage, le script de codage Grib et d'archivage Mars 'fa2grib-sys4.op'
est exécuté, ainsi que celui de post-processing au format ARPEGE 'postpro-sys4.op' qui
produit des séries temporelles de variables choisies. Enfin, les derniers restart océaniques
et atmosphériques produits à l'issue de ce dernier passage sont supprimés.
Lorsque toutes les prévisions sont terminées, le programme 'surftemp-sys4.op' est lancé
pour la production des moyennes mensuelles.
Etape 4 : préparation du run suivant
Le script perl 'datnam.pl' est exécuté pour actualiser la date de la namelist. Cette nouvelledate est aussi mise à jour dans la namelist océanique.
En fonction du nombre de jours du mois du futur passage, la variable $NSTOP est
actualisée. Elle est augmentée artificiellement pour préparer le dernier passage pour éviter
des problèmes de bords sur les derniers pas de temps dans le post-processing. Les
namelists des différents modèle du système couplé sont alors mises à jour avec cettenouvelle valeur.
Si l'on n'a pas atteint le dernier passage, on relance le présent programme après

incrémentation de la variable $NPASS qui est passée en argument. Dans le cas contraire,l'exécution de 'lance-sys4.op' prévoit une relance de la prévision avec un nouvel étatatmosphérique initial. Cette exécution est sans effet dans le contexte opérationnel. Elle nefonctionne que pour la production de hindcast.
Dans un cas comme dans l'autre, on supprime les namelists et restarts du passage
précédent.
A la fin du dernier passage, on quitte le répertoire de travail et on le détruit. On effaceégalement les retours des jobs terminés.
Script de création des séries temporelles quotidiennes de paramètres 'postprosys4.op'
Le script vérifie d'abord la présence des 7 arguments requis avant de poursuivre.
A partir de la namelist initiale '$ININAMB', on extrait les variables $TSTEP (pas detemps) , $NDGLG (nombre de latitudes de la grille) et $NFLEVG (nombre de niveaux
verticaux) qu'on exporte dans l'environnement de travail, pour servir de paramètres
ultérieurement. Cette opération est permise via des commandes grep dirigées dans unfichier nommé 'cc2' qui est à son tour sourcé.
On initialise les variables qui caractérisent l'intervalle temporel de la prévision, le cheminvers le répertoire d'archivage ECFS, le compilateur Fortran, ainsi que les options etlibrairies associées à la compilation.
On rapatrie depuis ECFS puis on 'détare' autant de fichier archives 'POST*' que de mois
$NPASSMAX qui composent la prévision traitée. Pour chacun de ces mois, selon leurnombre de jours $LMC, et la fréquence $IFRQ d'échantillonnage quotidien (ici $IFRQ=4),
on détermine les numéros $N des fichiers instantanés à traiter. Ils sont alors renommés
PL$N.
Le fichier texte 'fort.44' est ensuite créé à partir d'un tableau à 4 colonnes comportant les
noms de différents champs et niveaux verticaux. Ceux qui sont suivis du chiffre 1 sontceux que l'on souhaite garder pour calculer les séries temporelles. La dernière colonne est
le nom abrégé du champ avec son niveau vertical qui sera utilisé pour les fichiers produits.
La variable $NCH contient le nombre total de champs du tableau 'fort.44'
Le fichier 'SM.f' contient un programme Fortran qui lit ce tableau et écrit un fichier 'getlst'
rassemblant le nombre de champs à garder $NBRFIC parmi les $NCH champs ainsi queleur nom abrégé $NAMFIC*.
Après compilation et exécution du programme Fortran, le fichier 'getlst' est sourcé.
Au premier passage, la commande qui permet de recopier les fichiers 'PLS*' produits dansle système d’archivage ECFS est écrite dans un fichier temporaire 'ftpdir_PL'. Ce fichiersera sourcé à l'issue du post-traitement du dernier passage pour que cette commande soit
exécutée.
Le code du programme Fortran qui est le cœur du présent programme est alors écrit dans
un nouveau fichier SM.f. Ce programme lit successivement dans les N fichiers instantanés'PL$N' les champs et les niveaux que l'on souhaite garder (soit lorsque le champ$ILFRD=1 à la lecture de 'fort.44') et écrit pour chacun de ces couples champs-niveau unfichier au format arpège 'PLS$NAMFIC' contenant les valeurs successives du champ. Ce
programme est compilé puis exécuté, et ses sorties archivées sur ECFS comme expliqué
au paragraphe précédent.
On entre dans la seconde partie du script qui est presque identique à la première. Ellepermet de créer des fichiers de série temporelle pour les précipitations totales. Ce champnécessite en effet un traitement particulier qui intervient dans le programme Fortranprincipal.
Tout d'abord , l'échantillonnage est de 24h au lieu de 6h. Ensuite, le champ« Précipitations totales » n'est pas calculé en tant que tel par ARPEGE. Il s'agit de lasomme de 4 paramètres : précipitations liquides et solides, convectives et stratiformes.
Dans le code, cela correspond à la ligne suivante :Z=Z1+Z2+Z3+Z4
Enfin, comme les précipitations sont cumulées au fil du mois, il convient de soustrairechaque jour le cumul calculé par ARPEGE avec le cumul de la veille pour construire unesérie temporelle utile. Dans le code, il s'agit des 3 lignes suivantes :Z1=Z: le cumul Z entre le début du mois et le jour J est stocké dans la variable Z1

Z=Z-ZM( :,JC) : le cumul Z du jour J seul est calculé en ôtant le cumul ZM de la veille
ZM(:JC)=Z1: On affecte Z1 à la variable ZM en vue de la prochaine itération

A noter que les noms des fichiers produits de précipitations totales ont pour préfixe SSU et
non pas PLS comme pour les autres champs.
Lorsque on a terminé ces calculs à l'issue du dernier mois $NPASSMAX de la prévision,
un fichier contenant un message du succès est déposé dans un répertoire de contrôle.
Ces fichiers sont dénombré à l'aide du compteur $ok. Si ce compteur prend la valeur 51,
cela signifie que le calcul des séries temporelles des 51 membres de la prévision s'est
terminé correctement. Le script de calcul des moyennes mensuelles 'moymens-sys4.op'
est alors lancé et les 51 fichiers messages sont supprimés.
Script de création des moyennes mensuelles par paramètre 'moymens-sys4.op'
Comme pour les séries temporelles, ce script traite séparément le champ 'précipitations
totales' des autres champs.
Le script vérifie d'abord la présence des 4 arguments $MD, $YD, $SYS et $IDENT
On ne détaille pas ici l'étape d'initialisation des variables, semblable au script précédent,sauf pour la variable $FINS, qui contient le nombre de jour de la prévision complète et qui
est calculée grâce à une boucle sur chacun des mois $NPASS de cette prévision.
Le premier programme Fortran calcule la moyenne mensuelle des précipitations dans unfichier binaire 'fort.32', ensuite renommé et archivé avec le suffixe 'PRET.MENSB'.
Ce script commence par calculer pour chaque mois I de la prévision l'indice de son
premier jour LMOIS (1,I) et de son dernier jour LMOIS (2 ,I)Il ouvre ensuite le fichier 'PREVI1.1' qui n'est autre que la série temporelle de la prévisionréalisée avec l'état initial atmosphérique n°1 et l'état initial océanique n°1. Ceci permet lalecture du cadre du fichier, de sa date, et de calculer le nombre de points de grille IPTT. Le
fichier est refermé par la suite.
Ensuite, le programme effectue une boucle sur les 51 prévisions : ouverture du fichier de série temporelle
 boucle sur tous les jours constituant la série pour lire la valeur ZCHGOS du champde précipitations
 boucle sur tous les points de grille pour faire la somme spatiale ZZ de ce champsniveau
 Calcul de la moyenne ZMT de ce champ sur toute la profondeur temporelle de laprévision et écriture sur la sortie standard pour contrôle
 fermeture des fichiers.
L'étape suivante est une correction par des paramètres ZCA et ZCB des valeurs duchamp ZZ pour en changer l'unité, mais elle est sans effet pour les précipitations. Cette
boucle a été codée pour le cas où ZZ serait un champ de température à convertir de
Kelvin en Celsius.
La fin du programme consiste en une double boucle sur l'ensemble des mois constituant
la prévision et sur l'ensemble des points de grille pour calculer en chacun de ces points lamoyenne mensuelle de précipitations ZM et écrire cette valeur moyenne dans le fichierbinaire 'fort.32'.
Le champ ZMT calculé ensuite est la moyenne mensuelle spatialisée. Pour chaque mois, ilest écrit sur la sortie standard à des fins de contrôle.
Le second programme Fortran calcule les moyennes mensuelles pour les autres champs.
Le suffixe des fichiers archivés est $NAMPAR.MENSB où $NAMPAR est le nom abrégé
du champ (T_2M, U850, Z500 etc.).
Les différences à noter par rapport au programme précédent sont
 l'intervention de la variable JPFR=4 correspondant à la fréquence quotidienned'échantillonnage. (Pour rappel, ces séries temporelles ont été constituées avec un
pas de temps de 6 heures) les corrections des valeurs lues par les paramètres ZCA et ZCB, différents selon lechamp traité pour changer d'unité.
 L'appel à la routine REDUIRE le cas échéant, qui permet d'interpoler sur une grillede gauss réduite les valeurs lues sur une grille complète. Ce cas n'arrive jamais en
pratique car les champs issus des fichiers FullPos d'ARPEGE-Climat sont déjàécrits sur une grille réduite. L'appel à cette routine est donc un résidu d'un ancien
script qui n'a plus vraiment de raison d'être.
Ces fichiers de moyenne mensuelle sont stockés à la fois sur ECFS et sur COUGAR, pourleur exploitation ultérieure par la Direction de la Climatologie de Météo France.
Lorsque le programme se termine sans erreur, un e-mail signalant la disponibilité de laprévision saisonnière est généré automatiquement et envoyé à JPP

Script de post-traitement pour le CEPMMT 'fa2grib-sys4.op'
Ce programme est appelé à l'issue du job d'intégration de la prévision saisonnière.
Son noyau dur est l’exécution du programme Fortran intitulé FATOGRIB qui produit desfichiers Grib au format OMM pour l'encodage et CEPMMT pour l'archivage, à partir defichiers ARPEGE. Chacun de ces fichiers Grib regroupe des variables du même type,condition sine qua non pour leur archivage ultérieur dans l'espace recherche de la baseMars du CEPMMT.
Avant d'exécuter ce programme Fortran, un certain nombre d'opérations est a effectuer
sur les fichiers ARPEGE dits FullPos produits par l'intégration du système couplé deprévision saisonnière.
Etape 1 : Préparation des fichier ARPEGE
On détarre tous les fichiers Full-Pos ARPEGE contenus dans le fichier archive POST. A
l'instar du script 'postpro-sys4.op', on traite séparément les champs instantanés dits 'PL',et les champs cumulés dits 'SU'. Cette distinction est un héritage du passé : en effet lesfichiers Full-Pos ARPEGE contiennent aujourd'hui l'ensemble de ces champs.
A partir de chaque fichier Full-Pos ARPEGE correspondant à une échéance de prévision
donnée, on en écrit 3 nouveaux via un programme Fortran appelé 'SERIE' : un fichier ARPEGE 'LSM-OROG' contenant l'orographie et le masque terre-mer
 un fichier ARPEGE 'PLO' contenant tous les champs instantanés dits 'PL' un fichier ARPEGE 'SUO' contenant un certain nombre de champs cumulés dits'SU'
En vue de créer le fichier 'LSM-OROG' (unité logique 10), on initialise la variable IPLUS à
1 ou à 0 selon que le fichier ARPEGE Full-Pos contienne les pôles ou pas. On fait demême avec la variable INDEX selon que le fichier ARPEGE de conditions aux limites
Const.Clim contienne les pôles ou pas. En comparant ces indices, on écrit l'indice terremer et l'orographie dans le fichier 'LSM-OROG' en décalant ci-besoin d'une unité l'indice
INDEX du tableau Z lu dans le fichier Full-Pos.
Pour créer le fichier 'PLO', le programme lit d'abord un fichier 'fort.44' dans lequel sontlistés les champs SU à ne pas conserver dans 'PLO'. Les colonnes 4 (ZMULT) et 5
(IFLRDL) sont inutiles ici. On compare le nom des champs CLSUFFL listés dans 'fort.44'
avec les noms des champs CLSUFF contenus dans le fichier FullPos et fournis par laroutine FINDPAR. S'il y a correspondance, l'indice IWRIT prend la valeur 0 pour que lechamp soit ignoré. Pour tous les autres champs, IWRIT=1. Ils sont donc recopiés tels
quels dans 'PLO'. Une petite routine TENSAT calcule ensuite la température du point derosée qui n'est pas directement diagnostiquée par ARPEGE . Ce nouveau champ estégalement écrit dans 'PLO'.
Enfin, pour créer le fichier 'SUO', une nouvelle liste de champs SU est écrite dans un
nouveau fichier 'fort.44'. Cette fois-ci, on retient seulement les champs suivis de l'indice
RD=1, au moyen d'un test sur la variable IFLRD dans le code. Parmi ceux-ci, certains sontcalculés comme la somme d'autres champs avant d'être écrits dans 'SUO'. C'est le cas

des précipitations totales, de la neige totale et du rayonnement solaire descendant total.
Dans les fichiers FullPos, les champs 'SU' sont cumulés depuis le début du mois. Pour neretenir que le cumul Z entre l'échéance précédente et l'échéance courante, il convientd'ôter le cumul précédent ZM (Z =Z-ZM(:JC)). Pour ramener certaines valeurs à desquantités « par seconde », on effectue le cas échéant un changement d'unité à l'aide desfacteurs multiplicatifs ZMULT et PPDIAG. Ensuite, on reconstitue des cumuls « depuis 00
UTC » de la journée considérée en ajoutant à Z la valeur ZCUM (Z=ZCUM(:JC)+Z),
sachant que lorsque l'échéance est proportionnelle à la fréquence quotidienned'échantillonnage (qui vaut ici JPFRQ=4), on affecte à ZCUM une valeur nulle. Si ce n'est
pas le cas, ZCUM prend la valeur de Z. On notera que le champ 'NEBUL.TOTALE' est leseul qui ne soit pas concerné par cette reconstitution journalière. A la fin de ces calculs, laquantité Z est copiée pour chacun des champs retenus dans le fichier 'SUO'.
Un calcul des précipitations totales moyennes par point de grille (XM) est effectué puis
affiché sur la sortie standard pour contrôle.
Après exécution du programme SERIE, le fichier 'LSM-OROG' est renommé 'FAin.1'. Pourchacun des mois de la prévision, une boucle sur les jours du mois permet de renommer'PLOnn' et 'SUOnn' en 'FAin.NN' avant l'exécution du programme principal FATOGRIB.
Etape 2 : Création des fichiers Grib
Ce programme Fortran principal FATOGRIB réalise successivement les étapes suivantes(voir plus bas pour le détail de ces étapes) :1. Ouverture de chaque fichier ARPEGE 'FAinxx', lecture du cadre et analyse de leurcontenu avec la routine PREPFA, puis lecture champ par champ de leur contenu
2. Traitement des différents paramètres lus dans les fichiers ARPEGE pour initialiser
les variables et pointeurs en vue du codage en Grib (routine GRIBSPE)
3. Traitement particulier pour les cumuls depuis le début du mois et depuis le début dela prévision.
4. Codage des différents champs au format Grib à l'aide la routine GRIBEX
5. Ouverture, écriture et fermeture des fichiers Grib qui regroupent les champs selon 7
types caractérisés par la fréquence quotidienne, le ou les niveaux verticaux, lecaractère 'cumulé' ou 'instantané' du champ
Les fichiers Grib produits à l'issue sont déplacés et renommés, et une série de fichiers decontrôles sont écrits.
Enfin, le dernier script 'archi_mars-sys4.op' est lancé pour l'archivage de ces fichiers Gribdans l'espace recherche de la base Mars.
Éléments de commentaire pour la compréhension du programme Fortran FATOGRIB
Le programme est lancé avec 7 arguments : l'année LANNEE et le mois LEMOIS traités,le numéro du passage correspondant au mois traité MOIS, le nombre de jour de ce mois
INBJOURS, le nombre de fichiers ARPEGE en entrée INARPF, le numéro du membre dela prévision d'ensemble traité INUM_PRE, et le numéro du restart atmosphériquecorrespondant NTRAJA.

1. Manipulation des fichiers ARPEGE 'FAinxx'
Les fichiers ARPEGE sont traités successivement grâce à une boucle sur leur nombre.
L'appel de la routine PREPFA permet de les ouvrir, d'en extraire les variables du cadre, ladate, de calculer le nombre de points de grille, d'obtenir le nombre et les caractéristiquesdes champs contenus dans ces fichiers.
Une boucle sur ce nombre de champs permet d'en lire la valeur et la copie dans le tableau
PSEC4. Si le champ est spectral, on prend la précaution de mettre à 0 toutes les valeursdu tableau dont l'indice est supérieur au nombre de coefficients spectraux.
Tous les champs exprimés en mm dans ARPEGE sont convertis en m conformément aux
standards du CEPMMT.
2. Initialisation des tableaux de paramètres pour l'encodage Grib
Toujours au sein de la boucle sur les champs lus dans ARPEGE, on appelle la routine
GRIBSPE. Celle-ci permet d'initialiser des tableaux nécessaires à l'encodage correct deschamps en GRIB FM-92 selon les normes OMM..
Le premier tableau est KSEC1. Le descriptif des éléments de ce tableau est documenté
ici :
http://www.ecmwf.int/publications/manuals/libraries/gribex/ksec1.html
Les premières valeurs de KSEC1 sont des constantes indépendantes du champ traité.
Les valeurs KSEC1(7) et KSEC(8) sont initialisées selon le type de champ (niveaupression, hybride, mer, surface, CLS etc..)
Les valeurs d'indice 10 à 15 décrivent la date du fichier traité.
La valeur n°16 est calculée comme le nombre de pas de temps depuis le début de laprévision, et non pas depuis le début du run (ces dates sont en effet différentes du fait dela construction 'lag-averaged' de la prévision.)Le bloc d'instruction suivant passe en revue tous les champs possibles afin d'initialiser
KSEC1(6) qui est l'identifiant OMM du champ traité. Il indique aussi la nature cumulée(KCUM=1) ou instantanée (KCUM=0) de ce champ, les échéances à garder (1 à 4 parmiles échéances 00,06,12,18) et le type de champ KTYPE.
On reste ici dans le cas KMENS=0 pour compléter la suite du tableau KSEC1 (voirdocumentation sur la page du centre européen)
La section suivante permet d'initialiser les tableaux KSEC2 (entiers) et PSEC2 (réels). Ils
contiennent des codes qui décrivent la géométrie du champ traité. La documentation
associée est ici : http://www.ecmwf.int/publications/manuals/libraries/gribex/ksec2.html
Ces codes diffèrent selon que le champ est en point de grille ou spectral. Dans le premiercas, on distingue les cas 'grille complète' et 'grille réduite', et les cas 'étirée-basculée' et'simple'. Dans le second, on distingue le cas 'simple' des cas 'basculé', 'étiré' et 'étirébasculé'.
Les sections 3 et 4 permettent de compléter les tableaux KSEC3, PSEC3 et KSEC4. Elles
sont documentées respectivement :http://www.ecmwf.int/publications/manuals/libraries/gribex/ksec3.html

http://www.ecmwf.int/publications/manuals/libraries/gribex/ksec4.html
KSEC4 contient notamment les métadonnées (spectral ou point de grille, entier ou réel,
nombre d'octets...) associées aux valeurs du champ écrites dans PSEC4.
Si GRIBSPE renvoie un code de retour non nul, le programme écrit un message d'échec
de la conversion en Grib.
3. Traitement des champs cumulés
Cette étape permet de calculer des cumuls mensuels PSEC4_M(1,...) et des cumuls
depuis le début de la prévision PSEC4_M(2,...), sans distinguer à ce stade leschamps cumulés tels que les flux ou les précipitations par exemple, des champs
instantanés tels que le géopotentiel, la température etc..
Ces deux variables sont initialisées à 0 lors de la première échéance du premier mois dela prévision. Dans les autres cas, si on se trouve à la première échéance du mois en coursde traitement, alors on remet à 0 la variable PSEC4_M(1...). Si ce mois traité n'est pas lepremier mois de la prévision, on va lire dans le fichier 'CUMUL' la valeur dePSEC4_M(2...) qui correspond à la valeur cumulée du champ depuis le début de laprévision..
On incrémente alors en additionnant PSEC4 à PSEC4_M (1..) et PSEC4_M(2..).
La succession de commandes WRITE qui suit permet d'écrire les valeurs prises par
quelques variables dans des fichiers de contrôle, utiles pour un éventuel débogage du
code.
Selon le type n du champ traité défini par GRIBSPE (n=1 à 7), on incrémente un compteur« par type » JCHG$n ainsi qu'un tableau avec le nom du champ CCHAMPG_C(JCHG$n,$n).
Pour les champs cumulés, c'est à dire tels que ICUM=1 (voir GRIBSPE), on affecte à
PSEC4 la valeur de PSEC4_M(2...).
Les variables XM1 (précipitations totales moyenne depuis l'échéance précédent) et XM(précipitation totales moyennes depuis le début de la prévision) sont calculées et écrites
dans un fichier texte à des fins de contrôle.
4. - 5. Encodage et écriture des fichiers Grib
Tous les arguments étant complétés, le script appelle la routine GRIBEX en mode codage.
Par souci de lisibilité, le script de cette routine n'est pas détaillé. On se référera à la
documentation complète de GRIBEX sur le site du centre européen :http://www.ecmwf.int/publications/manuals/libraries/gribex/gribexIntroduction.html
La routine renvoie notamment un tableau IGRIB contenant toutes les données au format
Grib.
On traite alors séparément mais de la même façon les champs selon le type n (n=1 à 7)
auquel ils appartiennent. Si la variable JWRn vaut 0 - c'est le cas si le champ qu'on traite
est le premier du type n du premier mois de la prévision - alors on appelle la routine
PBOBEN qui ouvre le fichier 'GRIBOUT_$n' en mode « w » comme « write » . Ce mode« w »précise que le fichier est nouveau. On donne alors aux indices JWR$n et à IOP$nW
la valeur '1'. Ce dernier indice est à 1 si le fichier 'GRIBOUT_$n' a été ouvert en mode«w»
Si JWR$n vaut 1 et IFSTW$n vaut 0 -c' est le cas quand on traite le second champ dutype n - alors on ferme le fichier 'GRIBOUT_$n' avec la routine PBCLOSE. On repassel'indice IOP$nW à '0' puis on réouvre ce même fichier en mode « a » comme« append ».L'indice IFSTW$n passe à 1 pour signifier de laisser ouvert le fichier'GRIBOUT_$n' en mode « a » jusqu'à la fin du mois traité.
Une fois l'opération accomplie, on procède, toujours en fonction du type n du champ traitéà l'écriture de la valeur de ce champ dans 'GRIBOUT_$n' en appelant la routine PBWRITE
qui parcourt le tableau IGRIB. Un indice NGRIBEX$n est alors incrémenté.
Enfin, lorsque tous les champs du fichier ARPEGE 'FAinxx' ont été traités, celui-ci estfermé par la routine FAIRME. Lorsque tous les fichiers 'FAinxx' du mois en cours ont été
codés en Grib, les 7 fichiers 'GRIBOUT_$n' sont fermés à leur tour.
Les indices JWR$n et NGRIBEX$n sont copiés dans des fichiers texte pour être lus audémarrage du traitement du mois suivant de prévision et éviter une réinitialisation à 0. Les
nouveaux cumuls du mois sont écrits dans un fichier binaire 'Cumul', également pour êtrerepris le mois suivant (voir étape 3).
Enfin, pour chacun des fichiers 'GRIBOUT_$n', on appelle la routine CONTROL qui vérifie
l'intégrité des fichiers Grib, écrit la valeur moyenne, min et max pour les champs en points
de grille, et la valeur moyenne pour les champs spectraux, qui n'est autre que le premiercoefficient spectral PSEC4(1).
NB : Dans le système 4 de prévision saisonnière, on ne traite plus de champs de type 2.
Le fichier 'GRIBOUT_2' n'existe donc pas. Le fichier 'GRIBOUT_7' (relief et masque terremer) est le même quelles que soient les échéances traités. Il n'est donc conservé qu'une
fois pour toutes à l'issue du premier passage.

Script d'archivages des fichiers Grib sur la base Mars recherche 'archi_marssys4.op'
Les 7 arguments nécessaires à l'exécution de ce programme sont décrits de façon
explicite dans l'en-tête du script. Le 7ème argument CODEMARS a pour valeur 'z00m'(variable initialisée dans le script précédent).
On crée d'abord des répertoires de stockage temporaires et on supprime ceux du mois
précédent.s'ils existent.
On concatène les fichiers 'GRIBOUT_$n' (ici nommés '$path/$EXPID.$m.$day$n') dechacun des mois de la prévision dans un seul et même fichier 'datafile$n'. Le fichier'GRIBOUT_7' (masque terre-mer et orographie) est quant à lui recopié avec le nom'datafile7' et archivé sur la partition temporaire d'ECFS avec le préfixe 'OROGLSMgrib'.
Tous ces fichiers 'datafile$n' sont rassemblés en un fichier tar qui est à son tour archivé
sur ECFS avec le nom 'MMSF.$NUMP.tar', où NUMP est le numéro de la prévision traitée(entre 0 et 50 pour le système opérationnel qui a 51 membres).
En cas d'échec de cet archivage, un message d'erreur est produit. Sinon, les fichiers'GRIBOUT_$n' sont supprimés.
Le fichier 'MMSF.$NUMP.tar' est copié dans les répertoires de stockage temporaire créés
au début du programme.
Un message de contrôle 'GRIBOK' est alors copié dans un répertoire temporaire dédié.
Le compteur $ok permet d'énumérer les fichiers 'GRIBOK' contenus dans ce répertoire. Si
ce compteur atteint la valeur NUMPMAX=50, alors un mail est automatiquement généré etenvoyé à JPP et à Isabelle Charon (DCLIM) pour informer que la prévision saisonnière est
terminée et disponible sur Mars.
Le script procède ensuite à l'archive des fichiers Grib 'datafile$n' à proprement parler. Pourcela, la commande mars est appelée avec les arguments qui conviennent.
Pour le fichier 'datafile7', l'argument STEP vaut 0.
Pour les autres fichiers, il faut au préalable construire la chaîne de caractère $steps
adéquate qui sera attribuée à l'argument STEP de mars. Elle doit être constituée de toutes
les échéances en heures des variables contenues dans le fichier Grib. Ces échéances
doivent être séparées du caractère '/' ('slash').
Si $ok vaut NUMPMAX, alors on appelle la commande ecevent avec les options requises
afin d’émettre un signal sur le réseau, signal attendu par un certain nombre dedestinataires pour le déclenchement de procédures opérationnelles.
Un e-mail prévient JPP de l'envoi de ce signal.
Enfin, un e-mail est envoyé à JPP, MD, JFG et CA pour informer de la fin de la prévisionsaisonnière sur c2a/
Lien vers les données stockées sur l'espace recherche dédié de la base Mars :http://www.ecmwf.int/services/archive/d/catalog/class=fr/expver=z00/

Guide de la commande ecevent :http://www.ecmwf.int/services/ecaccess/download/ecguide-3.3.0.pdf

APPENDIX 3: HOW TO DEAL WITH VERTICAL RESOLUTIONCHANGE FOR THE ECMWF IFS ANAYSESThe use of model vertical levels instead of pressure levels requires to follow closely andanticipate the changes in vertical resolution of the operational IFS model at ECMWF.
A few months ahead of such changes, the ECMWF is used to providing sample analysis
dataset with the increased target vertical resolution so that member states can test andupdate their routines for NWP7 and/or long term prediction systems.

Example : In June 2013, IFS analyses vertical resolution moved from 91 to 137 levels. The
ECMWF sent a first e-mail in March 2013 with preliminary information, followed by asecond one in early April, to announce the release of a test sample dataset.
Our forecast system is only impacted for the atmospheric pre-processing stage, e.g. thescript ‘inipsais-sys5.op_tr’.
In the latter, variable GEOM1 must take the value ‘tl255l137r’ (instead of ‘tl255l91r’).
A namelist matching this new geometry must be appended to the file'$HOME/PREVISAISO/namelist/conf923n.22' that gathers multiple resolution namelists. To
do so :
1. Spot the fields to be modified with respect to the existing namelist nam_tl255tl91r :they are &NAMDYM (variable NFLEVG) and &NAMVV1 (variables DVALH and
DVBH).
2. Copy the whole namelist 'nam_tl255tl91r', paste it at the end of the 'conf923n.22'
file, and rename it ‘nam_tl255tl137r’
3. Change the value of NFLEVG in this newly created namelist.
4. Variables DVALH and DVBH correspond respectively to the list of values 'a' and 'b'
displayed in the chart defining the new IFS vertical levels. The web hyperlink to thischart is :http://old.ecmwf.int/products/data/technical/model_levels/index.html
Figure 2 displays a screenshot of the chart. Copy columns ‘a’ and ‘b’ from this chart andpaste them in a temporary file. Reorganise the values so that they get separated by acomma, just as in the namelist way. Afterwards, copy the ‘a’ and ‘b’ values from thetemporary file to the ‘nam_tl255tl137r’ namelist variables DVALH and DVBH respectively.
Save the file '$HOME/PREVISAISO/namelist/conf923n.22'

7

Numerical Weather Prediction

Figure 1: IFS model level definitions
NB : If there should be a horizontal resolution increase of the IFS anayses, no change isneeded for Meteo France system 5. This is due to the fact that the atmosphere analyses
retrieved from MARS archive are already upscaled to the resolution tl255. The horizontal
interpolation on this coarser grid is automatically performed during MARS retrieval task.
This way, the resolution of the atmosphere initial conditions for the forecast match this of
ERA-Interim reanalyses that were used to initialize the hindcast. Such a rough truncation
may induce small errors in the last wavelengths since atmospheric fields are retrieved fromthe ‘s’ levels depending on the surface pressure, e.g. the original high resolution relief.
However, the re-gridding on the ARPEGE grid performed afterwards dims these errors.

APPENDIX 4 : TROUBLESHOOTING
What to do if one or several forecasts failThe bi-monthly progress status e-mails may point out that one or several forecasts failed
to complete. In that event, first thing to do is to have a look at the JOURNAL file
JOURNAL_PS5.NNO.NPERT on zac $TEMP8 directory on cca (or ccb). NNO is the numberof the start date - 1 or 2 - and NPERT is the perturbation number - from 1 to 26. These 2
numbers identify the 51 forecast members. Once the failed forecast identity is found, thelast line of the corresponding JOURNAL file displays the last performed step before failing.
These JOURNAL files are deleted only after the complete achievement of the 51 forecast
members. Once the failed job is identified, the corresponding output should be checked
here:$TEMP/PREVISAISO/controle5/TEMPS_REEL/This checking can be sufficient to spot the issue. It could be an error during a file transfer,a temporary ectrans bug, or MARS system unavailability, for example. To overcome this,simply re-execute the script with appropriate arguments. In case of a doubt for thearguments, check the job output file of the previous step that ended successfully: towards
its end, this output displays the command of the execution of the script that need to berelaunched.

What to do if it happens during the integration stage ?
Most of the time, job aborts during the integration stage. In that event, a copy of the work
directory can be accessed here :$TEMP/PREVISAISO/controle5/TEMPS_REEL/$JOB_IDENTIFIER.planteThis directory should contain multiple output text files.
’lance.out.2’ and ‘lance.out.1’ are the aprun output (parallel execution of the coupledmodel)‘NODE.001’ is the ARPEGE output‘cplout’ is the OASIS output‘ocean.output’ is the NEMO output

1. « Ocean » failure:
In previous system 4, this was a commonplace, because of a local unstabilty aroundIndonesia islands producing unrealistic current speed. A NEMO failure is usually onfirmed
by a file 'output.abort.nc' in the work directory. Towards the end of the ASCII fileocean.output, a message specifying the error should appear.
To overcome the issue, try the following : Relaunch the same integration month with an ocean 'flick' (this procedure is usually8

TEMP=/sc1/tcwork/zac/lb/TEMPdone automatically in case of failure) Relaunch the previous integration month with the same flick. This will lead to a
distinct ocean initial state for the failed integration month.
 If the abort occurs during the first month, then start over with one random Mercator
ocean restart out of the 14 available on Hendrix each week.
2. « Atmosphere » Failure :Most of the time, this comes from a floating point error or an arithmetic error (like a divisionby zero) in some ARPEGE routine, caused by a numerical explosion. Usually, theautomated relaunch with an ‘atmosphere flick’ overcomes the issue. If not, try to modify the
flick in the script before re-launching previsais-sys5.get_tr with a random 6thargument (here xxx) :/home/ms/fr/zac/PREVISAISO/procs/system5/OPER/previsaissys5.get_tr 2 12 5 06 2015 xxx
This example show how to relaunch the 5th integration month of the member 2.12 (ANA=2
and NPERT=12) for the forecast starting June 1st 2015.
Alternatively, try one of the last two tricks described in the “ocean failure” section
hereinbefore.