STEAK — Speech-to-Text Evaluation for ATC Knowledge

ATC synthétique. Une ligne = un audio (un énoncé contrôleur ATCO ou un readback pilote). 2,519,694 audios. La paire ATCO↔pilote est toujours présente dans le dataset : les deux rôles d'un échange partagent le même pair_id — filtrer/regrouper sur pair_id pour reconstituer les paires complètes (voir « Regrouper les audios en paires »).

Génération du texte (règles formelles + ontologie ATC)

Le texte de chaque échange n'est pas tiré d'enregistrements réels : il est généré par règles formelles suivant une ontologie de la communication ATC. Chaque énoncé du contrôleur est une chaîne de commandes assemblée ainsi :

• 82 commandes au total sont générables (table complète plus bas). Un énoncé en contient au plus 7 (1 commande seed + 6 ajoutées au maximum) et 2,2 en moyenne (1 seed + ~1,2 ajoutée, cf. tirage ci-dessous).
• La première commande (seed) est tirée au hasard parmi les 82 selon une pondération (toutes n'ont pas la même probabilité) : les poids sont issus des observations EDA sur les corpus ATC réels ATCO2 et UWB-ATCC, pour que le cœur en-route (climb/descend/heading/contact…) domine et que les commandes rares restent rares.
• Ajout des commandes suivantes : 6 slots, chacun rempli par un tirage de Bernoulli indépendant de probabilité 0,2 (≈ Binomiale(6 ; 0,2)). En moyenne ~1,2 commande supplémentaire, parfois 0, parfois jusqu'à 6.
• Règles d'incompatibilité dans un même énoncé : au plus une commande par groupe (jamais deux commandes verticales, ni deux commandes de cap, etc.), cohérence du sens vertical (pas de « climb … rate of descent »), exclusivité sol/vol (pas de « taxi … descend FL90 ») et conflits de phase (départ ⊥ arrivée…).
• Formulations multiples : chaque commande dispose de plusieurs formulations côté contrôleur, et de plusieurs façons d'être relue côté pilote — la formulation du readback n'est pas forcément la même que celle de l'instruction (parfois réduite à la valeur seule, « level 100 »).
• Valeur de chaque commande tirée au hasard dans son domaine de valeurs possibles (cf. table ci-dessous).

Les valeurs concrètes (waypoints, noms et fréquences de stations, aéroports, compagnies/indicatifs) proviennent de sources publiques :

ressource	source
waypoints	OpenNav (une page par pays)
aéroports ICAO	OpenNav
stations ATC + fréquences	VATEUD
compagnies / indicatifs (telephony)	Wikipedia, flugzeuginfo.net, OpenNav, FAA CNT
voix de référence seed-vc (accent, accent_ref)	Speech Accent Archive (≈ 3 000 locuteurs de toutes langues maternelles → accents variés ; cf. « Rendu audio »)

Conditions accrochées aux commandes

Une commande peut recevoir une condition (déclencheur temporel/spatial). Le mécanisme :

• Avec une probabilité de 8 %, l'énoncé reçoit une condition (dans 92 % des cas, aucune).
• Une commande hôte est tirée parmi celles de l'énoncé éligibles, et la condition est filtrée sur le groupe de cette hôte (une condition verticale ne s'accroche qu'à une commande verticale, etc.).
• Le connecteur est tiré (pondéré) parmi ceux applicables à ce groupe ; certains portent une valeur (waypoint, FL, altitude, distance, vario, heure) tirée dans son domaine — un waypoint de condition ne réutilise jamais un waypoint déjà cité dans l'énoncé.
• Avec une probabilité de 18 %, une 2e condition (à connecteur différent) est chaînée à la même hôte (ex. « when established … until 4 miles final »).
• Côté pilote, la condition est relue avec une probabilité de 55 % (pas toujours relue, comme sur les vraies fréquences).

La condition apparaît dans la colonne commandes (atco_condition) et, si relue, dans pilot_condition_readback.

Les 26 connecteurs de condition (« … » = valeur générée)

connecteur	s'accroche aux commandes
« when ready »	contact fréquence, direct-to / inbound, verticales (climb / descend / maintain…)
« when able »	direct-to / inbound, verticales (climb / descend / maintain…)
« when established »	approche, verticales (climb / descend / maintain…)
« when passing … feet »	verticales (climb / descend / maintain…)
« until further advised »	cap, verticales (climb / descend / maintain…), vitesse
« until passing flight level … »	verticales (climb / descend / maintain…)
« until … »	direct-to / inbound, verticales (climb / descend / maintain…)
« until … miles »	verticales (climb / descend / maintain…), vitesse
« after … »	cap, direct-to / inbound, verticales (climb / descend / maintain…)
« after … then … »	cap, direct-to / inbound, verticales (climb / descend / maintain…)
« after the low approach »	cap, verticales (climb / descend / maintain…)
« after departure »	direct-to / inbound, verticales (climb / descend / maintain…)
« level by … »	verticales (climb / descend / maintain…)
« before … »	direct-to / inbound, verticales (climb / descend / maintain…)
« at … feet per minute »	verticales (climb / descend / maintain…)
« at … feet per minute or greater »	verticales (climb / descend / maintain…)
« time … »	cross waypoint, direct-to / inbound, verticales (climb / descend / maintain…)
« from present »	cap, direct-to / inbound, verticales (climb / descend / maintain…)
« from present position »	cap, direct-to / inbound
« if able »	direct-to / inbound, verticales (climb / descend / maintain…), vitesse
« if possible »	direct-to / inbound, verticales (climb / descend / maintain…), vitesse
« if available »	verticales (climb / descend / maintain…)
« until … miles final »	approche, verticales (climb / descend / maintain…), vitesse
« on conversion »	vitesse
« when established on the localizer »	approche, verticales (climb / descend / maintain…), vitesse
« when you are done de icing »	contact fréquence

Les 82 commandes et leur domaine de valeurs

Les 82 commandes sont regroupées par famille (verticales, cap, vitesse…) ; une ligne = un type de commande, avec son domaine de valeurs commun (les valeurs concrètes sont tirées dans ces plages).

type de commande	domaine de valeurs
Verticales — montée / descente / niveau (climb, descend, maintain, stop climb/descent, rate of climb/descent…)	niveau de vol FL060–FL400 (pas de 10) ou altitude 2000–15000 ft (pas de 1000) ; taux vertical 500–3000 ft/min
Approche & atterrissage (cleared to land, cleared ILS / VOR / NDB / visual approach, touch-and-go, go-around…)	piste 01–36 (+ suffixe L / R / C)
Navigation par waypoints (direct to, inbound, cross waypoint, follow route / SID / STAR / transition)	waypoint (source OpenNav) — éventuellement + FL ; routes SID / STAR / transition
Mouvements sur piste au sol (cross runway, hold short, line up, backtrack, vacate)	piste 01–36 (+ suffixe L / R / C) ; taxiway pour vacate
Cap (turn left/right, turn by N°, heading)	cap 005–360° (multiples de 5) ; sens left / right ; virage de {10, 20, 30, 40, 90, 180, 270, 360}°
QNH	975–1045 hPa
Transpondeur (squawk, ident)	code 0000–7777 octal (codes d'urgence 7500/7600/7700/7777/0000 exclus) ; ident sans valeur
Vitesse (speed, reduce / increase speed, maintain speed, mach)	160–340 kt (pas de 10), Δ 10–50 kt, ou Mach 0.70–0.86 (pas de 0.01)
Transfert fréquence & report (contact, monitor, report passing)	station + fréquence 118.000–136.xxx MHz (canaux 8.33/25 kHz, source VATEUD) ; waypoint pour report passing
Roulage & départ sol (startup, pushback, taxi to / via, hold position)	identifiant de taxiway (sans valeur pour startup / pushback / hold position)
Décollage (cleared for take-off)	piste 01–36 (+ suffixe L / R / C)
Clairances (IFR, destination, entrée CTR)	aéroport ICAO destination (source OpenNav) ; waypoint d'entrée CTR
Contrainte horaire (time)	heure hhmm (+ waypoint)
Attente (holding)	waypoint (source OpenNav)
Informations (ATIS, piste active, trafic, vent)	ATIS alpha…zulu ; piste active 01–36 ; trafic en position relative (« x o'clock y miles »…) ; vent direction / force / rafale
Réponses & initiation (affirm, standby, go ahead, appel initial)	— (sans valeur)

Rendu audio : voix, accent, bruit

Le texte est ensuite synthétisé puis dégradé pour ressembler à une vraie fréquence ATC :

• Voix / timbre : chaque énoncé est synthétisé par Kokoro TTS, avec une voix tirée au hasard parmi les voix Kokoro (colonne voice) — timbre varié gratuitement.
• Accent (conversion de voix) : un étage seed-vc transfère ensuite la voix d'un clip de référence sur la synthèse (foreign-accent conversion). Les clips de référence (colonne accent_ref) sont scrappés du Speech Accent Archive (≈ 3 000 locuteurs de toutes langues maternelles lisant le même paragraphe → accents variés). Le pool est réparti par genre et la part de voix masculines est tirée par rôle (≈ 0,7 ATCO / ≈ 0,9 pilote).
• Bruit : un profil de bruit issu d'enregistrements ATCO2 réels est ajouté avec un SNR tiré au hasard (cf. « Difficulté » et la colonne atco2_noise_profile). Pas de réverbération (cabines ATC petites et absorbantes → T60 négligeable).

Difficulté (tiercile de RMS mesuré)

Difficulté = tiercile du RMS mesuré sur le WAV rendu (colonne rms).

Le RMS (root-mean-square) est le niveau efficace du signal : la moyenne quadratique des échantillons, c.-à-d. l'énergie/le volume moyen de l'audio sur toute sa durée. Il est exprimé en dBFS (decibels relative to full scale : 0 dBFS = pleine échelle), donc toujours ≤ 0 ; plus la valeur est proche de 0, plus l'audio est fort/chargé en énergie.

Calcul, sur le WAV rendu complet x (échantillons dans [-1, 1]) :

rms = 20 * log10( sqrt( mean( x² ) ) )      # dBFS

c.-à-d. : on élève chaque échantillon au carré, on en prend la moyenne sur tout le fichier, sa racine carrée (= le RMS linéaire), puis on convertit en dB (20*log10). L'audio étant peak-normalisé en sortie de canal (crête fixée à 0 dBFS), le RMS — qui inclut le bruit de fond et le repli du soft-clip — est comparable d'un fichier à l'autre. RMS haut = audio bruité = plus dur.

subset	bornes rms (dBFS)
STEAK-rare (facile, propre)	<= -13.08
STEAK-medium	]-13.08, -11.55]
STEAK-tough (difficile, bruité)	> -11.55

subset	train	test	total
STEAK-rare	419,716	420,218	839,934
STEAK-medium	420,434	419,479	839,913
STEAK-tough	419,864	419,983	839,847

Split train/test (~50 % test) découpé par paire (pair_id) : une paire est toujours entièrement dans train OU entièrement dans test, jamais un rôle dans train et l'autre dans test — aucune fuite atco↔pilot entre les deux splits. Cela vaut quel que soit le subset : les deux rôles peuvent tomber dans des subsets de difficulté différents (STEAK-rare/-medium/-tough, selon leur bruit propre), mais ils partagent toujours le même split.

Charger un subset

from datasets import load_dataset
ds = load_dataset("<ns>/<repo>", "STEAK-tough", split="train")
ds[0]["audio"]   # {'array': ..., 'sampling_rate': 8000}

Hésitations (disfluences)

Certains énoncés contiennent une hésitation parlée (pause allongée et/ou vocalisation type uh / um / er). Dans la transcription text, cette hésitation est marquée par le token [hes], et la colonne hesitation en donne le type (null si l'énoncé n'en contient pas) :

hesitation	nature
ellipsis	longue pause silencieuse
shorter_ellipsis	pause silencieuse courte
uh, uhh	vocalisation « uh » (la variante uhh traîne plus longtemps)
um, umm	vocalisation « um » (la variante umm traîne plus longtemps)
er	vocalisation « er »

Au plus une hésitation par énoncé.

Colonnes (dans l'ordre)

• uid (= pair_id + role)
• audio (feature Audio, 8 kHz)
• role (atco/pilot), text (hésitation marquée [hes]), callsign
• commandes (JSON: liste de {command, value})
• atco2_noise_profile : id de l'enregistrement atco2 réel d'où le profil de bruit a été capté (= nom du WAV atco2_subset)
• params de génération : drive, voice, speed, accent_ref
• hesitation : type d'hésitation présente dans l'audio (null si aucune)
• bandpass_lo_hz : borne de fréquence MIN du bandpass appliqué (Hz)
• bandpass_hi_hz : borne de fréquence MAX du bandpass appliqué (Hz) (null tous deux si le canal n'a pas appliqué de bandpass)
• duration_s
• file (WAV source), pair_id (clé de paire)
• rms : niveau efficace global en dBFS (axe de difficulté, mesuré — cf. « Difficulté ») — dernière colonne

Regrouper les audios en paires

atco et pilot d'un échange partagent pair_id. Comme leur niveau de bruit diffère, les deux rôles peuvent tomber dans des subsets différents : pour reconstituer les paires complètes, charge les trois subsets.

from collections import defaultdict
from datasets import load_dataset, concatenate_datasets

subsets = ["STEAK-rare", "STEAK-medium", "STEAK-tough"]
ds = concatenate_datasets(
    [load_dataset("<ns>/<repo>", s, split="train") for s in subsets]
)

pairs = defaultdict(dict)
for ex in ds:
    pairs[ex["pair_id"]][ex["role"]] = ex   # {'atco': ..., 'pilot': ...}

pair = pairs["0000001"]
atco, pilot = pair.get("atco"), pair.get("pilot")