On Adaptive Sequential Monte Carlo Methods

This article is concerned with the modeling and convergence analysis of adaptive sequential Monte Carlo methods. These methods consist of an interaction (or resampling) of a simulated particle system with respect to some adaptive empirical criteria. We design a natural mean field particle interpretation of these Feynman-Kac type stochastic models in excursion spaces. The interaction times are computed on-line using empirical adaptive criteria, including effective sample size and Boltzmann entropy criteria; this is typically done in practice, however, there are very few convergence results in this instance. We combine a non-linear distribution flow analysis with an original coupling technique to obtain functional central limit theorems and uniform exponential concentration estimates for these algorithms, yielding what seems to be the first results of this type for this class of models. The original exponential concentration theorems presented in this study also improves recently developed concentration estimates for mean field interpretations of Feynman-Kac distribution flows models. Key-words: Sequential Monte Carlo methods, Feynman-Kac formulae, mean field particle models, effective sample size, adaptive functional criteria. ∗ Centre INRIA Bordeaux et Sud-Ouest & Institut de Mathematiques de Bordeaux , Universite de Bordeaux I, 351 cours de la Liberation 33405 Talence cedex, France, Pierre.DelMoral@inria.fr † Department of Statistics, University of British Columbia, 333-6356 Agricultural Road, Vancouver, BC, V6T 1Z2, Canada, arnaud@stat.ubc. ca ‡ Institute of Statistical Mathematics, 4-6-7 Minami-Azabu, Minato-Ku Tokyo 106-8569, Japan, ajay@ism.ac. jp in ria -0 03 32 43 6, v er si on 1 21 O ct 2 00 8 Methodes de Monte Carlo sequentielles et adaptatives Resume : Cet article porte sur la modelisation et l’analyse de la convergence de methodes de Monte Carlo sequentielles et adaptatives. Ces techniques de simulation stochastiques sont fondees sur l’evolution aleatoire de systemes de particules en interaction et associees a des criteres d’adaptation. Nous presentons des interpretations de ces algorithmes en termes d’approximation de type champ moyen de flots de mesures de Feynman-Kac dans des espaces d’excursions. Les instants d’interaction sont calcules en lignes selon des criteres d’adaptation empiriques tels des criteres de tailles de re-echantillonnage effectives et des criteres d’entropie relative de type Boltzmann. Ces strategies d’adaptation empiriques sont d’un usage courant en pratique souvent presentees comme de simples heuristiques, sans aucun fondement mathematique rigoureux. Nous presentons de nouvelles techniques d’analyse de type semi-groupe fondees sur des couplage de processus a valeurs mesures. Cette analyse permet d’obtenir des theoremes de la limite centrale fonctionnels et des resultats de concentration exponentielle uniformes par rapport au parametre temporel. Notons enfin que ces travaux sont les premieres etudes rigoureuses sur la concentration et les fluctuations de ces classes d’algorithmes de simulation adaptatifs. Par ailleurs, les theoremes de concentration exponentielle presentes dans cette etude ameliorent de recents travaux sur ce themes dans le cadre des interpretations particulaires de flots de mesures de Feynman-Kac. Mots-cles : Methodes de Monte Carlo sequentielles et adaptatives, formules de Feynman-Kac, methodes particulaires de type champ moyen, taille d’echantillonnage effective, criteres adaptatifs fonctionnels. in ria -0 03 32 43 6, v er si on 1 21 O ct 2 00 8 Adaptive Sequential Monte Carlo Methods 3