Probability Error Bounds for Approximation of Functions in Reproducing Kernel Hilbert Spaces

<jats:p>We find probability error bounds for approximations of functions <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M1"> <mi>f</mi> </math> </jats:inline-formula> in a separable reproducing kernel Hilbert space <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M2"> <mi mathvariant="script">H</mi> </math> </jats:inline-formula> with reproducing kernel <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M3"> <mi>K</mi> </math> </jats:inline-formula> on a base space <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M4"> <mi>X</mi> </math> </jats:inline-formula>, firstly in terms of finite linear combinations of functions of type <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M5"> <msub> <mrow> <mi>K</mi> </mrow> <mrow> <msub> <mrow> <mi>x</mi> </mrow> <mrow> <mi>i</mi> </mrow> </msub> </mrow> </msub> </math> </jats:inline-formula> and then in terms of the projection <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M6"> <msubsup> <mrow> <mi>π</mi> </mrow> <mrow> <mi>x</mi> </mrow> <mrow> <mi>n</mi> </mrow> </msubsup> </math> </jats:inline-formula> on <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M7"> <mtext>span</mtext> <msubsup> <mrow> <mfenced open="{" close="}"> <mrow> <msub> <mrow> <mi>K</mi> </mrow> <mrow> <msub> <mrow> <mi>x</mi> </mrow> <mrow> <mi>i</mi> </mrow> </msub> </mrow> </msub> </mrow> </mfenced> </mrow> <mrow> <mi>i</mi> <mo>=</mo> <mn>1</mn> </mrow> <mrow> <mi>n</mi> </mrow> </msubsup> </math> </jats:inline-formula>, for random sequences of points <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M8"> <mi>x</mi> <mo>=</mo> <msub> <mrow> <mfenced open="(" close=")"> <mrow> <msub> <mrow> <mi>x</mi> </mrow> <mrow> <mi>i</mi> </mrow> </msub> </mrow> </mfenced> </mrow> <mrow> <mi>i</mi> </mrow> </msub> </math> </jats:inline-formula> in <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M9"> <mi>X</mi> </math> </jats:inline-formula>. Given a probability measure <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M10"> <mi>P</mi> </math> </jats:inline-formula>, letting <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M11"> <msub> <mrow> <mi>P</mi> </mrow> <mrow> <mi>K</mi> </mrow> </msub> </math> </jats:inline-formula> be the measure defined by <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M12"> <mtext>d</mtext> <msub> <mrow> <mi>P</mi> </mrow> <mrow> <mi>K</mi> </mrow> </msub> <mfenced open="(" close=")"> <mrow> <mi>x</mi> </mrow> </mfenced> <mo>=</mo> <mi>K</mi> <mfenced open="(" close=")"> <mrow> <mi>x</mi> <mo>,</mo> <mi>x</mi> </mrow> </mfenced> <mtext>d</mtext> <mi>P</mi> <mfenced open="(" close=")"> <mrow> <mi>x</mi> </mrow> </mfenced> </math> </jats:inline-formula>, <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M13"> <mi>x</mi> <mo>∈</mo> <mi>X</mi> </math> </jats:inline-formula>, our approach is based on the nonexpansive operator <jats:inline-formula> <math xmlns="http://www.w3. org/1998/Math/MathML" id="M14"> <msup> <mrow> <mi>L</mi> </mrow> <mrow> <mn>2</mn> </mrow> </msup> <mfenced open="(" close=")"> <mrow> <mi>X</mi> <mo>;</mo> <msub> <mrow> <mi>P</mi> </mrow> <mrow> <mi>K</mi> </mrow> </msub> </mrow> </mfenced> <mo>∋</mo> <mi>λ</mi> <mo>↦</mo> <msub> <mrow> <mi>L</mi> </mrow> <mrow> <mi>P</mi> <mo>,</mo> <mi>K</mi> </mrow> </msub> <mi>λ</mi> <mo>≔</mo> <msub> <mrow> <mo>∫</mo> </mrow> <mrow> <mi>X</mi> </mrow> </msub> <mi>λ</mi> <mfenced open="(" close=")"> <mrow> <mi>x</mi> </mrow> </mfenced> <msub> <mrow> <mi>K</mi> </mrow> <mrow> <mi>x</mi> </mrow> </msub> <mtext>