泛函連接理論

泛函連接理論（英語:Theory of Functional Connections，以下簡稱TFC）是德克薩斯A&M大學的D. Mortari教授在其著作中引入的，為執行泛函插值而開發的數學框架，該框架提供了一種將約束優化問題轉換為等效的無約束問題的方法，目前已經廣泛應用到實際問題的解決中。例如，通過利用這種轉換，TFC可以被有效地應用於微分方程求解問題。下面來具體解釋泛函插值與泛函連接的意義與價值。

## 從函數插值到泛函插值

在介紹TFC問題之前，首先考慮一個涉及n個約束且具有普遍性的插值問題，例如微分方程的邊值問題（BVP）求解。這些約束可能是一致的，也可能是不一致的。例如，在域 $\mathcal{D}: (0, 1) \cup (0, 1)$ 的問題中，約束 $f_1 (x,0) = 1 + x$ 和 $f_2 (0, y) = 2 - y$不一致，因為它們在 $(0,0)$ 處產生不同的值。

上面描述的一致性問題主要針對約束、插值和泛函插值情況，包括邊界條件涉及剪切和混合導數的情況。如果 n 個約束一致，則可以通過選擇 n 個線性無關的支撐函數（例如單項式 $\{1, x, x^2, \cdots, x^{n-1}\}$）來構造插入這些約束的函數。所選的支撐函數（support function）集可能與給定的約束一致，也可能不一致。例如，約束 $y (-1) = y (+1) = 0$ 和 $\dfrac{d y}{d x}\bigg|_{x = 0} = 1$ 與支撐函數 $\{1, x, x^2\}$ 不一致。如果支撐函數與約束一致，則可以求解泛函插值問題，從而產生一個插值函數——一個滿足所有約束的函數。選擇不同的支撐函數將導致不同的插值。當解決了一個插值問題並確定了一個初始插值函數時，原則上，可以通過使用與約束一致的每一組不同的線性獨立支撐函數進行插值過程來生成所有可能的插值函數。但是，這種方法是不切實際的，因為可能的支撐函數集的數量是無限的。

隨著泛函連接理論（TFC）的發展，這個問題得以解決。泛函連接理論是德克薩斯A&M大學的D. Mortari教授在其著作中引入的用於執行泛函插值的分析框架。該方法構造了一個約束泛函（constrained functional）$f\left( {x{\text{, }}g\left( x \right)} \right)$，其中自由函數 $g\left( x \right)$ 無論取何種表達式，$f\left( {x{\text{, }}g\left( x \right)} \right)$ 都滿足給定約束。因此約束泛函 $f\left( {x{\text{, }}g\left( x \right)} \right)$ 提供了所有可能的插值的完整表示。通過改變 $g\left( x \right)$，可以生成整個插值集，包括那些不連續或部分定義的插值。

圖1流程圖說明了從函數插值到泛函插值的過程。通過泛函連接理論求解得到的泛函封裝了本身滿足施加約束的函數的子空間，從而將搜索空間縮小到滿足約束的區域。通過，約束優化問題可以重新表述為無約束問題，從而通過更簡單、更穩健、更準確、更高效和可靠的方法解決它們。因此，TFC框架將約束問題轉化為不受約束的問題，從而顯著簡化了求解過程。

首先，需要先構造點、導數、積分以及它們的任意線性組合的單變量約束，然後，該理論被擴展以適應無限和多元約束，並應用於求解常微分方程、偏微分方程和積分-微分方程。TFC 的單變量版本可以用以下兩種形式之一表示。

$$\left\{ \begin{align} <pre> & f\left( x\text{, }g\left( x \right) \right)=g\left( x \right)+\sum\limits_{j=1}^{n}{{{\eta }_{j}}\left( x\text{, }g\left( x \right) \right){{s}_{j}}\left( x \right)} \\ & f\left( x\text{, }g\left( x \right) \right)=g\left( x \right)+\sum\limits_{j=1}^{n}{{{\phi }_{j}}\left( x\text{, }\mathbf{s}\left( x \right) \right){{\rho }_{j}}\left( x\text{, }g\left( x \right) \right)} \\ </pre> \end{align} \right.$$

式中，n 表示線性約束的數量；$g\left( x \right)$ 是自由函數；是 n 個自定義的線性無關的支撐函數；${\eta _j}\left( {x{\rm{, }}g\left( x \right)} \right)$ 是係數泛函，${\phi _j}\left( {x{\rm{, }}{\bf{s}}\left( x \right)} \right)$ 是開關泛函（在各自的約束下計算時取值1，在其他約束下取值0）, ${\rho _j}\left( {x{\rm{, }}g\left( x \right)} \right)$ 是用自由函數表示約束的投影泛函，具體表示見。

## 一個例子

為了說明TFC如何泛化插值，在下文中將介紹一個算例。考慮約束條件 $\dot y\left( {{x_1}} \right) = {\dot y_1}$ 和 $\dot y\left( {{x_2}} \right) = {\dot y_2}$，滿足這些約束的插值函數是

$${{f}_{a}}\left( x \right)=\frac{x\left( 2{{x}_{2}}-x \right)}{2\left( {{x}_{2}}-{{x}_{1}} \right)}{{\dot{y}}_{1}}+\frac{x\left( x-2{{x}_{1}} \right)}{2\left( {{x}_{2}}-{{x}_{1}} \right)}{{\dot{y}}_{2}}$$

可以很容易地驗證 ${f_a}\left( x \right)$ 滿足約束條件。在此基礎上，構造函數 $\delta \left( x \right)$。

$$\delta \left( x \right) = g\left( x \right) - {{x\left( {2{x_2} - x} \right)} \over {2\left( {{x_2} - {x_1}} \right)}}\dot g\left( {{x_1}} \right) + {{x\left( {x - 2{x_1}} \right)} \over {2\left( {{x_2} - {x_1}} \right)}}\dot g\left( {{x_2}} \right)$$

同理，不論$g\left(x\right)$取為何種形式，$\delta \left(x\right)$的導數在 $x_1$ 處和 $x_2$ 處為0。因此，通過將 $f_a\left(x\right)$ 與 $\delta \left(x\right)$ 相加，得到約束泛函 $f\left( {x{\rm{, }}g\left( x \right)} \right)$ 如下。

$$f\left( x\text{, }g\left( x \right) \right)=\frac{x\left( 2{{x}_{2}}-x \right)}{2\left( {{x}_{2}}-{{x}_{1}} \right)}{{\dot{y}}_{1}}+\frac{x\left( x-2{{x}_{1}} \right)}{2\left( {{x}_{2}}-{{x}_{1}} \right)}{{\dot{y}}_{2}}+g\left( x \right)-\frac{x\left( 2{{x}_{2}}-x \right)}{2\left( {{x}_{2}}-{{x}_{1}} \right)}\dot{g}\left( {{x}_{1}} \right)+\frac{x\left( x-2{{x}_{1}} \right)}{2\left( {{x}_{2}}-{{x}_{1}} \right)}\dot{g}\left( {{x}_{2}} \right)$$

對於約束泛函 $f\left( {x{\rm{, }}g\left( x \right)} \right)$，無論 $g\left(x\right)$ 取為何種形式，只要 $g\left(x\right)$ 在 $x_1$ 和 $x_2$ 處有定義，必然滿足約束條件。由於 $g\left(x\right)$ 的靈活性，約束泛函 $f\left( {x{\rm{, }}g\left( x \right)} \right)$ 就可以在指定的約束以外任意取值。重要的是，這種靈活性不僅限於本例中選擇的特定約束。相反，它普遍適用於任何一組約束。這種普遍性說明了 TFC 如何進行泛函插值：它構造一個滿足給定約束的函數，同時通過改變 $g\left(x\right)$ 使其在約束之外的地方足夠自由。本質上，這個例子表明約束泛函捕獲了所有滿足給定約束的可能函數，展示了 TFC 在處理各種插值問題方面的強大功能和通用性。

## 泛函連接理論的應用

泛函連接理論提出以來，它在許多領域得到了廣泛應用。這些應用包括它在剪切型和混合導數問題中的應用、分數算子的分析、在彎曲空間中確定邊值問題的測地線 以及對延拓法的貢獻。此外，TFC 已應用於間接最優控制、剛性化學動力學建模和流行病學動力學研究。它還在非線性規劃和結構力學等領域顯示出潛力。

特別地，TFC 在神經網路中表現出了非凡的效率，尤其是在提高準確性和解決高維問題方面。TFC 通過有效消除優化過程中的約束，顯著提高了物理資訊神經網路（PINN）的性能，這是傳統神經網路通常難以解決的。此功能顯著提高了計算效率和準確性，從而能夠更輕鬆地解決複雜問題。

## 與譜方法的區別

TFC 和譜方法在解決約束優化問題的方法上很相似。但是，它們之間有兩個基本區別：

- 解的表示：譜法將解表示為基函數的和，而 TFC 將自由函數表示為基函數的和。這種區別使 TFC 能夠在分析上滿足約束條件，而頻譜方法將約束視為附加數據，以取決於殘差的準確度對其進行近似。

- 變值問題中的計算方法：在線性變值問題中，兩種方法的計算策略差異很大。譜方法通常採用迭代技術（例如打靶法）將變值問題重新表述為初值問題。相反，TFC 通過線性最小二乘技術直接解決這些問題，無需迭代過程。

這兩種方法都可以使用Galerkin方法（確保殘差向量與所選基函數正交）或Collocation方法 （最小化殘差向量的範數）來執行優化。

## 與拉格朗日乘子法的區別

在存在約束的優化問題中。該方法引入了其他變量（拉格朗日乘子），必須計算這些變量才能強制執行約束。在某些情形下，拉格朗日乘子法的計算較為困難。相比之下，TFC 不添加新變量，並且能夠推導約束泛函，從而簡化了問題的求解。但是，拉格朗日乘子方法具有處理不等式約束的優勢，而TFC目前缺乏這種能力。

這兩種方法的一個共同局限性是它們容易產生局部最優解而不是全局最優解，尤其是在非凸問題的求解中。因此，可能需要補充驗證程序或替代方法來評估和確認所獲得解決方案的質量和全局有效性。總之，雖然 TFC 並不能完全取代拉格朗日乘子方法，但在乘數計算變得過於複雜或不可行的情況下，只要約束僅限於等式約束，它就可以作為一個強大的替代方案。