数学の調和解析の分野において、分数次フーリエ変換（分数階フーリエ変換とも、, FRFT）とは、フーリエ変換を一般化した一群の線形変換をいい、フーリエ変換の次数が整数でなくなったものと考えることができる。従って、関数を時間領域と周波数領域の「中間」領域に変換することができる。FRFTは、や信号解析、やパターン認識などに応用される。

FRFTは、分数次の畳み込み、相関関数、その他の操作の定義に使うことができ、さらにへと一般化できる。 FRFTの初期の定義はにより導入された。この定義は位相空間における回転のグリーン関数を解くことによるものだった。また、ウィーナーのエルミート多項式についての仕事を一般化することによる、ナミアスにより導入された定義も存在する。

しかし、信号処理の分野において広く認知されるようになったのは、1993年前後にいくつかのグループにより独立に再導入されてからであった。その時から、分数次フーリエ領域に帯域制限された信号にシャノンの標本化定理を拡張するという興味が巻き起こった。

全く異なる「分数次フーリエ変換」の意味がベイリーとシュヴァルツトラウバーにより、本質的にはz変換の別名として、特に離散フーリエ変換を周波数空間で分数量だけシフトして（入力に線形チャープを乗じて）一部の周波数点（スペクトルの一部分だけ）において評価したものに相当する変換を指す用語として導入された（このような変換はにより効率的に評価することができる）。しかし、この用語はほとんどの技術的文献では使われなくなり、FRFTに取ってかわられた。以降ではFRFTについて説明する。

導入 
関数  に対する連続フーリエ変換  は  上のユニタリ作用素であり、関数  をその周波数版  に変換する。
   ここで  は全ての実数とする。
逆に、 は  から逆変換  により得られる。
    ここで  は全ての実数とする。
ここで、 回反復された  を 、 が非負整数のとき 、および  により定義し、考察することとする。 は周期4の自己同型、つまり全ての関数  について  であるから、この列は有限である。

より正確には、時間を反転させるパリティ作用素  を導入すると、次の性質が成り立つ。

FrFTは、ここに定義される一連の線形変換をさらに拡張し、フーリエ変換の非整数次  次の羃を扱えるようにするものである。

定義 
任意の実数  に対して、関数  の -角分数次フーリエ変換を  と表記することにし、次のように定義する。

（平方根は結果の引数が区間  となるように定義する。）

 が  の整数倍のとき、上式の余接関数と余割関数は発散するが、極限を取ることによりこれを扱うことができ、結果として非積分関数にディラックのデルタ関数が表われる。より直接的には、  であるから、  は  が  の偶数倍または奇数倍のとき、それぞれ  または  を与える。

 のとき、これは連続フーリエ変換の定義と一致し、 の場合は連続フーリエ逆変換の定義と一致する。

FRFT後の関数の引数  は空間的な引数  でも周波数的な引数  でもない。これをこれら二つの座標  の線形結合と考えることができる理由を見ていこう。-角分数領域を区別するために、 を  の引数とすることにする。

備考: 周波数ではなく角周波数  を使うコンベンションでは、FrFT 公式はとなる。

性質 
-次の分数次フーリエ変換演算子  は次のような性質を持つ。
 加法性: 任意の実数角  について、
 
 線形性:
 
 整数次:  が  の整数倍のとき、
 
 さらに言えば、次のような関係もある。
 
 逆変換:
 
 可換性:
 
  結合法則
 
 パーセバルの定理:
 
 この性質はユニタリ性と類似している。エネルギーもしくはノルム保存が特殊例である。
 時間反転:
 
 
 シフトされた関数の変換:
 シフト演算子と位相シフト演算子をそれぞれ以下のように定義する。
 
 
 すると、
 
 スケールされた関数の変換
 スケーリング演算子およびチャープ乗算演算子以下のように定義する。
 
 
 すると、以下が成り立つ。 
 
  の分数次フーリエ変換は  をスケールしたものにはならないということに注意が必要である。むしろ、  のときは  の分数次フーリエ変換は  をスケールおよびチャープ変調したものになる。

分数次核関数 
FrFTは次のように積分変換として表わせる。
 
ここで、-角核関数はつぎのようになる。
 
（二乗根は偏角が区間  に収まるように定義するものとする）

ここでも、特殊な場合は  α が π の整数倍に近付いたときの挙動と矛盾なく定義されている。

FrFTは、核関数と同じ次のような性質を持つ。
 対称性: 
 逆関数: 
 加法性:

関連する変換 
離散フーリエ変換のような類似の変換にも、分数次フーリエ変換と関連する分数次への一般化が存在する。離散分数次フーリエ変換は、 による定義が、 および  に見える。

分数次ウェーブレット変換 (FRWT): 古典的ウェーブレット変換 (WT) の分数次フーリエ変換 (FRFT) 領域への一般化。FRWT は WT および FRFT の制限を改善するために提案された。この変換は WT からマルチ解像度解析の利点を受け継ぐだけでなく、FRFT と類似の分数次領域での信号の表現力をあわせもつ。既存の FRWT に比べて、Shi, Zhang, Liu により2012年に定義された FRWT は時間・周波数混合平面における信号表現力がある。

関連するフーリエ変換の一般化について、も参照されたい。

一般化 
フーリエ変換は本質的にボソン的である。これがうまくいくのは重ね合わせの原理との整合性のためであり、干渉パターンと関連がある。対して、フェルミオン的フーリエ変換も存在する。これらは超対称 FRFT および超対称に一般化できる。分数次ラドン変換、 FRFT、シンプレクティックウェーブレット変換も存在する。量子回路はユニタリ操作に基いているため、後者が関数空間上のユニタリ作用素である積分変換の計算に有用である。FRFTを実装する量子回路も設計されている。

分数次フーリエ変換の解釈 

フーリエ変換の通常の解釈は、時間領域信号を周波数領域信号へと変換するものである。これに対して、逆フーリエ変換の解釈は周波数領域信号を時間領域信号に変換するものである。見て分かるように、分数次フーリエ変換は（時間領域でも周波数領域でもどちらでもよい）信号を時間と周波数の間の領域の信号へと変換するもの、つまりでの回転と解釈できる。この見方はにより一般化される。この変換は、分数次フーリエ変換を一般化し、時間・周波数領域における回転以外の線形変換を可能とする。

下の図を例にとろう。時間領域信号が（下のとおり）矩形の場合、周波数領域ではsinc関数となる。しかし、分数次フーリエ変換を作用させた場合、矩形信号は時間と周波数の間の領域の信号が得られる。

実際、分数次フーリエ変換は時間周波数分布上の回転操作である。上述の定義から、 の場合の分数次フーリエ変換では何も変化せず、 の場合はフーリエ変換となり、時間周波数分布を  だけ回転させる。 がその他の値の場合、分数次フーリエ変換は時間周波数分布を  だけ回転させる。次の図はさまざまな  の値における分数次フーリエ変換の結果である。

応用 
分数次フーリエ変換は時間周波数解析や DSP に用いられることがある。ノイズのフィルタリングにも有用だが、ノイズと信号が時間・周波数領域において重ならないことが条件となる。次の例を考えよう。ノイズを除去したいが直接フィルタを適用することができない場合、まず分数次フーリエ変換により（ノイズを含む）信号を回転させる。すると、適切なフィルタを適用することにより欲しい信号のみを通すことができる。したがってノイズは完全に除去される。その後さらに分数次フーリエ変換を適用することにより信号を元にもどせば欲しかった信号が得られる。

分数次フーリエ変換は光学系の設計やホログラフィックストレージの効率最適化に用いられることもある。

したがって、時間領域における打ち切り、もしくは同じことだが周波数領域におけるローパスフィルターの適用により、時間・周波数領域の任意の凸包を切り取ることができる。対して、分数次フーリエ変換を使わず時間領域的手法や周波数領域的手法のみを用いる場合、それらの軸に平衡な矩形を切り取ることしかできない。