プロトキン限界
x {\displaystyle x} と y {\displaystyle y} のハミング距離を d ( x , y ) {\displaystyle d(x,y)} とし、 C {\displaystyle C} に存在する符号語数を M {\displaystyle M} とする(つまり、 M {\displaystyle M} と A 2 ( n , d ) {\displaystyle A_{2}(n,d)} は等しい)。するとプロトキン限界は、 ∑ x , y ∈ C d ( x , y ) {\displaystyle \sum _{x,y\in C}d(x,y)} について2種類の方法で限界を求めることで得られる。
まず x {\displaystyle x} として選択肢が r {\displaystyle r} 個あるなら、 y {\displaystyle y} の選択肢は r − 1 {\displaystyle r-1} 個になる。定義から全ての x {\displaystyle x} と y {\displaystyle y} について d ( x , y ) ≥ d {\displaystyle d(x,y)\geq d} であるから、次が成り立つ。
∑ x , y ∈ C d ( x , y ) ≥ M ( M − 1 ) d {\displaystyle \sum _{x,y\in C}d(x,y)\geq M(M-1)d}
∑ x , y ∈ C d ( x , y ) ≤ 1 2 n M 2 {\displaystyle \sum _{x,y\in C}d(x,y)\leq {\frac {1}{2}}nM^{2}}
となる。以上の ∑ x , y ∈ C d ( x , y ) {\displaystyle \sum _{x,y\in C}d(x,y)} の上限と下限を組み合わせると、次式が導かれる。
M ( M − 1 ) d ≤ 1 2 n M 2 {\displaystyle M(M-1)d\leq {\frac {1}{2}}nM^{2}}
2 d > n {\displaystyle 2d>n} の場合、この式は次のように変形できる。
M ≤ 2 d 2 d − n {\displaystyle M\leq {\frac {2d}{2d-n}}}
M {\displaystyle M} が偶数の場合なので、次が成り立つ。
M ≤ 2 ⌊ d 2 d − n ⌋ {\displaystyle M\leq 2\lfloor {\frac {d}{2d-n}}\rfloor }
一方、 M {\displaystyle M} が奇数なら s i = M ± 1 2 {\displaystyle s_{i}={\frac {M\pm 1}{2}}} のときに ∑ i = 1 n 2 s i ( M − s i ) {\displaystyle \sum _{i=1}^{n}2s_{i}(M-s_{i})} が最大化する。