double distanceSquarePointToSegment(double x1, double y1, double x2, double y2,
                                    double x, double y) {
  double p1_p2_squareLength = (x2 - x1) * (x2 - x1) + (y2 - y1) * (y2 - y1);
  double dotProduct =
      ((x - x1) * (x2 - x1) + (y - y1) * (y2 - y1)) / p1_p2_squareLength;
  if (dotProduct < 0) {
    return (x - x1) * (x - x1) + (y - y1) * (y - y1);
  } else if (dotProduct <= 1) {
    double p_p1_squareLength = (x1 - x) * (x1 - x) + (y1 - y) * (y1 - y);
    return p_p1_squareLength - dotProduct * dotProduct * p1_p2_squareLength;
  } else {
    return (x - x2) * (x - x2) + (y - y2) * (y - y2);
  }
}


x86 assembly (clang, -O0):
<distanceSquarePointToSegment>:
push   %rbp
mov    %rsp,%rbp
movsd  %xmm0,-0x10(%rbp)
movsd  %xmm1,-0x18(%rbp)
movsd  %xmm2,-0x20(%rbp)
movsd  %xmm3,-0x28(%rbp)
movsd  %xmm4,-0x30(%rbp)
movsd  %xmm5,-0x38(%rbp)
movsd  -0x20(%rbp),%xmm0
subsd  -0x10(%rbp),%xmm0
movsd  -0x20(%rbp),%xmm2
subsd  -0x10(%rbp),%xmm2
movsd  -0x28(%rbp),%xmm1
subsd  -0x18(%rbp),%xmm1
movsd  -0x28(%rbp),%xmm3
subsd  -0x18(%rbp),%xmm3
mulsd  %xmm3,%xmm1
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x40(%rbp)
movsd  -0x30(%rbp),%xmm0
subsd  -0x10(%rbp),%xmm0
movsd  -0x20(%rbp),%xmm2
subsd  -0x10(%rbp),%xmm2
movsd  -0x38(%rbp),%xmm1
subsd  -0x18(%rbp),%xmm1
movsd  -0x28(%rbp),%xmm3
subsd  -0x18(%rbp),%xmm3
mulsd  %xmm3,%xmm1
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
divsd  -0x40(%rbp),%xmm0
movsd  %xmm0,-0x48(%rbp)
xorps  %xmm0,%xmm0
ucomisd -0x48(%rbp),%xmm0
jbe    11e5 <distanceSquarePointToSegment+0xe5>
movsd  -0x30(%rbp),%xmm0
subsd  -0x10(%rbp),%xmm0
movsd  -0x30(%rbp),%xmm2
subsd  -0x10(%rbp),%xmm2
movsd  -0x38(%rbp),%xmm1
subsd  -0x18(%rbp),%xmm1
movsd  -0x38(%rbp),%xmm3
subsd  -0x18(%rbp),%xmm3
mulsd  %xmm3,%xmm1
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x8(%rbp)
jmp    12a7 <distanceSquarePointToSegment+0x1a7>
movsd  0xe13(%rip),%xmm0
ucomisd -0x48(%rbp),%xmm0
jb     126e <distanceSquarePointToSegment+0x16e>
movsd  -0x10(%rbp),%xmm0
subsd  -0x30(%rbp),%xmm0
movsd  -0x10(%rbp),%xmm2
subsd  -0x30(%rbp),%xmm2
movsd  -0x18(%rbp),%xmm1
subsd  -0x38(%rbp),%xmm1
movsd  -0x18(%rbp),%xmm3
subsd  -0x38(%rbp),%xmm3
mulsd  %xmm3,%xmm1
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x50(%rbp)
movsd  -0x50(%rbp),%xmm1
movsd  -0x48(%rbp),%xmm0
mulsd  -0x48(%rbp),%xmm0
movsd  -0x40(%rbp),%xmm2
movq   %xmm0,%rax
movabs $0x8000000000000000,%rcx
xor    %rcx,%rax
movq   %rax,%xmm0
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x8(%rbp)
jmp    12a7 <distanceSquarePointToSegment+0x1a7>
movsd  -0x30(%rbp),%xmm0
subsd  -0x20(%rbp),%xmm0
movsd  -0x30(%rbp),%xmm2
subsd  -0x20(%rbp),%xmm2
movsd  -0x38(%rbp),%xmm1
subsd  -0x28(%rbp),%xmm1
movsd  -0x38(%rbp),%xmm3
subsd  -0x28(%rbp),%xmm3
mulsd  %xmm3,%xmm1
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x8(%rbp)
movsd  -0x8(%rbp),%xmm0
pop    %rbp
ret

x86 assembly (clang, -O2):
<distanceSquarePointToSegment>:
movapd %xmm4,%xmm8
unpcklpd %xmm2,%xmm8
movapd %xmm0,%xmm6
unpcklpd %xmm0,%xmm6
subpd  %xmm6,%xmm8
movapd %xmm5,%xmm10
unpcklpd %xmm3,%xmm10
movapd %xmm1,%xmm7
unpcklpd %xmm1,%xmm7
subpd  %xmm7,%xmm10
movapd %xmm10,%xmm6
unpckhpd %xmm10,%xmm6
mulpd  %xmm10,%xmm6
movapd %xmm8,%xmm7
unpckhpd %xmm8,%xmm7
mulpd  %xmm8,%xmm7
addpd  %xmm6,%xmm7
movapd %xmm7,%xmm9
unpckhpd %xmm7,%xmm9
divsd  %xmm9,%xmm7
xorpd  %xmm6,%xmm6
ucomisd %xmm7,%xmm6
jbe    117e <distanceSquarePointToSegment+0x7e>
mulsd  %xmm10,%xmm10
mulsd  %xmm8,%xmm8
addsd  %xmm10,%xmm8
movapd %xmm8,%xmm0
ret
movsd  0xe7a(%rip),%xmm6
ucomisd %xmm7,%xmm6
jae    11a5 <distanceSquarePointToSegment+0xa5>
subsd  %xmm2,%xmm4
subsd  %xmm3,%xmm5
mulsd  %xmm5,%xmm5
mulsd  %xmm4,%xmm4
addsd  %xmm5,%xmm4
movapd %xmm4,%xmm0
ret
subsd  %xmm4,%xmm0
subsd  %xmm5,%xmm1
mulsd  %xmm1,%xmm1
mulsd  %xmm0,%xmm0
addsd  %xmm1,%xmm0
mulsd  %xmm7,%xmm7
mulsd  %xmm9,%xmm7
subsd  %xmm7,%xmm0
ret

LLVM IR (-O0):
define double @distanceSquarePointToSegment(double %0, double %1, double %2, double %3, double %4, double %5) {
%7 = alloca double
%8 = alloca double
%9 = alloca double
%10 = alloca double
%11 = alloca double
%12 = alloca double
%13 = alloca double
%14 = alloca double
%15 = alloca double
%16 = alloca double
store double %0, double* %8
store double %1, double* %9
store double %2, double* %10
store double %3, double* %11
store double %4, double* %12
store double %5, double* %13
%17 = load double, double* %10
%18 = load double, double* %8
%19 = fsub double %17, %18
%20 = load double, double* %10
%21 = load double, double* %8
%22 = fsub double %20, %21
%23 = load double, double* %11
%24 = load double, double* %9
%25 = fsub double %23, %24
%26 = load double, double* %11
%27 = load double, double* %9
%28 = fsub double %26, %27
%29 = fmul double %25, %28
%30 = call double @llvm.fmuladd.f64(double %19, double %22, double %29)
store double %30, double* %14
%31 = load double, double* %12
%32 = load double, double* %8
%33 = fsub double %31, %32
%34 = load double, double* %10
%35 = load double, double* %8
%36 = fsub double %34, %35
%37 = load double, double* %13
%38 = load double, double* %9
%39 = fsub double %37, %38
%40 = load double, double* %11
%41 = load double, double* %9
%42 = fsub double %40, %41
%43 = fmul double %39, %42
%44 = call double @llvm.fmuladd.f64(double %33, double %36, double %43)
%45 = load double, double* %14
%46 = fdiv double %44, %45
store double %46, double* %15
%47 = load double, double* %15
%48 = fcmp olt double %47, 0.000000e+00
br i1 %48, label %49, label %64
49: ; preds = %6
%50 = load double, double* %12
%51 = load double, double* %8
%52 = fsub double %50, %51
%53 = load double, double* %12
%54 = load double, double* %8
%55 = fsub double %53, %54
%56 = load double, double* %13
%57 = load double, double* %9
%58 = fsub double %56, %57
%59 = load double, double* %13
%60 = load double, double* %9
%61 = fsub double %59, %60
%62 = fmul double %58, %61
%63 = call double @llvm.fmuladd.f64(double %52, double %55, double %62)
store double %63, double* %7
br label %104
64: ; preds = %6
%65 = load double, double* %15
%66 = fcmp ole double %65, 1.000000e+00
br i1 %66, label %67, label %89
67: ; preds = %64
%68 = load double, double* %8
%69 = load double, double* %12
%70 = fsub double %68, %69
%71 = load double, double* %8
%72 = load double, double* %12
%73 = fsub double %71, %72
%74 = load double, double* %9
%75 = load double, double* %13
%76 = fsub double %74, %75
%77 = load double, double* %9
%78 = load double, double* %13
%79 = fsub double %77, %78
%80 = fmul double %76, %79
%81 = call double @llvm.fmuladd.f64(double %70, double %73, double %80)
store double %81, double* %16
%82 = load double, double* %16
%83 = load double, double* %15
%84 = load double, double* %15
%85 = fmul double %83, %84
%86 = load double, double* %14
%87 = fneg double %85
%88 = call double @llvm.fmuladd.f64(double %87, double %86, double %82)
store double %88, double* %7
br label %104
89: ; preds = %64
%90 = load double, double* %12
%91 = load double, double* %10
%92 = fsub double %90, %91
%93 = load double, double* %12
%94 = load double, double* %10
%95 = fsub double %93, %94
%96 = load double, double* %13
%97 = load double, double* %11
%98 = fsub double %96, %97
%99 = load double, double* %13
%100 = load double, double* %11
%101 = fsub double %99, %100
%102 = fmul double %98, %101
%103 = call double @llvm.fmuladd.f64(double %92, double %95, double %102)
store double %103, double* %7
br label %104
104: ; preds = %89, %67, %49
%105 = load double, double* %7
ret double %105
}

LLVM IR (-O2):
define double @distanceSquarePointToSegment(double %0, double %1, double %2, double %3, double %4, double %5) {
%7 = insertelement <2 x double> poison, double %4, i64 0
%8 = insertelement <2 x double> %7, double %2, i64 1
%9 = insertelement <2 x double> poison, double %0, i64 0
%10 = shufflevector <2 x double> %9, <2 x double> poison, <2 x i32> zeroinitializer
%11 = fsub <2 x double> %8, %10
%12 = insertelement <2 x double> poison, double %5, i64 0
%13 = insertelement <2 x double> %12, double %3, i64 1
%14 = insertelement <2 x double> poison, double %1, i64 0
%15 = shufflevector <2 x double> %14, <2 x double> poison, <2 x i32> zeroinitializer
%16 = fsub <2 x double> %13, %15
%17 = shufflevector <2 x double> %16, <2 x double> undef, <2 x i32> <i32 1, i32 1>
%18 = fmul <2 x double> %17, %16
%19 = shufflevector <2 x double> %11, <2 x double> undef, <2 x i32> <i32 1, i32 1>
%20 = call <2 x double> @llvm.fmuladd.v2f64(<2 x double> %11, <2 x double> %19, <2 x double> %18)
%21 = extractelement <2 x double> %20, i64 0
%22 = extractelement <2 x double> %20, i64 1
%23 = fdiv double %21, %22
%24 = fcmp olt double %23, 0.000000e+00
br i1 %24, label %25, label %30
25: ; preds = %6
%26 = fmul <2 x double> %16, %16
%27 = extractelement <2 x double> %26, i64 0
%28 = extractelement <2 x double> %11, i64 0
%29 = tail call double @llvm.fmuladd.f64(double %28, double %28, double %27)
br label %45
30: ; preds = %6
%31 = fcmp ugt double %23, 1.000000e+00
br i1 %31, label %40, label %32
32: ; preds = %30
%33 = fsub double %0, %4
%34 = fsub double %1, %5
%35 = fmul double %34, %34
%36 = tail call double @llvm.fmuladd.f64(double %33, double %33, double %35)
%37 = fneg double %23
%38 = fmul double %23, %37
%39 = tail call double @llvm.fmuladd.f64(double %38, double %22, double %36)
br label %45
40: ; preds = %30
%41 = fsub double %4, %2
%42 = fsub double %5, %3
%43 = fmul double %42, %42
%44 = tail call double @llvm.fmuladd.f64(double %41, double %41, double %43)
br label %45
45: ; preds = %40, %32, %25
%46 = phi double [ %29, %25 ], [ %39, %32 ], [ %44, %40 ]
ret double %46
}