int TriangularCoordinate(int i, int j, int n) {
  int a;
  if (i == j)
    return -1;
  a = i;
  i = (i > j) ? j : i;
  j = (i == a) ? j : a;
  a = ((n) * (n - 1) - (n - i) * (n - 1 - i)) / 2 + j;
  return a;
}


x86 assembly (clang, -O0):
<TriangularCoordinate>:
push   %rbp
mov    %rsp,%rbp
mov    %edi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %edx,-0x10(%rbp)
mov    -0x8(%rbp),%eax
cmp    -0xc(%rbp),%eax
jne    1125 <TriangularCoordinate+0x25>
movl   $0xffffffff,-0x4(%rbp)
jmp    11a5 <TriangularCoordinate+0xa5>
mov    -0x8(%rbp),%eax
mov    %eax,-0x14(%rbp)
mov    -0x8(%rbp),%eax
cmp    -0xc(%rbp),%eax
jle    1142 <TriangularCoordinate+0x42>
mov    -0xc(%rbp),%eax
mov    %eax,-0x18(%rbp)
jmp    1148 <TriangularCoordinate+0x48>
mov    -0x8(%rbp),%eax
mov    %eax,-0x18(%rbp)
mov    -0x18(%rbp),%eax
mov    %eax,-0x8(%rbp)
mov    -0x8(%rbp),%eax
cmp    -0x14(%rbp),%eax
jne    1165 <TriangularCoordinate+0x65>
mov    -0xc(%rbp),%eax
mov    %eax,-0x1c(%rbp)
jmp    116b <TriangularCoordinate+0x6b>
mov    -0x14(%rbp),%eax
mov    %eax,-0x1c(%rbp)
mov    -0x1c(%rbp),%eax
mov    %eax,-0xc(%rbp)
mov    -0x10(%rbp),%eax
mov    -0x10(%rbp),%ecx
sub    $0x1,%ecx
imul   %ecx,%eax
mov    -0x10(%rbp),%ecx
sub    -0x8(%rbp),%ecx
mov    -0x10(%rbp),%edx
sub    $0x1,%edx
sub    -0x8(%rbp),%edx
imul   %edx,%ecx
sub    %ecx,%eax
mov    $0x2,%ecx
cltd
idiv   %ecx
add    -0xc(%rbp),%eax
mov    %eax,-0x14(%rbp)
mov    -0x14(%rbp),%eax
mov    %eax,-0x4(%rbp)
mov    -0x4(%rbp),%eax
pop    %rbp
ret

x86 assembly (clang, -O2):
<TriangularCoordinate>:
mov    $0xffffffff,%eax
cmp    %esi,%edi
je     112d <TriangularCoordinate+0x2d>
mov    %edi,%ecx
cmovg  %esi,%ecx
cmovg  %edi,%esi
lea    -0x1(%rdx),%eax
mov    %eax,%edi
imul   %edx,%edi
sub    %ecx,%edx
sub    %eax,%ecx
imul   %edx,%ecx
add    %edi,%ecx
mov    %ecx,%eax
shr    $0x1f,%eax
add    %ecx,%eax
sar    %eax
add    %esi,%eax
ret

LLVM IR (-O0):
define i32 @TriangularCoordinate(i32 %0, i32 %1, i32 %2) {
%4 = alloca i32
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
store i32 %0, i32* %5
store i32 %1, i32* %6
store i32 %2, i32* %7
%9 = load i32, i32* %5
%10 = load i32, i32* %6
%11 = icmp eq i32 %9, %10
br i1 %11, label %12, label %13
12: ; preds = %3
store i32 -1, i32* %4
br label %50
13: ; preds = %3
%14 = load i32, i32* %5
store i32 %14, i32* %8
%15 = load i32, i32* %5
%16 = load i32, i32* %6
%17 = icmp sgt i32 %15, %16
br i1 %17, label %18, label %20
18: ; preds = %13
%19 = load i32, i32* %6
br label %22
20: ; preds = %13
%21 = load i32, i32* %5
br label %22
22: ; preds = %20, %18
%23 = phi i32 [ %19, %18 ], [ %21, %20 ]
store i32 %23, i32* %5
%24 = load i32, i32* %5
%25 = load i32, i32* %8
%26 = icmp eq i32 %24, %25
br i1 %26, label %27, label %29
27: ; preds = %22
%28 = load i32, i32* %6
br label %31
29: ; preds = %22
%30 = load i32, i32* %8
br label %31
31: ; preds = %29, %27
%32 = phi i32 [ %28, %27 ], [ %30, %29 ]
store i32 %32, i32* %6
%33 = load i32, i32* %7
%34 = load i32, i32* %7
%35 = sub nsw i32 %34, 1
%36 = mul nsw i32 %33, %35
%37 = load i32, i32* %7
%38 = load i32, i32* %5
%39 = sub nsw i32 %37, %38
%40 = load i32, i32* %7
%41 = sub nsw i32 %40, 1
%42 = load i32, i32* %5
%43 = sub nsw i32 %41, %42
%44 = mul nsw i32 %39, %43
%45 = sub nsw i32 %36, %44
%46 = sdiv i32 %45, 2
%47 = load i32, i32* %6
%48 = add nsw i32 %46, %47
store i32 %48, i32* %8
%49 = load i32, i32* %8
store i32 %49, i32* %4
br label %50
50: ; preds = %31, %12
%51 = load i32, i32* %4
ret i32 %51
}

LLVM IR (-O2):
define i32 @TriangularCoordinate(i32 %0, i32 %1, i32 %2) {
%4 = icmp eq i32 %0, %1
br i1 %4, label %17, label %5
5: ; preds = %3
%6 = icmp sgt i32 %0, %1
%7 = select i1 %6, i32 %1, i32 %0
%8 = select i1 %6, i32 %0, i32 %1
%9 = add nsw i32 %2, -1
%10 = mul nsw i32 %9, %2
%11 = sub nsw i32 %2, %7
%12 = sub i32 %7, %9
%13 = mul i32 %12, %11
%14 = add i32 %13, %10
%15 = sdiv i32 %14, 2
%16 = add nsw i32 %15, %8
br label %17
17: ; preds = %3, %5
%18 = phi i32 [ %16, %5 ], [ -1, %3 ]
ret i32 %18
}