void rotate(int **matrix, int matrixRowSize, int matrixColSize) {
  int i, j, r = 0, t, size = matrixRowSize - 2;
  for (i = matrixRowSize >> 1; i > 0; --i, size -= 2, ++r)
    for (j = size; j >= 0; --j) {
      t = matrix[r][r + j];
      matrix[r][r + j] = matrix[r + size - j + 1][r];
      matrix[r + size - j + 1][r] = matrix[r + size + 1][r + size - j + 1];
      matrix[r + size + 1][r + size - j + 1] = matrix[r + j][r + size + 1];
      matrix[r + j][r + size + 1] = t;
    }
}


x86 assembly (clang, -O0):
<rotate>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %esi,-0xc(%rbp)
mov    %edx,-0x10(%rbp)
movl   $0x0,-0x1c(%rbp)
mov    -0xc(%rbp),%eax
sub    $0x2,%eax
mov    %eax,-0x24(%rbp)
mov    -0xc(%rbp),%eax
sar    $0x1,%eax
mov    %eax,-0x14(%rbp)
cmpl   $0x0,-0x14(%rbp)
jle    1272 <rotate+0x172>
mov    -0x24(%rbp),%eax
mov    %eax,-0x18(%rbp)
cmpl   $0x0,-0x18(%rbp)
jl     124d <rotate+0x14d>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
mov    -0x1c(%rbp),%ecx
add    -0x18(%rbp),%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,4),%eax
mov    %eax,-0x20(%rbp)
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
sub    -0x18(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x1c(%rbp),%rcx
mov    (%rax,%rcx,4),%edx
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
mov    (%rax,%rcx,8),%rax
mov    -0x1c(%rbp),%ecx
add    -0x18(%rbp),%ecx
movslq %ecx,%rcx
mov    %edx,(%rax,%rcx,4)
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
sub    -0x18(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,4),%edx
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
sub    -0x18(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
movslq -0x1c(%rbp),%rcx
mov    %edx,(%rax,%rcx,4)
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
add    -0x18(%rbp),%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,4),%edx
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
sub    -0x18(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    %edx,(%rax,%rcx,4)
mov    -0x20(%rbp),%edx
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
add    -0x18(%rbp),%ecx
movslq %ecx,%rcx
mov    (%rax,%rcx,8),%rax
mov    -0x1c(%rbp),%ecx
add    -0x24(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    %edx,(%rax,%rcx,4)
mov    -0x18(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x18(%rbp)
jmp    1137 <rotate+0x37>
jmp    1252 <rotate+0x152>
mov    -0x14(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x14(%rbp)
mov    -0x24(%rbp),%eax
sub    $0x2,%eax
mov    %eax,-0x24(%rbp)
mov    -0x1c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x1c(%rbp)
jmp    1127 <rotate+0x27>
pop    %rbp
ret

x86 assembly (clang, -O2):
<rotate>:
push   %rbp
push   %r15
push   %r14
push   %r13
push   %r12
push   %rbx
cmp    $0x2,%esi
jl     1219 <rotate+0x119>
mov    %esi,%eax
sar    %eax
movabs $0xffffffff00000000,%rdx
ff ff ff
test   %eax,%eax
mov    $0x1,%ecx
cmovle %eax,%ecx
mov    %esi,%ebp
neg    %ecx
add    %ecx,%eax
add    $0x1,%eax
mov    %rax,-0x8(%rsp)
mov    %rbp,-0x18(%rsp)
shl    $0x20,%rbp
add    %rdx,%rbp
mov    %rbp,-0x10(%rsp)
add    $0xfffffffe,%esi
xor    %r12d,%r12d
movabs $0x100000000,%r14
mov    %rdi,%r15
jmp    1185 <rotate+0x85>
nop
add    $0x1,%r12
movabs $0xffffffff00000000,%rax
ff ff ff
add    %rax,-0x10(%rsp)
add    $0xfffffffe,%esi
add    $0x8,%r15
cmp    -0x8(%rsp),%r12
je     1219 <rotate+0x119>
mov    -0x18(%rsp),%rax
lea    -0x2(%rax),%rcx
mov    %rcx,-0x18(%rsp)
cmp    $0x2,%rax
jl     1160 <rotate+0x60>
movslq %esi,%rbx
mov    %rbx,%rcx
shl    $0x20,%rcx
mov    -0x10(%rsp),%r11
sub    %rcx,%r11
add    $0x1,%rbx
mov    -0x18(%rsp),%rax
lea    (%rax,%r12,1),%r13
mov    0x8(%rdi,%r13,8),%r8
lea    0x0(,%r12,4),%r10
add    (%rdi,%r12,8),%r10
nopl   0x0(%rax)
mov    -0x4(%r10,%rbx,4),%ebp
mov    %r11,%rax
sar    $0x1d,%rax
mov    (%rdi,%rax,1),%rax
mov    (%rax,%r12,4),%r9d
mov    %r9d,-0x4(%r10,%rbx,4)
mov    %r11,%rcx
sar    $0x1e,%rcx
mov    (%r8,%rcx,1),%edx
mov    %edx,(%rax,%r12,4)
mov    -0x8(%r15,%rbx,8),%rax
mov    0x4(%rax,%r13,4),%edx
mov    %edx,(%r8,%rcx,1)
mov    %ebp,0x4(%rax,%r13,4)
add    %r14,%r11
add    $0xffffffffffffffff,%rbx
jg     11d0 <rotate+0xd0>
jmp    1160 <rotate+0x60>
pop    %rbx
pop    %r12
pop    %r13
pop    %r14
pop    %r15
pop    %rbp
ret

LLVM IR (-O0):
define void @rotate(i32** %0, i32 %1, i32 %2) {
%4 = alloca i32**
%5 = alloca i32
%6 = alloca i32
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
%10 = alloca i32
%11 = alloca i32
store i32** %0, i32*** %4
store i32 %1, i32* %5
store i32 %2, i32* %6
store i32 0, i32* %9
%12 = load i32, i32* %5
%13 = sub nsw i32 %12, 2
store i32 %13, i32* %11
%14 = load i32, i32* %5
%15 = ashr i32 %14, 1
store i32 %15, i32* %7
br label %16
16: ; preds = %138, %3
%17 = load i32, i32* %7
%18 = icmp sgt i32 %17, 0
br i1 %18, label %19, label %145
19: ; preds = %16
%20 = load i32, i32* %11
store i32 %20, i32* %8
br label %21
21: ; preds = %134, %19
%22 = load i32, i32* %8
%23 = icmp sge i32 %22, 0
br i1 %23, label %24, label %137
24: ; preds = %21
%25 = load i32**, i32*** %4
%26 = load i32, i32* %9
%27 = sext i32 %26 to i64
%28 = getelementptr inbounds i32*, i32** %25, i64 %27
%29 = load i32*, i32** %28
%30 = load i32, i32* %9
%31 = load i32, i32* %8
%32 = add nsw i32 %30, %31
%33 = sext i32 %32 to i64
%34 = getelementptr inbounds i32, i32* %29, i64 %33
%35 = load i32, i32* %34
store i32 %35, i32* %10
%36 = load i32**, i32*** %4
%37 = load i32, i32* %9
%38 = load i32, i32* %11
%39 = add nsw i32 %37, %38
%40 = load i32, i32* %8
%41 = sub nsw i32 %39, %40
%42 = add nsw i32 %41, 1
%43 = sext i32 %42 to i64
%44 = getelementptr inbounds i32*, i32** %36, i64 %43
%45 = load i32*, i32** %44
%46 = load i32, i32* %9
%47 = sext i32 %46 to i64
%48 = getelementptr inbounds i32, i32* %45, i64 %47
%49 = load i32, i32* %48
%50 = load i32**, i32*** %4
%51 = load i32, i32* %9
%52 = sext i32 %51 to i64
%53 = getelementptr inbounds i32*, i32** %50, i64 %52
%54 = load i32*, i32** %53
%55 = load i32, i32* %9
%56 = load i32, i32* %8
%57 = add nsw i32 %55, %56
%58 = sext i32 %57 to i64
%59 = getelementptr inbounds i32, i32* %54, i64 %58
store i32 %49, i32* %59
%60 = load i32**, i32*** %4
%61 = load i32, i32* %9
%62 = load i32, i32* %11
%63 = add nsw i32 %61, %62
%64 = add nsw i32 %63, 1
%65 = sext i32 %64 to i64
%66 = getelementptr inbounds i32*, i32** %60, i64 %65
%67 = load i32*, i32** %66
%68 = load i32, i32* %9
%69 = load i32, i32* %11
%70 = add nsw i32 %68, %69
%71 = load i32, i32* %8
%72 = sub nsw i32 %70, %71
%73 = add nsw i32 %72, 1
%74 = sext i32 %73 to i64
%75 = getelementptr inbounds i32, i32* %67, i64 %74
%76 = load i32, i32* %75
%77 = load i32**, i32*** %4
%78 = load i32, i32* %9
%79 = load i32, i32* %11
%80 = add nsw i32 %78, %79
%81 = load i32, i32* %8
%82 = sub nsw i32 %80, %81
%83 = add nsw i32 %82, 1
%84 = sext i32 %83 to i64
%85 = getelementptr inbounds i32*, i32** %77, i64 %84
%86 = load i32*, i32** %85
%87 = load i32, i32* %9
%88 = sext i32 %87 to i64
%89 = getelementptr inbounds i32, i32* %86, i64 %88
store i32 %76, i32* %89
%90 = load i32**, i32*** %4
%91 = load i32, i32* %9
%92 = load i32, i32* %8
%93 = add nsw i32 %91, %92
%94 = sext i32 %93 to i64
%95 = getelementptr inbounds i32*, i32** %90, i64 %94
%96 = load i32*, i32** %95
%97 = load i32, i32* %9
%98 = load i32, i32* %11
%99 = add nsw i32 %97, %98
%100 = add nsw i32 %99, 1
%101 = sext i32 %100 to i64
%102 = getelementptr inbounds i32, i32* %96, i64 %101
%103 = load i32, i32* %102
%104 = load i32**, i32*** %4
%105 = load i32, i32* %9
%106 = load i32, i32* %11
%107 = add nsw i32 %105, %106
%108 = add nsw i32 %107, 1
%109 = sext i32 %108 to i64
%110 = getelementptr inbounds i32*, i32** %104, i64 %109
%111 = load i32*, i32** %110
%112 = load i32, i32* %9
%113 = load i32, i32* %11
%114 = add nsw i32 %112, %113
%115 = load i32, i32* %8
%116 = sub nsw i32 %114, %115
%117 = add nsw i32 %116, 1
%118 = sext i32 %117 to i64
%119 = getelementptr inbounds i32, i32* %111, i64 %118
store i32 %103, i32* %119
%120 = load i32, i32* %10
%121 = load i32**, i32*** %4
%122 = load i32, i32* %9
%123 = load i32, i32* %8
%124 = add nsw i32 %122, %123
%125 = sext i32 %124 to i64
%126 = getelementptr inbounds i32*, i32** %121, i64 %125
%127 = load i32*, i32** %126
%128 = load i32, i32* %9
%129 = load i32, i32* %11
%130 = add nsw i32 %128, %129
%131 = add nsw i32 %130, 1
%132 = sext i32 %131 to i64
%133 = getelementptr inbounds i32, i32* %127, i64 %132
store i32 %120, i32* %133
br label %134
134: ; preds = %24
%135 = load i32, i32* %8
%136 = add nsw i32 %135, -1
store i32 %136, i32* %8
br label %21
137: ; preds = %21
br label %138
138: ; preds = %137
%139 = load i32, i32* %7
%140 = add nsw i32 %139, -1
store i32 %140, i32* %7
%141 = load i32, i32* %11
%142 = sub nsw i32 %141, 2
store i32 %142, i32* %11
%143 = load i32, i32* %9
%144 = add nsw i32 %143, 1
store i32 %144, i32* %9
br label %16
145: ; preds = %16
ret void
}

LLVM IR (-O2):
define void @rotate(i32** nocapture %0, i32 %1, i32 %2) {
%4 = ashr i32 %1, 1
%5 = icmp sgt i32 %1, 1
br i1 %5, label %6, label %51
6: ; preds = %3
%7 = zext i32 %1 to i64
%8 = add nsw i32 %4, 1
%9 = call i32 @llvm.smin.i32(i32 %4, i32 1)
%10 = sub i32 %8, %9
%11 = zext i32 %10 to i64
br label %12
12: ; preds = %6, %48
%13 = phi i64 [ 0, %6 ], [ %49, %48 ]
%14 = phi i64 [ %7, %6 ], [ %17, %48 ]
%15 = phi i32 [ %1, %6 ], [ %16, %48 ]
%16 = add i32 %15, -2
%17 = add nsw i64 %14, -2
%18 = icmp sgt i64 %14, 1
br i1 %18, label %19, label %48
19: ; preds = %12
%20 = sext i32 %16 to i64
%21 = getelementptr inbounds i32*, i32** %0, i64 %13
%22 = load i32*, i32** %21
%23 = add nsw i64 %17, %13
%24 = add i64 %23, 1
%25 = add nsw i64 %23, 1
%26 = getelementptr inbounds i32*, i32** %0, i64 %25
%27 = load i32*, i32** %26
br label %28
28: ; preds = %19, %28
%29 = phi i64 [ %20, %19 ], [ %46, %28 ]
%30 = add nsw i64 %29, %13
%31 = getelementptr inbounds i32, i32* %22, i64 %30
%32 = load i32, i32* %31
%33 = sub i64 %24, %29
%34 = shl i64 %33, 32
%35 = ashr exact i64 %34, 32
%36 = getelementptr inbounds i32*, i32** %0, i64 %35
%37 = load i32*, i32** %36
%38 = getelementptr inbounds i32, i32* %37, i64 %13
%39 = load i32, i32* %38
store i32 %39, i32* %31
%40 = getelementptr inbounds i32, i32* %27, i64 %35
%41 = load i32, i32* %40
store i32 %41, i32* %38
%42 = getelementptr inbounds i32*, i32** %0, i64 %30
%43 = load i32*, i32** %42
%44 = getelementptr inbounds i32, i32* %43, i64 %25
%45 = load i32, i32* %44
store i32 %45, i32* %40
store i32 %32, i32* %44
%46 = add nsw i64 %29, -1
%47 = icmp sgt i64 %29, 0
br i1 %47, label %28, label %48
48: ; preds = %28, %12
%49 = add nuw nsw i64 %13, 1
%50 = icmp eq i64 %49, %11
br i1 %50, label %51, label %12
51: ; preds = %48, %3
ret void
}