void hill3_encipher(char *ctext, char *ptext, int *key, int L) {
  int i;
  for (i = 0; i < L; i += 3) {
    ctext[i] =
        (ptext[i] * key[0] + ptext[i + 1] * key[1] + ptext[i + 2] * key[2]) %
        26;
    ctext[i + 1] =
        (ptext[i] * key[3] + ptext[i + 1] * key[4] + ptext[i + 2] * key[5]) %
        26;
    ctext[i + 2] =
        (ptext[i] * key[6] + ptext[i + 1] * key[7] + ptext[i + 2] * key[8]) %
        26;
  }
  ctext[L] = '\0';
}


x86 assembly (clang, -O0):
<hill3_encipher>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %ecx,-0x1c(%rbp)
movl   $0x0,-0x20(%rbp)
mov    -0x20(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    1254 <hill3_encipher+0x154>
mov    -0x10(%rbp),%rax
movslq -0x20(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
mov    -0x18(%rbp),%rcx
imul   (%rcx),%eax
mov    -0x10(%rbp),%rcx
mov    -0x20(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movsbl (%rcx,%rdx,1),%ecx
mov    -0x18(%rbp),%rdx
imul   0x4(%rdx),%ecx
add    %ecx,%eax
mov    -0x10(%rbp),%rcx
mov    -0x20(%rbp),%edx
add    $0x2,%edx
movslq %edx,%rdx
movsbl (%rcx,%rdx,1),%ecx
mov    -0x18(%rbp),%rdx
imul   0x8(%rdx),%ecx
add    %ecx,%eax
mov    $0x1a,%ecx
cltd
idiv   %ecx
mov    -0x8(%rbp),%rax
movslq -0x20(%rbp),%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x10(%rbp),%rax
movslq -0x20(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
mov    -0x18(%rbp),%rcx
imul   0xc(%rcx),%eax
mov    -0x10(%rbp),%rcx
mov    -0x20(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movsbl (%rcx,%rdx,1),%ecx
mov    -0x18(%rbp),%rdx
imul   0x10(%rdx),%ecx
add    %ecx,%eax
mov    -0x10(%rbp),%rcx
mov    -0x20(%rbp),%edx
add    $0x2,%edx
movslq %edx,%rdx
movsbl (%rcx,%rdx,1),%ecx
mov    -0x18(%rbp),%rdx
imul   0x14(%rdx),%ecx
add    %ecx,%eax
mov    $0x1a,%ecx
cltd
idiv   %ecx
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
add    $0x1,%ecx
movslq %ecx,%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x10(%rbp),%rax
movslq -0x20(%rbp),%rcx
movsbl (%rax,%rcx,1),%eax
mov    -0x18(%rbp),%rcx
imul   0x18(%rcx),%eax
mov    -0x10(%rbp),%rcx
mov    -0x20(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movsbl (%rcx,%rdx,1),%ecx
mov    -0x18(%rbp),%rdx
imul   0x1c(%rdx),%ecx
add    %ecx,%eax
mov    -0x10(%rbp),%rcx
mov    -0x20(%rbp),%edx
add    $0x2,%edx
movslq %edx,%rdx
movsbl (%rcx,%rdx,1),%ecx
mov    -0x18(%rbp),%rdx
imul   0x20(%rdx),%ecx
add    %ecx,%eax
mov    $0x1a,%ecx
cltd
idiv   %ecx
mov    -0x8(%rbp),%rax
mov    -0x20(%rbp),%ecx
add    $0x2,%ecx
movslq %ecx,%rcx
mov    %dl,(%rax,%rcx,1)
mov    -0x20(%rbp),%eax
add    $0x3,%eax
mov    %eax,-0x20(%rbp)
jmp    111a <hill3_encipher+0x1a>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movb   $0x0,(%rax,%rcx,1)
pop    %rbp
ret

x86 assembly (clang, -O2):
<hill3_encipher>:
test   %ecx,%ecx
jle    1204 <hill3_encipher+0x104>
mov    %ecx,%r8d
xor    %r10d,%r10d
xchg   %ax,%ax
movsbl (%rsi,%r10,1),%r9d
imul   (%rdx),%r9d
movsbl 0x1(%rsi,%r10,1),%eax
imul   0x4(%rdx),%eax
movsbl 0x2(%rsi,%r10,1),%ecx
imul   0x8(%rdx),%ecx
add    %r9d,%eax
add    %eax,%ecx
movslq %ecx,%r9
imul   $0x4ec4ec4f,%r9,%rcx
mov    %rcx,%rax
shr    $0x3f,%rax
shr    $0x20,%rcx
sar    $0x3,%ecx
add    %eax,%ecx
lea    (%rcx,%rcx,4),%eax
lea    (%rax,%rax,4),%eax
add    %ecx,%eax
sub    %eax,%r9d
mov    %r9b,(%rdi,%r10,1)
movsbl (%rsi,%r10,1),%eax
imul   0xc(%rdx),%eax
movsbl 0x1(%rsi,%r10,1),%ecx
imul   0x10(%rdx),%ecx
add    %eax,%ecx
movsbl 0x2(%rsi,%r10,1),%eax
imul   0x14(%rdx),%eax
add    %ecx,%eax
movslq %eax,%r9
imul   $0x4ec4ec4f,%r9,%rcx
mov    %rcx,%rax
shr    $0x3f,%rax
shr    $0x20,%rcx
sar    $0x3,%ecx
add    %eax,%ecx
lea    (%rcx,%rcx,4),%eax
lea    (%rax,%rax,4),%eax
add    %ecx,%eax
sub    %eax,%r9d
mov    %r9b,0x1(%rdi,%r10,1)
movsbl (%rsi,%r10,1),%eax
imul   0x18(%rdx),%eax
movsbl 0x1(%rsi,%r10,1),%ecx
imul   0x1c(%rdx),%ecx
add    %eax,%ecx
movsbl 0x2(%rsi,%r10,1),%eax
imul   0x20(%rdx),%eax
add    %ecx,%eax
movslq %eax,%r9
imul   $0x4ec4ec4f,%r9,%rcx
mov    %rcx,%rax
shr    $0x3f,%rax
shr    $0x20,%rcx
sar    $0x3,%ecx
add    %eax,%ecx
lea    (%rcx,%rcx,4),%eax
lea    (%rax,%rax,4),%eax
add    %ecx,%eax
sub    %eax,%r9d
mov    %r9b,0x2(%rdi,%r10,1)
add    $0x3,%r10
cmp    %r8,%r10
jb     1110 <hill3_encipher+0x10>
movb   $0x0,(%rdi,%r8,1)
ret
movslq %ecx,%r8
movb   $0x0,(%rdi,%r8,1)
ret

LLVM IR (-O0):
define void @hill3_encipher(i8* %0, i8* %1, i32* %2, i32 %3) {
%5 = alloca i8*
%6 = alloca i8*
%7 = alloca i32*
%8 = alloca i32
%9 = alloca i32
store i8* %0, i8** %5
store i8* %1, i8** %6
store i32* %2, i32** %7
store i32 %3, i32* %8
store i32 0, i32* %9
br label %10
10: ; preds = %137, %4
%11 = load i32, i32* %9
%12 = load i32, i32* %8
%13 = icmp slt i32 %11, %12
br i1 %13, label %14, label %140
14: ; preds = %10
%15 = load i8*, i8** %6
%16 = load i32, i32* %9
%17 = sext i32 %16 to i64
%18 = getelementptr inbounds i8, i8* %15, i64 %17
%19 = load i8, i8* %18
%20 = sext i8 %19 to i32
%21 = load i32*, i32** %7
%22 = getelementptr inbounds i32, i32* %21, i64 0
%23 = load i32, i32* %22
%24 = mul nsw i32 %20, %23
%25 = load i8*, i8** %6
%26 = load i32, i32* %9
%27 = add nsw i32 %26, 1
%28 = sext i32 %27 to i64
%29 = getelementptr inbounds i8, i8* %25, i64 %28
%30 = load i8, i8* %29
%31 = sext i8 %30 to i32
%32 = load i32*, i32** %7
%33 = getelementptr inbounds i32, i32* %32, i64 1
%34 = load i32, i32* %33
%35 = mul nsw i32 %31, %34
%36 = add nsw i32 %24, %35
%37 = load i8*, i8** %6
%38 = load i32, i32* %9
%39 = add nsw i32 %38, 2
%40 = sext i32 %39 to i64
%41 = getelementptr inbounds i8, i8* %37, i64 %40
%42 = load i8, i8* %41
%43 = sext i8 %42 to i32
%44 = load i32*, i32** %7
%45 = getelementptr inbounds i32, i32* %44, i64 2
%46 = load i32, i32* %45
%47 = mul nsw i32 %43, %46
%48 = add nsw i32 %36, %47
%49 = srem i32 %48, 26
%50 = trunc i32 %49 to i8
%51 = load i8*, i8** %5
%52 = load i32, i32* %9
%53 = sext i32 %52 to i64
%54 = getelementptr inbounds i8, i8* %51, i64 %53
store i8 %50, i8* %54
%55 = load i8*, i8** %6
%56 = load i32, i32* %9
%57 = sext i32 %56 to i64
%58 = getelementptr inbounds i8, i8* %55, i64 %57
%59 = load i8, i8* %58
%60 = sext i8 %59 to i32
%61 = load i32*, i32** %7
%62 = getelementptr inbounds i32, i32* %61, i64 3
%63 = load i32, i32* %62
%64 = mul nsw i32 %60, %63
%65 = load i8*, i8** %6
%66 = load i32, i32* %9
%67 = add nsw i32 %66, 1
%68 = sext i32 %67 to i64
%69 = getelementptr inbounds i8, i8* %65, i64 %68
%70 = load i8, i8* %69
%71 = sext i8 %70 to i32
%72 = load i32*, i32** %7
%73 = getelementptr inbounds i32, i32* %72, i64 4
%74 = load i32, i32* %73
%75 = mul nsw i32 %71, %74
%76 = add nsw i32 %64, %75
%77 = load i8*, i8** %6
%78 = load i32, i32* %9
%79 = add nsw i32 %78, 2
%80 = sext i32 %79 to i64
%81 = getelementptr inbounds i8, i8* %77, i64 %80
%82 = load i8, i8* %81
%83 = sext i8 %82 to i32
%84 = load i32*, i32** %7
%85 = getelementptr inbounds i32, i32* %84, i64 5
%86 = load i32, i32* %85
%87 = mul nsw i32 %83, %86
%88 = add nsw i32 %76, %87
%89 = srem i32 %88, 26
%90 = trunc i32 %89 to i8
%91 = load i8*, i8** %5
%92 = load i32, i32* %9
%93 = add nsw i32 %92, 1
%94 = sext i32 %93 to i64
%95 = getelementptr inbounds i8, i8* %91, i64 %94
store i8 %90, i8* %95
%96 = load i8*, i8** %6
%97 = load i32, i32* %9
%98 = sext i32 %97 to i64
%99 = getelementptr inbounds i8, i8* %96, i64 %98
%100 = load i8, i8* %99
%101 = sext i8 %100 to i32
%102 = load i32*, i32** %7
%103 = getelementptr inbounds i32, i32* %102, i64 6
%104 = load i32, i32* %103
%105 = mul nsw i32 %101, %104
%106 = load i8*, i8** %6
%107 = load i32, i32* %9
%108 = add nsw i32 %107, 1
%109 = sext i32 %108 to i64
%110 = getelementptr inbounds i8, i8* %106, i64 %109
%111 = load i8, i8* %110
%112 = sext i8 %111 to i32
%113 = load i32*, i32** %7
%114 = getelementptr inbounds i32, i32* %113, i64 7
%115 = load i32, i32* %114
%116 = mul nsw i32 %112, %115
%117 = add nsw i32 %105, %116
%118 = load i8*, i8** %6
%119 = load i32, i32* %9
%120 = add nsw i32 %119, 2
%121 = sext i32 %120 to i64
%122 = getelementptr inbounds i8, i8* %118, i64 %121
%123 = load i8, i8* %122
%124 = sext i8 %123 to i32
%125 = load i32*, i32** %7
%126 = getelementptr inbounds i32, i32* %125, i64 8
%127 = load i32, i32* %126
%128 = mul nsw i32 %124, %127
%129 = add nsw i32 %117, %128
%130 = srem i32 %129, 26
%131 = trunc i32 %130 to i8
%132 = load i8*, i8** %5
%133 = load i32, i32* %9
%134 = add nsw i32 %133, 2
%135 = sext i32 %134 to i64
%136 = getelementptr inbounds i8, i8* %132, i64 %135
store i8 %131, i8* %136
br label %137
137: ; preds = %14
%138 = load i32, i32* %9
%139 = add nsw i32 %138, 3
store i32 %139, i32* %9
br label %10
140: ; preds = %10
%141 = load i8*, i8** %5
%142 = load i32, i32* %8
%143 = sext i32 %142 to i64
%144 = getelementptr inbounds i8, i8* %141, i64 %143
store i8 0, i8* %144
ret void
}

LLVM IR (-O2):
define void @hill3_encipher(i8* nocapture writeonly %0, i8* nocapture %1, i32* nocapture %2, i32 %3) {
%5 = icmp sgt i32 %3, 0
br i1 %5, label %8, label %6
6: ; preds = %4
%7 = sext i32 %3 to i64
br label %78
8: ; preds = %4
%9 = getelementptr inbounds i32, i32* %2, i64 1
%10 = getelementptr inbounds i32, i32* %2, i64 2
%11 = getelementptr inbounds i32, i32* %2, i64 3
%12 = getelementptr inbounds i32, i32* %2, i64 4
%13 = getelementptr inbounds i32, i32* %2, i64 5
%14 = getelementptr inbounds i32, i32* %2, i64 6
%15 = getelementptr inbounds i32, i32* %2, i64 7
%16 = getelementptr inbounds i32, i32* %2, i64 8
%17 = zext i32 %3 to i64
br label %18
18: ; preds = %8, %18
%19 = phi i64 [ 0, %8 ], [ %76, %18 ]
%20 = getelementptr inbounds i8, i8* %1, i64 %19
%21 = load i8, i8* %20
%22 = sext i8 %21 to i32
%23 = load i32, i32* %2
%24 = mul nsw i32 %23, %22
%25 = add nuw nsw i64 %19, 1
%26 = getelementptr inbounds i8, i8* %1, i64 %25
%27 = load i8, i8* %26
%28 = sext i8 %27 to i32
%29 = load i32, i32* %9
%30 = mul nsw i32 %29, %28
%31 = add nsw i32 %30, %24
%32 = add nuw nsw i64 %19, 2
%33 = getelementptr inbounds i8, i8* %1, i64 %32
%34 = load i8, i8* %33
%35 = sext i8 %34 to i32
%36 = load i32, i32* %10
%37 = mul nsw i32 %36, %35
%38 = add nsw i32 %31, %37
%39 = srem i32 %38, 26
%40 = trunc i32 %39 to i8
%41 = getelementptr inbounds i8, i8* %0, i64 %19
store i8 %40, i8* %41
%42 = load i8, i8* %20
%43 = sext i8 %42 to i32
%44 = load i32, i32* %11
%45 = mul nsw i32 %44, %43
%46 = load i8, i8* %26
%47 = sext i8 %46 to i32
%48 = load i32, i32* %12
%49 = mul nsw i32 %48, %47
%50 = add nsw i32 %49, %45
%51 = load i8, i8* %33
%52 = sext i8 %51 to i32
%53 = load i32, i32* %13
%54 = mul nsw i32 %53, %52
%55 = add nsw i32 %50, %54
%56 = srem i32 %55, 26
%57 = trunc i32 %56 to i8
%58 = getelementptr inbounds i8, i8* %0, i64 %25
store i8 %57, i8* %58
%59 = load i8, i8* %20
%60 = sext i8 %59 to i32
%61 = load i32, i32* %14
%62 = mul nsw i32 %61, %60
%63 = load i8, i8* %26
%64 = sext i8 %63 to i32
%65 = load i32, i32* %15
%66 = mul nsw i32 %65, %64
%67 = add nsw i32 %66, %62
%68 = load i8, i8* %33
%69 = sext i8 %68 to i32
%70 = load i32, i32* %16
%71 = mul nsw i32 %70, %69
%72 = add nsw i32 %67, %71
%73 = srem i32 %72, 26
%74 = trunc i32 %73 to i8
%75 = getelementptr inbounds i8, i8* %0, i64 %32
store i8 %74, i8* %75
%76 = add nuw nsw i64 %19, 3
%77 = icmp ult i64 %76, %17
br i1 %77, label %18, label %78
78: ; preds = %18, %6
%79 = phi i64 [ %7, %6 ], [ %17, %18 ]
%80 = getelementptr inbounds i8, i8* %0, i64 %79
store i8 0, i8* %80
ret void
}