void hardedge(unsigned char *in, unsigned char *out, int w, int h) {
  int i;
  for (i = w; i < w * (h - 1); i++) {
    if ((in[i] > in[i - 1]) || (in[i] > in[i + 1]) || (in[i] > in[i - w]) ||
        (in[i] > in[i + w])) {
      if (in[i] >= in[i + 1]) {
        if (in[i] >= in[i - w]) {
          if (in[i] >= in[i + w]) {
            out[i] = 255;
          }
        }
      }
    }
  }
}


x86 assembly (clang, -O0):
<hardedge>:
push   %rbp
mov    %rsp,%rbp
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %edx,-0x14(%rbp)
mov    %ecx,-0x18(%rbp)
mov    -0x14(%rbp),%eax
mov    %eax,-0x1c(%rbp)
mov    -0x1c(%rbp),%eax
mov    -0x14(%rbp),%ecx
mov    -0x18(%rbp),%edx
sub    $0x1,%edx
imul   %edx,%ecx
cmp    %ecx,%eax
jge    1260 <hardedge+0x160>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
sub    $0x1,%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jg     11c3 <hardedge+0xc3>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jg     11c3 <hardedge+0xc3>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
sub    -0x14(%rbp),%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jg     11c3 <hardedge+0xc3>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
add    -0x14(%rbp),%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jle    124d <hardedge+0x14d>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
add    $0x1,%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jl     1248 <hardedge+0x148>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
sub    -0x14(%rbp),%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jl     1243 <hardedge+0x143>
mov    -0x8(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movzbl (%rax,%rcx,1),%eax
mov    -0x8(%rbp),%rcx
mov    -0x1c(%rbp),%edx
add    -0x14(%rbp),%edx
movslq %edx,%rdx
movzbl (%rcx,%rdx,1),%ecx
cmp    %ecx,%eax
jl     123e <hardedge+0x13e>
mov    -0x10(%rbp),%rax
movslq -0x1c(%rbp),%rcx
movb   $0xff,(%rax,%rcx,1)
jmp    1243 <hardedge+0x143>
jmp    1248 <hardedge+0x148>
jmp    124d <hardedge+0x14d>
jmp    1252 <hardedge+0x152>
mov    -0x1c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x1c(%rbp)
jmp    1118 <hardedge+0x18>
pop    %rbp
ret

x86 assembly (clang, -O2):
<hardedge>:
add    $0xffffffff,%ecx
imul   %edx,%ecx
cmp    %edx,%ecx
jle    1175 <hardedge+0x75>
movslq %edx,%rax
movslq %ecx,%r9
lea    (%rdi,%rax,1),%r10
lea    (%rdi,%rax,2),%r8
add    %rax,%rsi
sub    %rax,%r9
xor    %edx,%edx
jmp    1139 <hardedge+0x39>
cs nopw 0x0(%rax,%rax,1)
nopl   0x0(%rax)
add    $0x1,%rdx
cmp    %rdx,%r9
je     1175 <hardedge+0x75>
movzbl (%r10,%rdx,1),%eax
movzbl 0x1(%r10,%rdx,1),%ecx
cmp    -0x1(%r10,%rdx,1),%al
ja     1160 <hardedge+0x60>
cmp    %cl,%al
ja     1160 <hardedge+0x60>
cmp    (%rdi,%rdx,1),%al
ja     1160 <hardedge+0x60>
cmp    (%r8,%rdx,1),%al
jbe    1130 <hardedge+0x30>
nopw   0x0(%rax,%rax,1)
cmp    %cl,%al
jb     1130 <hardedge+0x30>
cmp    (%rdi,%rdx,1),%al
jb     1130 <hardedge+0x30>
cmp    (%r8,%rdx,1),%al
jb     1130 <hardedge+0x30>
movb   $0xff,(%rsi,%rdx,1)
jmp    1130 <hardedge+0x30>
ret

LLVM IR (-O0):
define void @hardedge(i8* %0, i8* %1, i32 %2, i32 %3) {
%5 = alloca i8*
%6 = alloca i8*
%7 = alloca i32
%8 = alloca i32
%9 = alloca i32
store i8* %0, i8** %5
store i8* %1, i8** %6
store i32 %2, i32* %7
store i32 %3, i32* %8
%10 = load i32, i32* %7
store i32 %10, i32* %9
br label %11
11: ; preds = %136, %4
%12 = load i32, i32* %9
%13 = load i32, i32* %7
%14 = load i32, i32* %8
%15 = sub nsw i32 %14, 1
%16 = mul nsw i32 %13, %15
%17 = icmp slt i32 %12, %16
br i1 %17, label %18, label %139
18: ; preds = %11
%19 = load i8*, i8** %5
%20 = load i32, i32* %9
%21 = sext i32 %20 to i64
%22 = getelementptr inbounds i8, i8* %19, i64 %21
%23 = load i8, i8* %22
%24 = zext i8 %23 to i32
%25 = load i8*, i8** %5
%26 = load i32, i32* %9
%27 = sub nsw i32 %26, 1
%28 = sext i32 %27 to i64
%29 = getelementptr inbounds i8, i8* %25, i64 %28
%30 = load i8, i8* %29
%31 = zext i8 %30 to i32
%32 = icmp sgt i32 %24, %31
br i1 %32, label %80, label %33
33: ; preds = %18
%34 = load i8*, i8** %5
%35 = load i32, i32* %9
%36 = sext i32 %35 to i64
%37 = getelementptr inbounds i8, i8* %34, i64 %36
%38 = load i8, i8* %37
%39 = zext i8 %38 to i32
%40 = load i8*, i8** %5
%41 = load i32, i32* %9
%42 = add nsw i32 %41, 1
%43 = sext i32 %42 to i64
%44 = getelementptr inbounds i8, i8* %40, i64 %43
%45 = load i8, i8* %44
%46 = zext i8 %45 to i32
%47 = icmp sgt i32 %39, %46
br i1 %47, label %80, label %48
48: ; preds = %33
%49 = load i8*, i8** %5
%50 = load i32, i32* %9
%51 = sext i32 %50 to i64
%52 = getelementptr inbounds i8, i8* %49, i64 %51
%53 = load i8, i8* %52
%54 = zext i8 %53 to i32
%55 = load i8*, i8** %5
%56 = load i32, i32* %9
%57 = load i32, i32* %7
%58 = sub nsw i32 %56, %57
%59 = sext i32 %58 to i64
%60 = getelementptr inbounds i8, i8* %55, i64 %59
%61 = load i8, i8* %60
%62 = zext i8 %61 to i32
%63 = icmp sgt i32 %54, %62
br i1 %63, label %80, label %64
64: ; preds = %48
%65 = load i8*, i8** %5
%66 = load i32, i32* %9
%67 = sext i32 %66 to i64
%68 = getelementptr inbounds i8, i8* %65, i64 %67
%69 = load i8, i8* %68
%70 = zext i8 %69 to i32
%71 = load i8*, i8** %5
%72 = load i32, i32* %9
%73 = load i32, i32* %7
%74 = add nsw i32 %72, %73
%75 = sext i32 %74 to i64
%76 = getelementptr inbounds i8, i8* %71, i64 %75
%77 = load i8, i8* %76
%78 = zext i8 %77 to i32
%79 = icmp sgt i32 %70, %78
br i1 %79, label %80, label %135
80: ; preds = %64, %48, %33, %18
%81 = load i8*, i8** %5
%82 = load i32, i32* %9
%83 = sext i32 %82 to i64
%84 = getelementptr inbounds i8, i8* %81, i64 %83
%85 = load i8, i8* %84
%86 = zext i8 %85 to i32
%87 = load i8*, i8** %5
%88 = load i32, i32* %9
%89 = add nsw i32 %88, 1
%90 = sext i32 %89 to i64
%91 = getelementptr inbounds i8, i8* %87, i64 %90
%92 = load i8, i8* %91
%93 = zext i8 %92 to i32
%94 = icmp sge i32 %86, %93
br i1 %94, label %95, label %134
95: ; preds = %80
%96 = load i8*, i8** %5
%97 = load i32, i32* %9
%98 = sext i32 %97 to i64
%99 = getelementptr inbounds i8, i8* %96, i64 %98
%100 = load i8, i8* %99
%101 = zext i8 %100 to i32
%102 = load i8*, i8** %5
%103 = load i32, i32* %9
%104 = load i32, i32* %7
%105 = sub nsw i32 %103, %104
%106 = sext i32 %105 to i64
%107 = getelementptr inbounds i8, i8* %102, i64 %106
%108 = load i8, i8* %107
%109 = zext i8 %108 to i32
%110 = icmp sge i32 %101, %109
br i1 %110, label %111, label %133
111: ; preds = %95
%112 = load i8*, i8** %5
%113 = load i32, i32* %9
%114 = sext i32 %113 to i64
%115 = getelementptr inbounds i8, i8* %112, i64 %114
%116 = load i8, i8* %115
%117 = zext i8 %116 to i32
%118 = load i8*, i8** %5
%119 = load i32, i32* %9
%120 = load i32, i32* %7
%121 = add nsw i32 %119, %120
%122 = sext i32 %121 to i64
%123 = getelementptr inbounds i8, i8* %118, i64 %122
%124 = load i8, i8* %123
%125 = zext i8 %124 to i32
%126 = icmp sge i32 %117, %125
br i1 %126, label %127, label %132
127: ; preds = %111
%128 = load i8*, i8** %6
%129 = load i32, i32* %9
%130 = sext i32 %129 to i64
%131 = getelementptr inbounds i8, i8* %128, i64 %130
store i8 -1, i8* %131
br label %132
132: ; preds = %127, %111
br label %133
133: ; preds = %132, %95
br label %134
134: ; preds = %133, %80
br label %135
135: ; preds = %134, %64
br label %136
136: ; preds = %135
%137 = load i32, i32* %9
%138 = add nsw i32 %137, 1
store i32 %138, i32* %9
br label %11
139: ; preds = %11
ret void
}

LLVM IR (-O2):
define void @hardedge(i8* nocapture %0, i8* nocapture writeonly %1, i32 %2, i32 %3) {
%5 = add nsw i32 %3, -1
%6 = mul i32 %5, %2
%7 = icmp sgt i32 %6, %2
br i1 %7, label %8, label %53
8: ; preds = %4
%9 = sext i32 %2 to i64
%10 = sext i32 %6 to i64
br label %11
11: ; preds = %8, %50
%12 = phi i64 [ %9, %8 ], [ %51, %50 ]
%13 = getelementptr inbounds i8, i8* %0, i64 %12
%14 = load i8, i8* %13
%15 = add nsw i64 %12, -1
%16 = getelementptr inbounds i8, i8* %0, i64 %15
%17 = load i8, i8* %16
%18 = icmp ugt i8 %14, %17
%19 = add nsw i64 %12, 1
%20 = getelementptr inbounds i8, i8* %0, i64 %19
%21 = load i8, i8* %20
%22 = icmp ugt i8 %14, %21
%23 = select i1 %18, i1 true, i1 %22
br i1 %23, label %36, label %24
24: ; preds = %11
%25 = sub nsw i64 %12, %9
%26 = getelementptr inbounds i8, i8* %0, i64 %25
%27 = load i8, i8* %26
%28 = icmp ugt i8 %14, %27
br i1 %28, label %36, label %29
29: ; preds = %24
%30 = add nsw i64 %12, %9
%31 = getelementptr inbounds i8, i8* %0, i64 %30
%32 = load i8, i8* %31
%33 = icmp ule i8 %14, %32
%34 = icmp ult i8 %14, %21
%35 = select i1 %33, i1 true, i1 %34
br i1 %35, label %50, label %38
36: ; preds = %11, %24
%37 = icmp ult i8 %14, %21
br i1 %37, label %50, label %38
38: ; preds = %29, %36
%39 = sub nsw i64 %12, %9
%40 = getelementptr inbounds i8, i8* %0, i64 %39
%41 = load i8, i8* %40
%42 = icmp ult i8 %14, %41
br i1 %42, label %50, label %43
43: ; preds = %38
%44 = add nsw i64 %12, %9
%45 = getelementptr inbounds i8, i8* %0, i64 %44
%46 = load i8, i8* %45
%47 = icmp ult i8 %14, %46
br i1 %47, label %50, label %48
48: ; preds = %43
%49 = getelementptr inbounds i8, i8* %1, i64 %12
store i8 -1, i8* %49
br label %50
50: ; preds = %29, %38, %48, %43, %36
%51 = add nsw i64 %12, 1
%52 = icmp eq i64 %51, %10
br i1 %52, label %53, label %11
53: ; preds = %50, %4
ret void
}