void lin_solve_triangular_equ(double *tri_mtx, double *Z, double *B, int dim_i,
                              int dim_j, char lower) {
  int i, j;
  double sub_sum;
  if (lower) {
    for (i = 0; i < dim_i; i++) {
      sub_sum = 0.0;
      for (j = 0; j < i; j++) {
        sub_sum -= Z[j] * tri_mtx[dim_i * i + j];
      }
      Z[i] = (B[i] + sub_sum) / tri_mtx[i * dim_i + i];
    }
  } else {
    for (i = (dim_i - 1); i >= 0; i--) {
      sub_sum = 0.0;
      for (j = (dim_i - 1); j > i; j--) {
        sub_sum -= Z[j] * tri_mtx[i * dim_i + j];
      }
      Z[i] = (B[i] + sub_sum) / tri_mtx[i * dim_i + i];
    }
  }
}


x86 assembly (clang, -O0):
<lin_solve_triangular_equ>:
push   %rbp
mov    %rsp,%rbp
mov    %r9b,%al
mov    %rdi,-0x8(%rbp)
mov    %rsi,-0x10(%rbp)
mov    %rdx,-0x18(%rbp)
mov    %ecx,-0x1c(%rbp)
mov    %r8d,-0x20(%rbp)
mov    %al,-0x21(%rbp)
cmpb   $0x0,-0x21(%rbp)
je     11f7 <lin_solve_triangular_equ+0xf7>
movl   $0x0,-0x28(%rbp)
mov    -0x28(%rbp),%eax
cmp    -0x1c(%rbp),%eax
jge    11f2 <lin_solve_triangular_equ+0xf2>
xorps  %xmm0,%xmm0
movsd  %xmm0,-0x38(%rbp)
movl   $0x0,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x28(%rbp),%eax
jge    11af <lin_solve_triangular_equ+0xaf>
mov    -0x10(%rbp),%rax
movslq -0x2c(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
mov    -0x8(%rbp),%rax
mov    -0x1c(%rbp),%ecx
imul   -0x28(%rbp),%ecx
add    -0x2c(%rbp),%ecx
movslq %ecx,%rcx
movsd  (%rax,%rcx,8),%xmm2
movsd  -0x38(%rbp),%xmm1
movq   %xmm0,%rax
movabs $0x8000000000000000,%rcx
xor    %rcx,%rax
movq   %rax,%xmm0
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x38(%rbp)
mov    -0x2c(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x2c(%rbp)
jmp    1149 <lin_solve_triangular_equ+0x49>
mov    -0x18(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
addsd  -0x38(%rbp),%xmm0
mov    -0x8(%rbp),%rax
mov    -0x28(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
add    -0x28(%rbp),%ecx
movslq %ecx,%rcx
divsd  (%rax,%rcx,8),%xmm0
mov    -0x10(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  %xmm0,(%rax,%rcx,8)
mov    -0x28(%rbp),%eax
add    $0x1,%eax
mov    %eax,-0x28(%rbp)
jmp    112e <lin_solve_triangular_equ+0x2e>
jmp    12c9 <lin_solve_triangular_equ+0x1c9>
mov    -0x1c(%rbp),%eax
sub    $0x1,%eax
mov    %eax,-0x28(%rbp)
cmpl   $0x0,-0x28(%rbp)
jl     12c4 <lin_solve_triangular_equ+0x1c4>
xorps  %xmm0,%xmm0
movsd  %xmm0,-0x38(%rbp)
mov    -0x1c(%rbp),%eax
sub    $0x1,%eax
mov    %eax,-0x2c(%rbp)
mov    -0x2c(%rbp),%eax
cmp    -0x28(%rbp),%eax
jle    1281 <lin_solve_triangular_equ+0x181>
mov    -0x10(%rbp),%rax
movslq -0x2c(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
mov    -0x8(%rbp),%rax
mov    -0x28(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
add    -0x2c(%rbp),%ecx
movslq %ecx,%rcx
movsd  (%rax,%rcx,8),%xmm2
movsd  -0x38(%rbp),%xmm1
movq   %xmm0,%rax
movabs $0x8000000000000000,%rcx
xor    %rcx,%rax
movq   %rax,%xmm0
mulsd  %xmm2,%xmm0
addsd  %xmm1,%xmm0
movsd  %xmm0,-0x38(%rbp)
mov    -0x2c(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x2c(%rbp)
jmp    121b <lin_solve_triangular_equ+0x11b>
mov    -0x18(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  (%rax,%rcx,8),%xmm0
addsd  -0x38(%rbp),%xmm0
mov    -0x8(%rbp),%rax
mov    -0x28(%rbp),%ecx
imul   -0x1c(%rbp),%ecx
add    -0x28(%rbp),%ecx
movslq %ecx,%rcx
divsd  (%rax,%rcx,8),%xmm0
mov    -0x10(%rbp),%rax
movslq -0x28(%rbp),%rcx
movsd  %xmm0,(%rax,%rcx,8)
mov    -0x28(%rbp),%eax
add    $0xffffffff,%eax
mov    %eax,-0x28(%rbp)
jmp    1200 <lin_solve_triangular_equ+0x100>
jmp    12c9 <lin_solve_triangular_equ+0x1c9>
pop    %rbp
ret

x86 assembly (clang, -O2):
<lin_solve_triangular_equ>:
push   %r14
push   %rbx
test   %r9b,%r9b
je     11e0 <lin_solve_triangular_equ+0xe0>
test   %ecx,%ecx
jle    126c <lin_solve_triangular_equ+0x16c>
mov    %ecx,%r8d
lea    0x8(%rdi),%r11
lea    0x0(,%r8,8),%r9
xor    %r10d,%r10d
jmp    1160 <lin_solve_triangular_equ+0x60>
nopl   0x0(%rax,%rax,1)
xorpd  %xmm0,%xmm0
addsd  (%rdx,%r10,8),%xmm0
mov    %r10d,%eax
imul   %ecx,%eax
cltq
add    %r10,%rax
divsd  (%rdi,%rax,8),%xmm0
movsd  %xmm0,(%rsi,%r10,8)
add    $0x1,%r10
add    %r9,%r11
cmp    %r8,%r10
je     126c <lin_solve_triangular_equ+0x16c>
test   %r10,%r10
je     1130 <lin_solve_triangular_equ+0x30>
cmp    $0x1,%r10
jne    1180 <lin_solve_triangular_equ+0x80>
xorpd  %xmm0,%xmm0
xor    %eax,%eax
jmp    11b9 <lin_solve_triangular_equ+0xb9>
cs nopw 0x0(%rax,%rax,1)
nopl   (%rax)
mov    %r10,%rbx
and    $0xfffffffffffffffe,%rbx
xorpd  %xmm0,%xmm0
xor    %eax,%eax
nopl   (%rax)
movsd  (%rsi,%rax,8),%xmm1
movsd  0x8(%rsi,%rax,8),%xmm2
mulsd  -0x8(%r11,%rax,8),%xmm1
mulsd  (%r11,%rax,8),%xmm2
subsd  %xmm1,%xmm0
subsd  %xmm2,%xmm0
add    $0x2,%rax
cmp    %rax,%rbx
jne    1190 <lin_solve_triangular_equ+0x90>
test   $0x1,%r10b
je     1134 <lin_solve_triangular_equ+0x34>
mov    %r10,%rbx
imul   %r8,%rbx
movsd  (%rsi,%rax,8),%xmm1
add    %rax,%rbx
mulsd  (%rdi,%rbx,8),%xmm1
subsd  %xmm1,%xmm0
jmp    1134 <lin_solve_triangular_equ+0x34>
test   %ecx,%ecx
jle    126c <lin_solve_triangular_equ+0x16c>
lea    -0x1(%rcx),%r8d
mov    %ecx,%r10d
lea    -0x1(%r10),%r9
mov    %r10,%rax
imul   %r10,%rax
lea    (%rdi,%rax,8),%r11
add    $0xfffffffffffffff8,%r11
shl    $0x3,%r10
neg    %r10
mov    %r9,%r14
jmp    123b <lin_solve_triangular_equ+0x13b>
xchg   %ax,%ax
addsd  (%rdx,%r14,8),%xmm0
mov    %r14d,%eax
imul   %ecx,%eax
cltq
add    %r14,%rax
divsd  (%rdi,%rax,8),%xmm0
movsd  %xmm0,(%rsi,%r14,8)
lea    -0x1(%r14),%rax
add    %r10,%r11
test   %r14,%r14
mov    %rax,%r14
jle    126c <lin_solve_triangular_equ+0x16c>
xorpd  %xmm0,%xmm0
cmp    %r8,%r14
jge    1210 <lin_solve_triangular_equ+0x110>
xorpd  %xmm0,%xmm0
mov    %r11,%rbx
mov    %r9,%rax
xchg   %ax,%ax
movsd  (%rsi,%rax,8),%xmm1
mulsd  (%rbx),%xmm1
subsd  %xmm1,%xmm0
add    $0xffffffffffffffff,%rax
add    $0xfffffffffffffff8,%rbx
cmp    %r14,%rax
jg     1250 <lin_solve_triangular_equ+0x150>
jmp    1210 <lin_solve_triangular_equ+0x110>
pop    %rbx
pop    %r14
ret

LLVM IR (-O0):
define void @lin_solve_triangular_equ(double* %0, double* %1, double* %2, i32 %3, i32 %4, i8 signext %5) {
%7 = alloca double*
%8 = alloca double*
%9 = alloca double*
%10 = alloca i32
%11 = alloca i32
%12 = alloca i8
%13 = alloca i32
%14 = alloca i32
%15 = alloca double
store double* %0, double** %7
store double* %1, double** %8
store double* %2, double** %9
store i32 %3, i32* %10
store i32 %4, i32* %11
store i8 %5, i8* %12
%16 = load i8, i8* %12
%17 = icmp ne i8 %16, 0
br i1 %17, label %18, label %75
18: ; preds = %6
store i32 0, i32* %13
br label %19
19: ; preds = %71, %18
%20 = load i32, i32* %13
%21 = load i32, i32* %10
%22 = icmp slt i32 %20, %21
br i1 %22, label %23, label %74
23: ; preds = %19
store double 0.000000e+00, double* %15
store i32 0, i32* %14
br label %24
24: ; preds = %46, %23
%25 = load i32, i32* %14
%26 = load i32, i32* %13
%27 = icmp slt i32 %25, %26
br i1 %27, label %28, label %49
28: ; preds = %24
%29 = load double*, double** %8
%30 = load i32, i32* %14
%31 = sext i32 %30 to i64
%32 = getelementptr inbounds double, double* %29, i64 %31
%33 = load double, double* %32
%34 = load double*, double** %7
%35 = load i32, i32* %10
%36 = load i32, i32* %13
%37 = mul nsw i32 %35, %36
%38 = load i32, i32* %14
%39 = add nsw i32 %37, %38
%40 = sext i32 %39 to i64
%41 = getelementptr inbounds double, double* %34, i64 %40
%42 = load double, double* %41
%43 = load double, double* %15
%44 = fneg double %33
%45 = call double @llvm.fmuladd.f64(double %44, double %42, double %43)
store double %45, double* %15
br label %46
46: ; preds = %28
%47 = load i32, i32* %14
%48 = add nsw i32 %47, 1
store i32 %48, i32* %14
br label %24
49: ; preds = %24
%50 = load double*, double** %9
%51 = load i32, i32* %13
%52 = sext i32 %51 to i64
%53 = getelementptr inbounds double, double* %50, i64 %52
%54 = load double, double* %53
%55 = load double, double* %15
%56 = fadd double %54, %55
%57 = load double*, double** %7
%58 = load i32, i32* %13
%59 = load i32, i32* %10
%60 = mul nsw i32 %58, %59
%61 = load i32, i32* %13
%62 = add nsw i32 %60, %61
%63 = sext i32 %62 to i64
%64 = getelementptr inbounds double, double* %57, i64 %63
%65 = load double, double* %64
%66 = fdiv double %56, %65
%67 = load double*, double** %8
%68 = load i32, i32* %13
%69 = sext i32 %68 to i64
%70 = getelementptr inbounds double, double* %67, i64 %69
store double %66, double* %70
br label %71
71: ; preds = %49
%72 = load i32, i32* %13
%73 = add nsw i32 %72, 1
store i32 %73, i32* %13
br label %19
74: ; preds = %19
br label %135
75: ; preds = %6
%76 = load i32, i32* %10
%77 = sub nsw i32 %76, 1
store i32 %77, i32* %13
br label %78
78: ; preds = %131, %75
%79 = load i32, i32* %13
%80 = icmp sge i32 %79, 0
br i1 %80, label %81, label %134
81: ; preds = %78
store double 0.000000e+00, double* %15
%82 = load i32, i32* %10
%83 = sub nsw i32 %82, 1
store i32 %83, i32* %14
br label %84
84: ; preds = %106, %81
%85 = load i32, i32* %14
%86 = load i32, i32* %13
%87 = icmp sgt i32 %85, %86
br i1 %87, label %88, label %109
88: ; preds = %84
%89 = load double*, double** %8
%90 = load i32, i32* %14
%91 = sext i32 %90 to i64
%92 = getelementptr inbounds double, double* %89, i64 %91
%93 = load double, double* %92
%94 = load double*, double** %7
%95 = load i32, i32* %13
%96 = load i32, i32* %10
%97 = mul nsw i32 %95, %96
%98 = load i32, i32* %14
%99 = add nsw i32 %97, %98
%100 = sext i32 %99 to i64
%101 = getelementptr inbounds double, double* %94, i64 %100
%102 = load double, double* %101
%103 = load double, double* %15
%104 = fneg double %93
%105 = call double @llvm.fmuladd.f64(double %104, double %102, double %103)
store double %105, double* %15
br label %106
106: ; preds = %88
%107 = load i32, i32* %14
%108 = add nsw i32 %107, -1
store i32 %108, i32* %14
br label %84
109: ; preds = %84
%110 = load double*, double** %9
%111 = load i32, i32* %13
%112 = sext i32 %111 to i64
%113 = getelementptr inbounds double, double* %110, i64 %112
%114 = load double, double* %113
%115 = load double, double* %15
%116 = fadd double %114, %115
%117 = load double*, double** %7
%118 = load i32, i32* %13
%119 = load i32, i32* %10
%120 = mul nsw i32 %118, %119
%121 = load i32, i32* %13
%122 = add nsw i32 %120, %121
%123 = sext i32 %122 to i64
%124 = getelementptr inbounds double, double* %117, i64 %123
%125 = load double, double* %124
%126 = fdiv double %116, %125
%127 = load double*, double** %8
%128 = load i32, i32* %13
%129 = sext i32 %128 to i64
%130 = getelementptr inbounds double, double* %127, i64 %129
store double %126, double* %130
br label %131
131: ; preds = %109
%132 = load i32, i32* %13
%133 = add nsw i32 %132, -1
store i32 %133, i32* %13
br label %78
134: ; preds = %78
br label %135
135: ; preds = %134, %74
ret void
}

LLVM IR (-O2):
define void @lin_solve_triangular_equ(double* nocapture %0, double* nocapture %1, double* nocapture %2, i32 %3, i32 %4, i8 signext %5) {
%7 = icmp eq i8 %5, 0
%8 = icmp sgt i32 %3, 0
br i1 %7, label %72, label %9
9: ; preds = %6
br i1 %8, label %10, label %110
10: ; preds = %9
%11 = zext i32 %3 to i64
%12 = zext i32 %3 to i64
br label %13
13: ; preds = %10, %58
%14 = phi i64 [ 0, %10 ], [ %70, %58 ]
%15 = trunc i64 %14 to i32
%16 = icmp eq i64 %14, 0
br i1 %16, label %58, label %17
17: ; preds = %13
%18 = mul nsw i64 %14, %11
%19 = and i64 %14, 1
%20 = icmp eq i64 %14, 1
br i1 %20, label %45, label %21
21: ; preds = %17
%22 = and i64 %14, 9223372036854775806
br label %23
23: ; preds = %23, %21
%24 = phi i64 [ 0, %21 ], [ %42, %23 ]
%25 = phi double [ 0.000000e+00, %21 ], [ %41, %23 ]
%26 = phi i64 [ 0, %21 ], [ %43, %23 ]
%27 = getelementptr inbounds double, double* %1, i64 %24
%28 = load double, double* %27
%29 = add nuw nsw i64 %24, %18
%30 = getelementptr inbounds double, double* %0, i64 %29
%31 = load double, double* %30
%32 = fneg double %28
%33 = tail call double @llvm.fmuladd.f64(double %32, double %31, double %25)
%34 = or i64 %24, 1
%35 = getelementptr inbounds double, double* %1, i64 %34
%36 = load double, double* %35
%37 = add nuw nsw i64 %34, %18
%38 = getelementptr inbounds double, double* %0, i64 %37
%39 = load double, double* %38
%40 = fneg double %36
%41 = tail call double @llvm.fmuladd.f64(double %40, double %39, double %33)
%42 = add nuw nsw i64 %24, 2
%43 = add i64 %26, 2
%44 = icmp eq i64 %43, %22
br i1 %44, label %45, label %23
45: ; preds = %23, %17
%46 = phi double [ undef, %17 ], [ %41, %23 ]
%47 = phi i64 [ 0, %17 ], [ %42, %23 ]
%48 = phi double [ 0.000000e+00, %17 ], [ %41, %23 ]
%49 = icmp eq i64 %19, 0
br i1 %49, label %58, label %50
50: ; preds = %45
%51 = getelementptr inbounds double, double* %1, i64 %47
%52 = load double, double* %51
%53 = add nuw nsw i64 %47, %18
%54 = getelementptr inbounds double, double* %0, i64 %53
%55 = load double, double* %54
%56 = fneg double %52
%57 = tail call double @llvm.fmuladd.f64(double %56, double %55, double %48)
br label %58
58: ; preds = %50, %45, %13
%59 = phi double [ 0.000000e+00, %13 ], [ %46, %45 ], [ %57, %50 ]
%60 = getelementptr inbounds double, double* %2, i64 %14
%61 = load double, double* %60
%62 = fadd double %59, %61
%63 = mul nsw i32 %15, %3
%64 = sext i32 %63 to i64
%65 = add nsw i64 %14, %64
%66 = getelementptr inbounds double, double* %0, i64 %65
%67 = load double, double* %66
%68 = fdiv double %62, %67
%69 = getelementptr inbounds double, double* %1, i64 %14
store double %68, double* %69
%70 = add nuw nsw i64 %14, 1
%71 = icmp eq i64 %70, %12
br i1 %71, label %110, label %13
72: ; preds = %6
br i1 %8, label %73, label %110
73: ; preds = %72
%74 = add nsw i32 %3, -1
%75 = zext i32 %3 to i64
%76 = add nsw i64 %75, -1
%77 = zext i32 %74 to i64
br label %78
78: ; preds = %73, %96
%79 = phi i64 [ %76, %73 ], [ %108, %96 ]
%80 = trunc i64 %79 to i32
%81 = icmp slt i64 %79, %77
br i1 %81, label %82, label %96
82: ; preds = %78
%83 = mul nsw i64 %79, %75
br label %84
84: ; preds = %82, %84
%85 = phi i64 [ %76, %82 ], [ %94, %84 ]
%86 = phi double [ 0.000000e+00, %82 ], [ %93, %84 ]
%87 = getelementptr inbounds double, double* %1, i64 %85
%88 = load double, double* %87
%89 = add nsw i64 %85, %83
%90 = getelementptr inbounds double, double* %0, i64 %89
%91 = load double, double* %90
%92 = fneg double %88
%93 = tail call double @llvm.fmuladd.f64(double %92, double %91, double %86)
%94 = add nsw i64 %85, -1
%95 = icmp sgt i64 %94, %79
br i1 %95, label %84, label %96
96: ; preds = %84, %78
%97 = phi double [ 0.000000e+00, %78 ], [ %93, %84 ]
%98 = getelementptr inbounds double, double* %2, i64 %79
%99 = load double, double* %98
%100 = fadd double %97, %99
%101 = mul nsw i32 %80, %3
%102 = sext i32 %101 to i64
%103 = add nsw i64 %79, %102
%104 = getelementptr inbounds double, double* %0, i64 %103
%105 = load double, double* %104
%106 = fdiv double %100, %105
%107 = getelementptr inbounds double, double* %1, i64 %79
store double %106, double* %107
%108 = add nsw i64 %79, -1
%109 = icmp sgt i64 %79, 0
br i1 %109, label %78, label %110
110: ; preds = %58, %96, %9, %72
ret void
}