曹操が張魯を討伐すると、劉曄は主簿に転じた。漢中の地形は険しく、食料が欠乏したので撤退しようとしたが、劉曄は戦い続ければ勝算があり、今撤退すれば追撃をうけ損害を被ると見て、曹操に戦いを続けるよう進言した。曹操は劉曄の進言に従い戦いを続け、張魯は敗走し漢中は平定された（陽平関の戦い）。漢中平定後、劉曄は司馬懿とともに、この勢いに乗じて劉備が支配して間もない益州に侵攻するよう曹操に進言したが、この意見は却下されている。