この言い回しを理解するには、分けて考えるのがよいでしょう。ここでのnerveは、自信、勇気、度胸という意味です。つまりlose one's nerveというのは、一度はするつもりだったことに「怖くなってしまう」あるいは「勇気を失う」という意味の言い回しです。
例：He was about to ski down the mountain when he suddenly lost his nerve. (彼は山をスキーで滑り降りようという時になって、突然怖くなりました。)
例：I wanted to ride the roller coaster, but I lost my nerve once I saw it. (ジェットコースターに乗りたかったけど、見たとたんにおじけづいちゃった。)