起源となる「羊羹」は、もともとは中国大陸の料理の名前で、読んで字のごとく羊の羹（あつもの）、つまりは羊の肉を煮たスープの類であった。南北朝時代に北魏の捕虜になった毛脩之が「羊羹」を作ったところ太武帝が喜んだという記事が宋書に見えるが、これは本来の意味の羊のスープであったと思われる。
鎌倉時代から室町時代に、禅僧によって日本に伝えられたが、禅宗では肉食が戒律（五戒）により禁じられているため、精進料理として羊肉の代わりに小豆や小麦粉、葛粉などを用いたものが、日本における羊羹の原型になったとされる。
中世の羊羹.
御成の献立にも羊羹が登場する。御成の献立記録を江戸時代に写した『膳部方記録』を見ると、このときの羊羹の材料には生豆（小豆と考えられる）の粉、小麦粉、葛粉をこねたものが使われており、山芋や胡桃などを入れて蒸すと記載されている。砂糖や汁の有無については記載がない。
近世の羊羹.
江戸時代初頭に発行された『日葡辞書』には、「羹（カン）」「羊羹」「砂糖羊羹」が採録されており、「羹」は「豆や小麦と粗糖（黒砂糖）または砂糖とで作る、日本の甘い菓子の一種」、「羊羹」は「豆に粗糖をまぜて、こねたもので作った食物」、「砂糖羊羹」は「豆と砂糖とで作る、甘い板菓子（羊羹）の一種」と記載されている。このことから、記載されている羊羹と砂糖羊羹はいずれも小麦粉を使って蒸した菓子であり、羊羹は黒砂糖、砂糖羊羹は上等な白砂糖を使っていたと推測される。
近代の羊羹.
明治時代に入ると、国内の産業発展促進の流れのなかで羊羹も製造過程の改良や商品の多様化が進む。また、交通網の発達によって観光客が増えたことで、各地で土産菓子が工夫されるようになり、明治から昭和時代にかけてその土地ならではの羊羹が作られて定着していった。
その他、割青竹を使用した物や似せたプラスチック製の物、紙またはプラスチック製筒型容器（押し出し容器）、簡便開封可能な紙小箱、カットした羊羹に砂糖をまぶしてキャンディー風パッケージにしたものなどもあり多様化している。
現在では、この他にも食品が練り込まれた羊羹が土産品やお茶請けとして親しまれている。比較的高級な羊羹が切り分けて食べる棹物であるのに対し、一口サイズで小分け包装された製品もある。また、高カロリーであることを活かし、スポーツ用途の栄養補給食品などもある。
国外.
水羊羹.