成立于北京市宣武区琉璃厂170号，邓小平题写社名。1954年5月17日，中央人民政府高等教育部发文，任命武剑西担任高等教育出版社首任社长兼总编辑。1958年4月，高等教育出版社搬迁至北京市西城区承恩胡同7号。1960年1月7日，中华人民共和国国务院总理周恩来签署任命书，任命武剑西担任人民教育出版社副社长。1960年4月，高等教育出版社搬迁至北京市东城区景山东街45号（今沙滩后街55号）。1960年4月1日，随着中央人民政府高等教育部与中央人民政府教育部的合併，高等教育出版社与人民教育出版社合併为人民教育出版