旧駅舎は現駅舎北側の越後川口方約300mの地点に位置していた。地平部に島式ホーム1面2線を有する地上駅でホーム長は130mを有し、線路東側の駅舎とは1番線側に設けられた構内踏切で連絡していた。構内にはJR東日本長野支社の飯山線を統括する組織として飯山線営業所が置かれていたが、支社内の組織改編に伴い2012年（平成24年）4月1日付で廃止された。「寺のまち飯山」をアピールするため、駅舎には寺社風の装飾が施されていた。またホーム上には鐘楼「七福の鐘」が建立されていた。この七福の鐘は1985年（昭和60年）11月、国鉄長野鉄道管理局（現在のJR東日本長野支社）が実施していた「一駅一名物運動」の一環で、長鉄局側が当時の飯山市商工会（現在の飯山商工会議所の前身）に対し「寺のまちにふさわしいシンボルを設けたい」と提案し、同商工会により建立されたもので、名称は一般公募により決定した。鐘楼は高さ約5m、釣鐘は直径約60cm、重さ約280kgを有した。またホーム上では毎年大晦日から元日にかけてJR長野支社と市、飯山商議所が主催する恒例行事「七福の鐘つき二年参り」が、2014年の年明けまで開かれていた。なお七福の鐘は、現駅舎の在来線ホームが曲線状になっており設置場所が確保できないことなどから、駅近くの「雪と寺の町シンボル広場」への移設を予定している。そのほか、飯山線の前身である飯山鉄道敷設に尽力したとされる五島慶太を讃える顕彰碑が建立されていた。この顕彰碑はその後、新駅舎の南口広場に移設された。移転工事後に旧駅舎は解体され、跡地には市街地を東西に横断する長野県道97号飯山斑尾新井線のバイパス（都市計画道路斑尾線）が建設された。だが、駅当時の交換施設は残っており、機関車の留置などに現在も使用されている。
駅舎移転時より運用中の在来線ホームは、地平部に島式ホーム1面2線を有する地上駅で、駅舎2階と接続する橋上構造となっている。ホームは有効長87 mを有し、20 m級在来線車両4両編成までに対応している。ホームの北側には保線基地があり、除雪車用の車庫や留置線を備えている。改札口は有人改札で、Suica等の交通系ICカードはサービスエリア外につき利用できない。改札内コンコースにはバリアフリー対策としてエレベーター1基が設置されているほか、トイレにはオストメイト対応の多機能トイレが併設されている。直営駅（駅長配置）で、管理駅として飯山線の信濃浅野駅 - 森宮野原駅間の各駅を管理している。なお、飯山線の途中駅では唯一発車ベルの設備がある。
2015年（平成27年）3月14日から運用を開始した新幹線ホームは、駅舎3階に相対式ホーム2面2線を有する高架構造で通過線は無く、ホームドア（可動式安全柵）が設置されている。ホーム長は312mを有し、新幹線車両（1両あたり25m）12両編成までに対応している。バリアフリー対策としてエレベーター各1基、エスカレーター上下各1基が設置されている。発車メロディには、近隣の豊田村（現・中野市）出身の高野辰之が作詞した「故郷」が使われており、11番線では曲の前半が、12番線では曲の後半が流れる。メロディの制作はスイッチで、編曲は福嶋尚哉が手掛けた。当駅と上越妙高駅間にあるトンネル「飯山トンネル」は、北陸新幹線内で最も長いトンネルである。
『中小レポート』が作成された背景に、1950年代の国内図書館界の低調な実態があった。1958年（昭和33年）度の図書館を設置している1自治体あたりの年間受け入れ冊数は1,529冊、年間図書費は51万円にとどまり、新刊書に乏しい図書館は市民の関心を得られる存在ではなかった。また、1950年（昭和25年）公布の図書館法の理念とは裏腹に、1950年代は未だ県立図書館を中心とした戦前的な図書館理念に支配されていた。図書館法の理念が実質を伴わない中で、図書館を国の支援により振興させるべく、日本図書館協会内においても図書館の義務設置、国庫補助の充実、国立国会図書館を頂点とした階層的な図書館制度の確立を柱とする図書館法改正運動が起こった。一方でこれに対抗し、住民の支持と新しい理念により図書館を振興させようとする若手図書館員の勢力により、図書館法改正反対運動も展開されていた。図書館法改正草案を強く批判し、反対運動をリードした渡辺進が館長を務めた高知市民図書館では、移動図書館を通じて市民への図書館サービスを普及させ、図書館法の理念の実践に努めた。また、1955年（昭和30年）に若手図書館員を中心として結成された図書館問題研究会（図問研）は、図書館法改正反対運動、文部省選定図書制度反対運動を展開するとともに、後に『中小レポート』作成に携わる人物を多く輩出した。ただし、『中小レポート』作成当時は図問研の活動が停滞状況にあり、図問研が会として組織的に『中小レポート』作成に携わったわけではない。当時日本図書館協会の事務局長であった有山崧（ありやま たかし）は、高知市民図書館の活動に関心を寄せ、日本の社会にあった図書館像と、「地域社会の民衆と直結した」サービスのあり方を模索していた。有山は、図書館政策の前提となるナショナル・プランの確立を企図し、1960年（昭和35年）に20 - 30歳代を中心とした一般調査委員を選定して中小公共図書館運営基準委員会を設置し、同委員会により1962年（昭和37年）までの2年間にわたり、活動が盛んな全国各地の12図書館を抽出して、その実態調査を行ったのである。選定された一般調査委員は、石井敦（神奈川県立川崎図書館）、黒田一之（東京都立日比谷図書館）、清水正三（中央区立京橋図書館）、宮崎俊作（江東区立城東図書館）、森崎震二（国立国会図書館）、森博（大田区立洗足池図書館）、吉川清（船橋市立図書館）の7名。1961年度に森、宮崎に代わり鈴木四郎（埼玉県立図書館）、小井沢正雄（江東区立深川図書館）が入った。また日本図書館協会事務局からは、前川恒雄が基準委員会の事務局を担当した。委員の選定はほぼ有山が行ったと推測されている。