大学図書館の起源は中世後期ヨーロッパにおける大学の形成、発展と密接に結びつくものであった。大学図書館の成立は中世の大学における学寮（collegium）図書館に求めるのが一般的とされるが、それ以前にも国民団による図書館があったとされる。パリ大学の学寮のひとつであるソルボンヌ学寮では、1289年に図書館が開設されている。また、14 - 15世紀にかけて君主諸侯によって創設された大学では、それまでの自然発生的な大学と異なり当初から体系的な組織を持っていたため、神学部、法学部、医学部とその予備段階である教養学部が用意され、教養学部による学部図書館が形成されていった。この例では1384年に設置されたウィーン大学の図書館が挙げられる。16世紀以降、活版印刷の発明による印刷物の普及と、修道院に対する政治的圧迫により修道院所蔵の多くの書物が大学図書館に移されたことにより、大学図書館の蔵書数は増大していくが、反面大学図書館の書物が没収を命じられることもあり、その発展は一様ではなかった。また、大学のあり方が設置者である領邦君主の宗派的立場と強く結びついたドイツでは、17 - 18世紀を通じて大学活動が停滞期にあたり、蔵書数の増加ペースはゆるやかなものであった。しかしながら近世から近代に移行する中で、ドイツでは啓蒙主義運動が主として大学で展開されたことで前時代の宗派性から脱却し、18世紀後半から19世紀にかけてゲッティンゲン大学では自由な研究・教育を支援するための先進的な図書館活動を展開した。1910年代以降の20世紀において世界の学問研究の中心となったのはアメリカであり、それにともなって大学図書館もアメリカが世界をリードするようになった。大学が研究の場という性格を強めるにしたがい研究職である教授にとって図書館長を兼任するメリットを見出せなくなっていたが、先述のゲッティンゲン大学では教授兼任館長制度を固持したために時代にあわせた改革をとることが出来なくなっていた。植民地時代から建国当初のアメリカでは、聖職者以外に大学卒を必要とする職業が存在せず、したがって大学も伝統的な教育を行う場であって図書館が重視されることもなかった。アメリカでは初期の大学図書館が有用でなかったために、学生達自らが会費を募り運営する会員制の図書館（society library）が発達し、19世紀後半まで続いたが、大学院制の導入などアメリカの大学での制度改革が進展するにしたがい、大学図書館も発展し、これらsociety libraryの蔵書を吸収していった。世界で初めて大学院を設置したジョンズ・ホプキンス大学の初代学長ダニエル・C・ギルマンは、『図書館は大学の心臓である』という言葉を伝えている。もっとも、アメリカにおける大学図書館改革の旗手となったのはジョンズ・ホプキンス大学ではなくハーバード大学とコロンビア大学であり、前者では1877年図書館長に就任したジャスティン・ウィンザーの下で、後者では1877年館長に就任したメルヴィル・デューイの下で改革が行われ、ハーバードでは指定図書制度という大学図書館固有の制度が始められ、コロンビアでは開架制やレファレンス・サービスなど今日の図書館活動において欠かせないサービスも始められた。これら改革の成果は南部や西部では遅れがあったものの他の大学も追随する所となった。アメリカの大学図書館の発展は世界恐慌と第二次世界大戦の影響を受けた1930 - 40年代において停滞をみたものの、戦後再び発展を遂げたが、大学環境が激変する中で新たな諸問題への対応を迫られることとなった。復員兵士への大学就学機会が与えられたことで、これまで大学と無縁であった階層の若者にも大学を通じて学ぶようになり、さらに進展した大学の大衆化に対応した図書館像が求められるようになったのである。研究の高度化と学生の大衆化が進んだ現代の大学においては、古典的な意味での研究と教育の一致が困難であり、これに対応するものとして独立の学部学生用図書館が設置されるようになった。独立施設としての設置は1960年代がピークで以降減少していくが、大学図書館において研究者と学生とのサービス機能を分離するという考え方は、後に国際的にも広く普及する所となった。日本では、1877年に東京大学に設置された図書館（現在の東京大学総合図書館）を嚆矢とする。これは、「図書館」という呼称を用いた最初の例でもあった。1882年には早稲田大学の前身である東京専門学校に図書館が（現在の早稲田大学図書館）、1885年、87年には中央大学、同志社大学に図書館が設置されている。東京大学は1886年帝国大学令公布にともない帝国大学に移行（1897年京都帝国大学開学にともない東京帝国大学に再改称）するが、当初の帝国大学図書館規則では図書館設置の目的を図書の貯蔵にあるとしていた。1919年帝国大学令が改正され分科大学制から学部制へと移行し、総合大学としての機構が形作られるようになる時期と前後して、図書館に対するとらえ方も単なる図書の貯蔵から脱却し、全学的な図書の管理を目的とする考え方に移行していったが、戦前の大学教育は学生が図書館を利用することを考慮したものではなかった。第二次世界大戦後、敗戦にともない学制改革が行われ、1946年に教育基本法および学校教育法を公布、1949年には国立学校設置法が公布され、戦前の大学教育が制度上一掃されるに至り、大学図書館もその理念を新たに問い直されることとなった。1947年大学基準協会が発足し、大学図書館のあり方について4年余りの検討の末『大学図書館基準』を公表。これは最低限の基準を示すものであり、大学図書館のあるべき姿の示準とはならなかったが、以後国立、私立、公立と設置者別に大学図書館の改善要項が作成されてゆくこととなった。また、戦後の経済発展と軌を一にする大学数の増加および大学進学率の向上と、それにともなう学生数の増加により、大学図書館も量的な拡大・質的な向上を遂げていくこととなる。1960年代には私立大学が国立大学に先んじて大学図書館のハード面の充実を進め、サービス面においても、館外貸出の一般化、開架式書庫の増加、レファレンスサービス導入といった取り組みがなされるようになった。また、1960年代後半から図書館業務へのコンピュータ導入が模索され、1968年に京都産業大学でシステムが稼働している。1970年代に入るとより改善の動きが進展し、また変動相場制導入による円高の進行を受けて高価な洋書の購入がしやすくなったために蔵書が充実することとなった。1970年代以降大学図書館の大型化が進み、70年代後半にはオンラインデータベースサービス導入の取り組みも始められた一方、大型化は大学間の格差を広げるものでもあった。1980年代以降、業務のコンピュータ化がいっそう進み、資料の収集・整理・貸出や文献検索に至るまで幅広く用いられるようになり、館内業務のみならず全国的な図書館の相互協力にもコンピュータが活躍するようになっていった。各地の大学図書館の学術情報のデータベース化と、その横断的な検索・利用システムを導入する試みが始められたのである。1980年に学術審議会より出された『今後における学術情報システムの在り方について』の答申により大学図書館の機械化と学術情報収集・提供の方針が示され、1986年には東京大学文献情報センターを母体として学術情報センター（National Center for Science Information System、略称NACSIS、後の国立情報学研究所）が発足、このNACSISにより、全国の総合目録の形成と、全国の大学への学術情報の公開がなされた。1991年、大学設置基準が改訂され、大学図書館は法令上は依然として大学の施設・設備としての位置づけながら図書館について独立した一条が設けられ（第38条）、従来の定量的な図書冊数の基準が削除されて教育研究上必要な資料を系統的に備えるものと新たに規定された。1990年代は情報技術の向上とインターネット通信の普及を背景に、電子図書館を目指す動きが加速した。1990年代を通じてOPACが急速に普及し、1996年学術審議会より出された『大学図書館における電子図書館機能の充実・強化について （建議）』では大学図書館を学術情報ネットワークの結節点と位置づけ、緊要な課題として電子図書館化の推進の必要性を指摘したのである。これを受け奈良先端科学技術大学院大学をはじめとする国立5大学により先導的電子図書館プロジェクトが推進された。他方、電子図書館化の流れと並行して、実際の図書館間での相互利用、連携の取り組みも始められ、新潟市での県立図書館、市立図書館、新潟大学附属図書館での相互貸借の取り決めや、山手線沿線私立大学図書館コンソーシアムや多摩アカデミックコンソーシアムなどの連携協定がみられるようになった。2000年代以降においても電子図書館化の流れは継続し、2001年以降は国立大学で電子ジャーナルの利用が急速に進み、研究の基盤として広く利用されるものとなった。一方で、高額な電子ジャーナルの購入が図書館予算を圧迫し、また学術雑誌も価格高騰が続いているために、雑誌の購入タイトル数が減少し、結果として研究者のもとに学術情報が入りにくくなる「雑誌の危機」という現象ももたらされている。個々の教員・研究者が電子ジャーナルを購入しそれを研究に役立てる受益者負担の考え方から、電子ジャーナル購入を全学の共通経費とする発想の転換が求められているが、共通経費化は個々の教員に配分されてきた予算の削減を意味するという問題も抱えている。また、電子ジャーナル購入に際し複数の大学図書館が連携して価格交渉にあたる電子ジャーナルコンソーシアムの考え方も生まれている。