Древнейшая из известных нам библиотек была обнаружена при раскопках храма в Ниппуре (место вблизи города Афак в центральном Ираке), священном городе древних шумеров. Это хранилище глиняных табличек датируется XXVI веком до н.э. и содержит по большей части торговую документацию, но также и литературные произведения, в частности, самую древнюю версию мифа о потопе. Царский архив в Эбле (XXV–XXIII века до н. э.), библиотека Рамсеса II в Египте (1279–1213 годы до н. э.), коллекция Ашшурбанипала в Ниневии (VII век до н. э.) — самые известные книгохранилища Древнего Востока. Вообще, библиотеки той эпохи — хранилище божественной мудрости, доступной лишь царю — проводнику этой мудрости на земле.
В античный период мудрость стала общедоступной, поэтому появились и общедоступные библиотеки: первая из них была основана в Гераклее тираном Клеархом (IV век до н. э.), а самой известной стала Александрийская (III век до н.э.). Она была частью обширного музейного комплекса, полноценного исследовательского центра, в котором в разное время трудились такие античные ученые, как Евклид, Архимед, Эратосфен, Папп, Аристарх Самосский.
Последней великой библиотекой Античности и самой большой в эпоху Средневековья была Императорская библиотека Константинополя: она была основана императором Константином II (337–361 годы) и, несмотря на несколько разрушительных пожаров, просуществовала до захвата Константинополя турками в 1453 году. Другой крупнейшей библиотекой Средневековья было книгохранилище патриарха Константинопольского. Но большинство средневековых библиотек и рукописных центров функционировало при монастырях. Например, на Руси в XI–XV веках были основаны библиотеки в Киево-Печерском, Чудовом, Троице-Сергиевом, Кирилло-Белозерском, Соловецком монастырях. Именно Церковь воспринималась носителем истинной мудрости и была тем институтом, что сохраняла в своих стенах античное наследие.
Секуляризация библиотечного дела произошла в эпоху Возрождения: на севере Италии появились многочисленные личные библиотеки гуманистов и их властных покровителей. Из их коллекций выросли многие книжные собрания: Ватиканская библиотека, основанная Папой Николаем V (1397–1455 гг.), библиотека Лауренциана во Флоренции, сформированная Козимо Медичи Старшим в 1444 году, Национальная библиотека святого Марка в Венеции, созданная в 1469 году кардиналом Виссарионом Никейским. Особой статьей были специализированные ведомственные библиотеки: например, на Руси они формировались вокруг Печатного двора, при Пушкарском, Аптекарском и Посольском приказах.
Статус библиотек радикально изменился в эпоху Просвещения (XVII–XVIII века), когда появилось представление о том, что свет знания должен достигнуть любого человека вне зависимости от статуса. Этому способствовала и победа более дешевой (по сравнению с рукописной) печатной книги, и внедрение всеобщей грамотности, и социальная унификация. В России первые публичные библиотеки появились, благодаря реформам Петра Великого: в 1728 году открылась библиотека Академии наук, а в 1756-м — библиотека Московского университета. Теперь библиотеки есть практически везде и на любой вкус.