Dawny budynek Biblioteki wzniesiony został według projektu sporządzonego przez architektów Stefana Szyllera i Antoniego Jabłońskiego-Jasieńczyka w 1888 roku. Ta klasycystyczna budowla powstała jako siedziba Biblioteki Carskiego Uniwersytetu. Najbardziej charakterystyczne dekoracje rzeźbiarskie figury - Apollina w otoczeniu muz: Uranii, patronki geografii i astronomii i Kaliope, opiekunki poezji epickiej - na attyce nad frontową ścianą oraz statuy Sofoklesa i Demostenesa stojącymi w niszach przy głównym wejściu do budynku są dziełem Hipolita Marczewskiego. Pierwszą modernizację budynku przeprowadzono w latach 1901-1902 pod kierunkiem Antoniego Jabłońskiego, kiedy to zainstalowano oświetlenie elektryczne i wmontowano windę w części magazynowej gmachu. W trakcie następnej, zrealizowanej w latach 1929-1931 według projektów Aleksandra Biernackiego, przebudowano wnętrze gmachu. W czasie II wojny światowej biblioteki: Narodową, Uniwersytecką i Ordynacji Krasińskich połączono tworząc Staatsbibliothek Warschau. Przeniesiona na Okólnik część zbiorów specjalnych spłonęła wraz z Biblioteką Ordynacji Krasińskich. Część zbiorów bibliotecznych została jednak ukryta i zamurowana w piwnicach gmachu bibliotecznego, najcenniejsze zbiory były zabezpieczane, już po upadku powstania warszawskiego, w ramach tzw. akcji pruszkowskiej.
Sam budynek choć bardzo zdewastowany, przetrwał. W ciągu 5 lat od zakończeniu wojny liczba woluminów w zasobach BUW wzrosła o 350 000, a sama biblioteka pozostawała największą biblioteką akademicką w kraju.
Od kiedy w 1999 roku na Powiślu powstał nowoczesny, spełniający wymogi XXI wieku, gmach Biblioteki Uniwersyteckiej w Warszawie, stary opustoszał do czasu kiedy to w 2005 roku oddano budynek po gruntownym remoncie oddano ponownie do użytku. Aktualnie pełni funkcję budynku dydaktycznego.
Odnowiony budynek łączy tradycję z nowoczesnością. W dawnej czytelni odtworzono zniszczone pilastry, fryzy i kute kraty. Starannie odrestaurowano i odtworzono wzorzyste posadzki zbudowane z ośmiu gatunków drewna. Są tu także sale wykładowe oraz aula na prawie 400 osób. Wnętrza utrzymano w kolorach jasnego drewna, bieli i stali.
W dawnej cześci magazynowej zachowano niezwykłe dzieło inżynierii z przełomu XIX i XX wieku - fragmenty stalowych konstrukcji magazynu bibliotecznego. Pozostała część stoi dziś przed nowym gmachem Biblioteki Uniwersyteckiej przy ulicy Dobrej.