1931年,北海西侧文津街新馆告竣,并加入世界图书馆学会。早在1925年,由教育部与中华文化教育基金会协议,筹建新馆。经过1926年选定馆址,提出设计方案,征募设计图案,1927年选定美国人莫律兰绘制的图案并聘请他为新馆的建筑师,1928年拆迁。
1929年5月11日开工奠基。从圆明园遗址移来一些文物;主楼前一对华表,与天安门的两对华表极为相似;还有一对小石象、一对铜仙鹤和一个大型蟠龙石刻台阶;圭形昆仑石一块,上刻乾隆御制诗;大门内左右各一通石碑,一为乾隆御制《教谕骑射碑》,一个文渊阁前的树碑,均为满汉文合璧;大门外一对石狮原为长春园东大门旧物。馆前街道无名,因馆内藏有文津阁《四库全书》而得名文津街。
新馆于1931年7月1日正式开馆,文津阁《四库全书》全部迁入新馆庋藏。迁入新馆后,废除了以前实行的购票入馆的办法。新楼内的阅览室有200多个座位,环境幽静,花木扶疏,是当时国内乃至远东规模最大、最先进的图书馆。