1918—1928年,北洋军阀统治时期,政治腐败,战乱频仍,民不聊生。京师图书馆更是经费短绌,难以为继,十年间更换了14位馆长,其间经历了由中华文化教育基金董事会(1924年成立的保管和处置美国第二次退还庚子赔款机构)与教育部合办、分办而又合办的曲折过程。
1928年,国民党政府定都南京,另设国立图书馆于南京,京师图书馆改称国立北平图书馆,馆址由方家胡同迁往中南海居仁堂,1929年1月对外开放,马叙伦一度任馆长。
居仁堂在皇家禁苑中海西岸。光绪十二年(1886年),慈禧“撤帘归政”前夕,乘机修葺西苑三海,大兴土木,新建仪銮殿,作为她颐养天年的寝宫。1901年夏,八国联军进占北京,慈禧携光绪等皇族大臣仓皇外逃,仪銮殿成了联军统帅瓦德西的住所,他挟名妓赛金花在仪銮殿居处半年之久。不久之后,深夜火起,仪銮殿及福昌殿和东西配殿化为灰烬。光绪二十八年(1902年),签订丧权辱国的《辛丑条约》后,回到北京的慈禧不惜斥巨资500万两,在原址废墟上重建一组两层洋楼的建筑群,为讨好洋人,取名海宴堂,作为接见、宴享外国女宾之地。辛亥革命后,海宴堂更名居仁堂。1915年12月13日,袁世凯在居仁堂登极称帝,做了83天皇帝梦,于1916年6月6日在居仁堂一命归西。延至1928年,历经太多政治风云变幻的居仁堂改作国立图书馆,终于能为文化事业服务了。
当时,除国立北平图书馆外,还有一所由中华文化教育基金会1926年创办的北京图书馆,地点在北海,租借庆霄楼、悦心殿、静憩轩、善安殿等处,馆长由京师图书馆馆长梁启超兼任,李四光为副馆长。1929年8月,国立北平图书馆与北海的北京图书馆合并,仍名国立北平图书馆。馆长蔡元培,直至1940年蔡去世后,由副馆长袁同礼接任。当时开始编纂全国书刊联合目录,进一步履行国家图书馆的职能。