市立中山圖書館舊址位于越秀區(qū)文德北路71號。年代為1933年。
1927年6月，當(dāng)時的市政委員長（相當(dāng)于現(xiàn)在的市長）林云陔提出籌建廣州市立中山圖書館，后獲美國、加拿大、墨西哥、古巴四國1.5萬名華僑捐贈20多萬美元（合當(dāng)時的廣東毫洋30多萬元），最后定址久負(fù)盛名的廣府學(xué)宮———此地從宋紹圣三年（1097年）起，先后是廣州府儒學(xué)（文廟）、番山書院、萬木草堂所在地。工程由當(dāng)時著名的建筑學(xué)家林克明設(shè)計，于1933年10月落成，系宮殿式建筑物，綠瓦朱檐，頗為壯麗。
1938年，廣州被日軍攻陷，幸而早在抗戰(zhàn)之初，該館就將藏書中的珍善本及重要資料5萬余冊疏散到市郊龍歸及廣西象縣保存。1946年圖書館復(fù)館，接收偽市立圖書博物館書刊12萬多冊，掛圖168幅，取回前存龍歸的藏書，并追回被日寇掠去的一部分圖書。
民國時期，著名史學(xué)家羅香林先生及其夫人朱曾先后擔(dān)任過館長。1946-1949年朱任館長期間，在財力、人力極其匱乏的情況下將圖書館重開，并收回大部分流散的圖書，還首創(chuàng)巡回書車進入各區(qū)，將書籍大批借給學(xué)校、團體閱覽研究，成為廣州最早的“汽車圖書館”。
2002年7月，被廣州市人民政府公布為第六批廣州市文物保護單位。