平民图书馆位于乾元街平民公园的西部，由一坐北朝南的四合院里改建而成。此处有南房5间，居中一间为大门，上挂“图书馆”匾额，门内筑一影背墙。院内东西厢房各3间，北屋5间。四面房屋彼此对应，互相连接，而且都有走廊。室内设有阅书室、阅报室、儿童阅览室等。院内植有成行的梧桐树，并摆放着盆景花卉，环境非常幽静。尤其是夏天，置身于这安静优雅的环境中，顿感心旷神怡。
    1928年4月，冯玉祥将军拨款3000元，作为购置图书费用。在冯将军的支持下，1929年藏书达到4924册。图书馆每日上午8时至下午6时对外开放，还附设有报纸、杂志阅览室。因环境好，图书多，这里成为人们普遍喜欢的好去处，来此看书的人常常络绎不绝。据有关资料记载，从1928年4月至12月，来此阅读的读者为2325人。