在我国古代，秘书是掌管典籍或起草文书的官。自从汉代以来我国封建政权便设有秘书监、秘书郎，三国魏有秘书令、秘书丞，可见“秘书”一词出现早于“书记”。但秘书并非官名，要在秘书下缀上“令、监、丞、郎”等才是完整的官名。此外尚有“秘书省”，这是南朝梁始设的官署，是行政机关，虽有“秘书”之名，却无现在秘书之义。为后期沿袭，明清不设此官署，也没有“秘书”的职称。清代各衙署设文案，一般称“师爷”不称“秘书”。民国时，大多数的行政机关都开始设秘书。

　秘书这个名称，原来是指皇家秘密的藏书。东汉桓帝时开始设秘书监这个职官，其实是相当于国家的图书馆长，年俸六百石。实际上的“秘书长”汉初叫“长史”，后来叫“中书侍郎”、“翰林学士”等。幕僚中的“记实”、地方官府的“主簿”，都相当于秘书。三国时期击鼓骂曹的祢衡，就是江夏太守黄祖的秘书，他能写出黄祖“所欲言而未能言”的内容，是一个出色的秘书工作者。