葛洪在山中暂住的日子里，他闲暇之余也会到处走走。襄城古城、汝水沿岸、首山黄帝采铜处、七圣迷径处等地都留下了他的足迹。这样过了数月，葛洪派人打听，北方的战事仍没有穷期，于是便放弃了北上洛阳的念头，他在江淮地区漂泊数年后，最后回到了江南。
清心寡欲的葛洪，寻找一处僻静之地，开始了对自己大半生道教实践的理论思索和著述。葛洪的著述颇丰，著有《抱朴子》、《神仙传》、《隐逸传》和《金匮药方》等。这些著述，完成了道教由原始道教向神仙道教的里程碑式的转变，也使中国原始道教分化成神仙道教和符录道教两大派系。葛洪从理论高度为神仙道教的建立作出了贡献，被后世称作道教的理论家、炼丹家和医学家。
    以后的日子里，葛洪为名声所累，也曾征召赴命，曾任司徒椽、咨议参军、句漏县令，被封为关内侯。但他没有始终兴趣参与政治。后来他坚辞不仕，到广州罗浮山修道，终成名家。葛洪最终卒于罗浮山中，享年八十一岁。
    在葛洪去世后的数百年间，诸侯割据、战乱频繁，道、儒、佛三教为了确立各自教派的主导地位而明争暗斗，三教的地位也随着各朝帝王的爱好，时而崇佛抑道，时而又崇道抑佛。唐代，朝廷一度实行崇道抑佛的政策。在这个时候，襄城百姓为祭祀道教仙人葛洪，在南部山中葛洪筑庵暂住的地方修筑了“葛仙观”，以纪念葛洪对于道教所作出的贡献。此后，人们就把这座南北走向的山脉叫做仙翁山。
    随着世事的纷扰和风云的变幻，“葛仙观”屡建屡毁。直到明朝正统年间（1436年——1449年），外籍道士王守益率徒弟康志玄云游襄城，他们在仙翁山下，仰望仙翁山山势磅礴、灵气缭绕，并听襄城耆老宋弘道介绍了当年葛洪的故事和后来建庙的过程。这时的“葛仙观”已经坍塌，只有观前丹井还有迹可寻，宋弘道倾诉了百姓无处膜拜道家祖师的不便和渴望重修道观的心情。王守益和康志玄师徒被葛洪的精神和百姓的虔诚所感动，决定留在山中，为弘扬道教而重修道教门庭。
    王守益、康志玄师徒在山下乡民的帮助下，披荆斩棘、不辞辛劳，建成老君殿三间，又重塑了道祖神像，以后，经邑人王志聪的帮助，又经过数十年的共同努力，终于建成了历史上规模空前的“葛仙观”。据记载，全部修建完毕的“葛仙观”，依着山势，座西朝东，占地三十多亩。由山门、乐台、丹井亭、钟鼓楼和主体建筑老君殿组成。整个庙观结构严谨，布局合理，气势恢宏。对此，明代户部尚书、襄城人李敏给予高度评价，认为王守益、王志聪等人修建道观的功绩应于葛洪等同。他应邀写下了《重修仙翁观碑记》，这篇碑文，使得重修葛仙观的那些人和事得以流芳千古。
     道观建成后，引来许多善男信女，许多风流雅士、文人骚客也来游览，并留下了自唐至清历代文人墨客游览“葛仙观”的诗文碑刻。明朝万历四十四年出任襄城知县的谭性教，曾为“葛仙观”写下一首诗，名字叫做《仙翁观》：
    驱车问俗夕阳斜，仙翁深沉覆落花。
     满谷绿阴晴带雨，临门丹井夜生霞。
     云连海岱思千里，烟冷村原忆万家。
     我亦惭为句漏令，救荒无计转灵砂。