在延津县石婆固镇塔铺村西，有一古寺遗址，曰广唐寺（现为村小学）。寺内有一半截无顶砖塔，曰白马塔。白马塔始建年月无考，明嘉靖四十二年（1563年）《重修广唐寺塔记碑》载有：“广唐寺创于古酸枣邑，梁武帝天监丁酉年……及迁邑通郭，居人列寺东向，以塔名铺。”明代诗人越应扬题《广唐古塔》一首：“灵鹫连峰出化城，法云空寂即大乘。”广唐寺曾是佛教胜地。
    白马塔为六角阁楼式砖塔，其外部轮廓因三层以上逐层明显收缩，故稍呈抛物线型，各层飞檐均用青砖雕花砌成，上面为花檐，下面砖雕斗拱及仿椽头。各层高度不一，第二层最矮，无窗无门，其余各层有窗门。塔高30.6米，底部直径10米，塔内有斜形梯道与螺旋梯道交替连接以达塔顶，第六层有佛龛一个。建国后，该塔被列为县级文物保护单位，现被列为国家级文物保护单位。从建筑风格与结构判断，该塔不早于宋代。
    现有的白马塔为半截，没有封顶，虽为半截，并经多年风雨剥蚀，仍不失当年风韵。为什么没有封顶？民间传说很多，主要有二：一是塔铺村古称白马津，是黄河渡口，河水岁岁泛滥，淹禾苗，毁村庄，害得“铺人”啼饥号寒。某年中秋，皓月当空，风平浪静，一摆渡老翁夜半回归，忽听河面上“哗啦”一声响，只见一匹白马冲出水面，嘶叫着跃上河岸，霎时间狂风大作，沙飞石走，平静的河面浊浪排空，黄水四溢，塔铺村眨眼之间陷入一片汪洋之中。此后，只要白马出现，“铺人”必遭水患，人们虽恨白马作祟，却无以为计，只好求助于官府，修白马塔，假借佛力镇之。据碑文载，官府曾委派两名进士，率民工数千人土屯修之，然塔未竣工，河水复至，进士骑马而逃，民夫葬身鱼腹者不计其数。塔修至此终止。
    又一传说为：当年的白马塔飞檐翘壁，高耸入云，甚为壮观。一日，南海观音云游至此，云端中只见塔铺村北浊浪滚滚，甚觉好奇，心想，南海碧水清波，此地为何污泥浊水？乃踏祥云观之，不小心袍袖轻拂塔身，把塔顶带入南海，留下半截古塔。古老的传说流传了一代又一代，半截古塔见证了塔铺的世事沧桑。
    塔铺村历史悠久，人杰地灵。据史料记载，周朝的廪延邑(延津县）治所为塔儿店（即塔铺），秦朝时酸枣县（延津县）治所为惠安镇（即塔铺），直到金朝泰和年间（1201年～1208年），酸枣县治所迁于延州店，即今原阳县延州村。由此可见，从秦到金，塔铺（惠安镇)作为酸枣县治所长达1000多年。
    新中国建立后的1955年始设塔铺乡，1958年与夹堤乡合并，改称榆林公社，1962年从榆林公社分出，为塔铺公社，1983年更名为塔铺乡，2005年乡镇合并，合并为石婆固镇。
    现在的塔铺村共有人口3500余人，为便于管理，早在上世纪的1975年分塔一、塔二两个行政村。当代中国著名作家刘震云曾在这里学习、生活、工作过，塔铺中学是刘震云学习、工作过的学校，1978年，他就是从塔铺中学考入北大中文系的，其成名作《塔铺》等作品中的人物原型就在塔铺村。