相传崇祯十四年，闯王李自成带兵围攻南阳，南阳总兵猛如虎逼迫老百姓上阵，不从者以通贼论罪，杀灭全家，死于猛如虎屠刀之下的老百姓无数。城破后土寇周加礼复犯南阳，抢劫焚烧，杀人为食，使战乱后的南阳残垣断壁，尸体到处可见。狂犬成群，食尸成性，扑咬行人。清初顺治年间，首任南阳总兵张应祥，令士兵刺杀野狗，清理尸骨，使老百姓重建家园。在玄庙观前挖万人坑，埋葬众骨，在附近高阜筑台，每年开道场，请僧、道念经以超度鬼魂重生，登台遥望家乡。这就是望乡台的来历。 

    还有一个传说叫“望仙台”，是玄庙观道士们升天的地方。每年七月十五日，道士们选出道行深的道士沐浴整容，穿戴整齐，到望仙台中央，席地盘坐，闭目念经，坐到中午便会飘然升起，变成神仙。数年之后，南阳新任知府不信鬼神，通过明察暗访，知道是西北五朵山中的一个巨蟒作怪，巨蟒来时狂风大作，乌云满天，飞沙走石，巨蟒张开大口把道士吸入口中。知府设计锄掉巨蟒，从此再也没有道士升天的事情发生。