雍熙三年，宋太宗为了收复被石敬唐割让给辽的幽云十六州，发动了对北辽的战争，张去华再次被委以督运军粮的重任，奉诏领河北转运使事。不过，他这次没有能够出色完成任务，所督运的军粮被辽军设伏截击。张去华因督粮不利调任知陕州（治所在今河南陕县）。临行前，他向宋太宗献上自己的新作《大政要录》三十卷，宋太宗阅后下诏褒奖，赐绸缎五十匹，并决定将他留在京师。
    端拱元年，太宗任命许王赵元僖为开封府尹，同时，授张去华开封府判官、殿中侍御史陈载开封府推官，并赐服紫、佩金鱼袋，享受三品高官的礼遇，各赐钱一百万。
    宋太宗将张去华、陈载召至殿前，告诫他们：“你们都是朝中端士，朕特加选用，希望你们能尽心辅佐亲王。”宋太宗还通过枢密使王显传达他的旨意：有意立许王为太子，希望身为亲王幕僚的张去华能够恪尽职守，辅佐好许王。一年后，张去华迁左谏议大夫（正五品上）。
    但是，张去华却因在开封府判官任上徇私被贬官，辜负圣恩。事情是这样的：庐州尼姑道安向开封府状告自己的弟妇，而她的弟妇是左散骑常侍徐弦的外甥女，徐弦私下写信给张去华向他求情。张去华顾及与徐弦的友情，借口被告不在开封府而不予受理，并将案件退回庐州审理。道安不服，就在京城的登闻鼓院击鼓喊冤，控告徐弦与张去华徇私不公。太宗闻言大怒，贬张去华为安州司马，赋闲反省。
    一年后，宋太宗怒气渐消，决定重新用张去华，任命他为将作少监（从六品）、知兴元府。张去华还未赴任，又改知晋州（治所在今陕西临汾），后迁秘书少监、知许州（治所在今河南许昌）。
    宋真宗即位后，张去华复官左谏议大夫。他向真宗献《元元论》，主张国事当以养民、务农为急，受到真宗的嘉奖。不久，张去华迁给事中、知杭州（治所在今浙江杭州）。
    在知杭州任上，张去华竭力主张减轻两浙民户沉重的赋税负担。北宋政府保留下了吴越钱氏时期的民丁钱，即便是人死后民丁钱也照旧征收，这是极不合理的。张去华上奏朝廷，要求取消两浙的民丁钱，管理财政的三司官员却认为两浙是财税大户，不宜去除，这让张去华倍感失望。咸平二年，张去华调任知苏州（治所在今江苏苏州）。张去华感到自己政见难以被朝廷采纳，又没有入朝做官的机会，决定辞职。他上疏请求分司西京（洛阳）。所谓“分司”，是一个只享有俸禄而没有实权的闲职。他的请求很快得到朝廷批准。
    洛阳以名花、名园、名居闻名于世，是达官贵人退隐的好去处。张去华分司洛阳后，不再过问政事，专心经营自己的花园、居室，并建造中隐亭，整日悠游其间。景德元年。他又上疏请求致仕。宋制，官员年70许致仕。张去华只有67岁，还没到退休的年龄，不过朝廷还是同意了他的清求，诏迁工部侍郎致仕。景德三年，张去华病逝，享年69岁。
    张去华英俊洒脱，才华出众，善于言辞，有涵养，尚气节。他在担任道州通判时，得知父亲好友何氏遗有二子，无人照顾，就把他们带到京师，送进学馆，供给费用。这两个孩子后来都登第入仕。张去华先后在后周世宗、宋太祖、宋太宗、宋真宗朝任职，凭自己的才学得到四位皇帝的器重。但是，由于他在仕途升迁上略显浮躁，加上他为人不拘小节、不修边幅，不能被当时的清议所包容，所以没能入朝，施展更大的抱负。
    张去华育有十子，张师德是最小、最受父亲宠爱的儿子。张去华曾打算将门荫做官的资格让给张师德，却遭到拒绝，这令他非常感动。果然，宋真宗大中祥符四年，张师德通过自己的不懈努力，荣登榜魁。父子同为状元在当时被传为佳话。