开封曾是战国时期魏国的都城，当时叫大梁。魏国重建大梁城，其东门恰在夷山附近，人们便俗称为夷门。夷门就在现在开封铁塔公园的位置。《读史方舆纪要》中说：“（开封）门内有土阜曰夷山。或曰，大梁旧有夷门，盖本于此。”还有一句诗说“夷门自古帝王州”，夷门成了开封的别称，当时全城有１２个城门，夷门是其中之一。

    魏国有一个隐士，名叫侯嬴，史书上说：“侯嬴，年七十，家贫，为大梁夷门监者。”尽管是看门的小官，侯嬴却是一个了不起的隐士。魏国的贵族公子信陵君喜欢结交天下贤士，他听说侯嬴家境贫寒，想送他厚礼，侯嬴坚辞不受。信陵君请侯嬴赴宴，魏国的将相、宗室等在座，信陵君请侯嬴坐在上座，把宾客介绍给他，并亲自到侯嬴面前敬酒，两人由此成了知己之交。

    魏安王二十年，秦昭王击破了赵国的军队，进兵包围邯郸。信陵君的姐姐是赵惠文王弟弟平原君的夫人，送信给魏王和信陵君求救。魏王派将军晋鄙率十万部队援救赵国。秦王警告魏王，不让魏国救赵，魏王恐惧，让晋鄙率领军队留在邺城，观望形势。信陵君不能说服魏王，他准备车骑百余辆，想带着宾客前往救赵，路过夷门，见到侯嬴，把想自己领人去救赵的想法详细告诉了侯嬴。侯嬴让信陵君求如姬相助，盗得兵符。公元前２５７年，信陵君带兵符北上抗秦救赵，侯嬴相送时说：“臣宜从，老不能。请数公子行日，以至晋鄙军之日，北乡自刭，以送公子。”侯嬴在夷门践约自刎，以死激励信陵君北上救赵，留下了一段和开封夷门有关的“士为知己者死”的传奇。

    公元前２２５年，秦国大将王贲久攻开封城不下，就决水灌城，繁华的魏都毁于洪水，夷门也被洪水冲毁。西汉的司马迁曾来到开封的夷门旧址，徘徊凭吊，看着残破的遗迹，司马迁慨然长叹道：“大梁之墟呀！”可是，夷门已经荡然无存了。