近代的考古发掘中，在开封的万隆岗遗址中，在尉氏县县城西南的断头岗，发现了一处新石器早期裴李岗文化遗址。考古发掘证明，早在五、六千年前，在开封就已经有了人类活动。

夏朝（帝杼）曾在开封一带建都232年，史称老丘。公元前8世纪，春秋时期的郑庄公在今开封城南朱仙镇附近修筑储粮仓城，取“启拓封疆”之意，定名启封。汉初因避汉景帝刘启之名讳，将启封更名为“开封”，这便是“开封”的由来。

公元前361年，战国时期的魏惠王迁都大梁，这是开封有明确历史记载的第一次建都。魏惠王迁都大梁之后，他引黄河水入圃田泽（今郑州圃田）开凿鸿沟、引圃田水入淮河。水利既兴，农业、商业得到极大发展，日趋繁荣。他还修长城、联诸侯，国力日盛，乃得称霸于诸国，使大梁城与秦国的咸阳、楚国的郢都并列，成为当时国内最发达的名都大邑。魏国在大梁建都，历六世136年。在这136年里，曾发生了孟子游梁、窃符救赵，以及孙膑、庞涓等诸多故事，也给开封遗留下不少古迹，不愧被人称为开封古城第一都。

上海419论坛秦统一六国后，实行郡县制，开封作为败亡国的国都被降为浚仪县，属三川郡。“浚仪”作为开封的名称，一直沿用了八百年左右。 公元534年东魏孝静帝时，设立梁州辖陈留、开封、阳夏三郡。北周武帝建德五年，改梁州为汴州，这是开封称汴之始，由县治改为州治，失落了数百年的开封重又慢慢的恢复了元气，开封也成为北魏对南部各朝作战的水运线上的八个重要仓库之一。北齐文宣帝天保六年（555年）和天保十年（559年）分别建了着名的建国寺（大相国寺）和独居寺（今铁塔一带），佛文化的发展对后来的东京文化的勃兴做了前期的准备。