開封城墻原為隋唐汴州城。唐建中二年（731年），永平軍節(jié)度使李勉擴筑。五代的后梁、后晉、后漢、后周和北宋相繼建都開封，對開封城墻都有不同程度的修葺。北宋在此建都163年中，對東京城池又進行了大規(guī)模的擴建加固，使京城規(guī)模宏偉壯麗，舉世聞名。
東京開封城墻包括外城、闕城、宮城三重。外城、宮城僅成遺跡。
闕城，即宋代內(nèi)城，一名里城，或名舊城，周圍20里155步，另一說21里。李勉重筑后，宋代屢有增修，南面三門，東面二門，西面二門，北面三門，共有10個城門，東西兩面還有兩個水門。金人占據(jù)東京后，曾加以擴筑，當時"就取艮岳之土搬筑以為北面城垣，其景龍江改為城濠。"
元世祖至元二十七年（1290年），重修汴梁城。至正十七年（1357年），元守將為防紅巾軍攻城，將汴梁城"四方城門只留五座，以通往來，余八門俱塞。"
明洪武元年（1368年），重筑開封府城，一改舊式土城結(jié)構(gòu)，砌以磚石，周圍20里190步，高3丈5尺，廣2丈1尺，護城河深1丈，闊5丈。建有5個城門，東2，南1，西1，北1；角樓四座，敵臺84座，警鋪83座，城門建有月城三重。永樂、嘉靖年間也曾重修。明崇禎十五年（1642年），河決灌城，水退后，"開封舊城郭俱被泥沙圍擁地下，垣形卑甚，"殘破不堪。
清康熙元年（1662年），重修開封府城，"各門營建如舊制"。乾隆四年（1739年）、二十二年（1757年）、二十九年（1764年）又重修；道光二十一年（1841年）河又圍城，水退后再次重修，自道光二十二年（1842年）三月開工，至道光二十三年（1843年）九月竣工。經(jīng)過這次修復(fù)，城高原僅2丈4尺，修復(fù)時又增高1丈，上寬1丈5尺，底寬2丈，并添女墻6尺。這就是現(xiàn)存的城墻，經(jīng)建設(shè)局測量周長14．15公里。
1928年，在南門東邊另開一門，直對北門，名新南門，俗呼小南門；1931年，拆去各城門樓。
1954年在南門西邊（西南門），1957年在西門南邊（小西門）各開一門，1959年，在宋門、曹門之間辟一門（新開門），1980年又在曹門之北辟一門。現(xiàn)開封城垣共有10座城門，各門甕城已無存，僅留南門甕城。僅有的一座原建的城門--宋門，于1980年也被拆除。1994年，修復(fù)工程開工，先是修復(fù)大南門甕城部分，1997年，又修復(fù)西門，1998年10月，西門城樓落成并對外開放。
現(xiàn)開封城墻，基本保存完好。目前是長度僅次于南京城的一座城墻，完整程度則超過南京城。
開封城屢毀屢筑，大都毀于黃水。但由于高大的城垣，多次大水都賴堅固的城墻，擋住洶涌的波濤。開封城墻不僅外表雄偉壯觀，同時也是防御水患的實用性建筑。
今開封城墻系清道光二十二年（1842年）重建，高8米，寬5米，周長14.4公里，青磚結(jié)構(gòu)，與東京內(nèi)城規(guī)模大體相近。雖不及宋城之宏大，但仍為僅次于西安城墻的國內(nèi)第二大城垣，并于1996年被國務(wù)院公布為國家重點文物保護單位。