夏商時代：屬徐州人方東夷。
西周時代：屬青州（一說兗州）人方國東夷。
春秋戰(zhàn)國時期：先屬魯后楚，屬郯子國。
秦代屬東?？?，該郡轄朐縣、郯城、蘭陵、襄賁、繒、下邳、淮陰、盱眙、東陽、堂邑、廣陵、凌12個縣。
西漢屬徐州刺史部東?？ぃ摽ぽ犽钥h、郯城、蘭陵、襄賁、繒、良城、下邳、平曲、戚、開陽、臨沂、利城、海西、蘭祺、南城、山鄉(xiāng)、即邱、祝祺、費、厚丘、容邱、東安、合鄉(xiāng)、丞、建陽、曲陽、司吾、于鄉(xiāng)、都陽、陰平、吾鄉(xiāng)、武陽、新陽、建凌、昌慮、都平、建鄉(xiāng)、平曲38個縣。
東漢時期隸屬于徐州刺史部東海郡，該郡轄朐縣、郯城、蘭陵、襄賁、戚、利城、祝祺、承、厚丘、合鄉(xiāng)、昌慮、贛榆、陰平13個縣。
三國魏時屬東海國，該國轄朐縣、郯城、蘭陵、襄賁、戚、利城、祝祺、承、厚邱、昌慮、合城11個縣。
西晉時期隸屬于徐州東?？?，該郡轄朐縣、郯城、蘭陵、襄賁、戚、利城、祝祺、承、厚邱、昌慮、合鄉(xiāng)、贛榆12個縣。
東晉時期屬東?？?，先后歸于后趙、前燕、南燕、東晉。該轄朐縣、郯城、利城、襄賁、祝祺、厚邱、贛榆7個縣。
南朝前期屬東?？?，該郡轄齊郡、東莞、瑯玡、西海、東海、北?？?；南朝后期僑置青州、冀州，轄地同上。
南朝齊、梁僑置：
1. 東莞郡、瑯玡郡，轄即丘、南東莞、北東莞3個縣
2. 北東?？ぃ犗遒S、僮、下邳、厚丘、曲城5個縣；
3. 北?？ぃ牰疾?、廣饒、贛榆、膠東、劇、下密、平壽7個縣；
4. 齊郡。轄臨淄、齊安、宿豫、尉氏、平慮、昌國、益都、西安、泰9個縣。
北朝東魏僑置瑯玡郡（稱海州朐縣）：
1. 東彭城郡，轄龍沮、安東、勃海3個縣。
2. 東海郡，轄贛榆、安流、廣饒、下密4個縣；
3. 海西郡，轄襄賁、海西、臨海3個縣；
4. 沭陽郡，轄下邳、臨渣、懷文、服武4個縣；
5. 瑯玡郡，轄朐、海安、山寧3個縣；
6. 武陵郡，轄上鮮、浴安2個縣。
北齊、北周置海州：
1. 東海郡，轄廣饒、東海2個縣；
2. 朐山郡，轄朐山縣；
3. 武陵郡，轄上鮮、洛安2個縣；
4. 沭陽郡，轄沭陽縣；
5. 海安郡，轄襄賁縣。
連云港宋太宗至道三年（西元998），分天下為十五路，海州屬淮南路。宋神宗熙寧五年（西元1073），分淮南路為淮南東、西路，海州屬淮南東路。宋高宗建炎年間（1127-1131），海州為金侵占。宋高宗紹興三十一年（西元1162），海州復(fù)歸南宋。宋孝宗隆興年間（1163-1165），海州再割讓金國。宋寧宗嘉定十二年（西元1220），海州再歸南宋。宋理宗景定二年（西元1262），海州改為西海州。宋恭帝德祐元年（西元1275），西海州為元所占，復(fù)改為海州。
元世祖至元十五年（西元1279），升為海州路總管府，領(lǐng)朐山、沭陽、贛榆（懷仁縣改）、東?？h及錄事司。后改為海寧府。元世祖至元二十年（西元1284），海寧府改為海寧州，錄事司與東?？h均并入朐山縣。海寧州改屬淮安府路。元世祖至元二十八年（1292），設(shè)立河南江北等處行中書省。海寧州屬河南江北行中書省淮東道宣慰司江北淮東道肅政廉訪司淮安路。元順帝至正二十七年（1367），海寧州歸吳，屬江南行中書省。
明太祖洪武元年（1368），海寧州復(fù)改名海州，屬淮安府，廢朐山縣，沭陽縣直屬淮安府。海州至此保有州治和贛榆縣，從唐貞觀元年（西元627）以來的局面從此被打破，相當于今天連云港區(qū)、贛榆縣、東?？h、灌云縣、灌南縣。同年，廢江南行中書省，海州屬中書省淮安府。明太祖洪武十三年（1381），廢行中書省，淮安府歸六部直轄。明思宗崇禎十七年（1644），海州為滿清侵占。
清順治二年（1645），設(shè)江南省，屬江南省淮安府。清康熙六年（1667），江南省分出江蘇省，海州屬江蘇省淮安府。清雍正二年（1724），海州升為直隸州，統(tǒng)州治及贛榆、沭陽二縣，脫離淮安府管轄，相當于今連云港區(qū)、贛榆縣、東?？h、沭陽縣、灌云縣、灌南縣、響水縣。
民國元年（1912年），改海州直隸州為東?？h?？h治設(shè)于今海州區(qū)。因東瀕大海，故稱東海。1912年4月，析縣境東部11鎮(zhèn)設(shè)置新縣灌云縣。東海縣初屬江蘇省徐海道，后屬江蘇省第十三、第八行政督察區(qū)。 1933年，隴海鐵路終端港建成。1935年國民政府將東海、灌云各劃出一部分成立連云市，區(qū)域：臨洪口以南，燒香河以北，東至東西連島，西沿臨洪河新浦、板浦以東為范圍。為江蘇省第三個省轄市和全國較早的省轄市（民國時期市縣平級）。
抗日戰(zhàn)爭時期，由于日軍封鎖隴海鐵路，東?？h境域被分割成南北兩部分。以隴海鐵路為界，中國共產(chǎn)黨先后建立了兩個抗日民主政府。鐵路南于1940年11月建立的東?？h民主政府屬華中局淮海區(qū)，大部分地域?qū)巽痍柨h，包括今東海縣安峰鎮(zhèn)、曲陽鄉(xiāng)、房山鎮(zhèn)、平明鎮(zhèn)和張灣鄉(xiāng)南部。鐵路北于1941年8月建立海陵縣民主政府，先后屬山東省魯中南行政區(qū)、濱海區(qū)、臨沂專區(qū)。
1945年11月，海陵縣更名為東海縣（1949年5月，路南東海縣撤銷，其所轄區(qū)域并入沭陽縣和灌云縣，此后，只有一個東海縣，屬山東臨沂專區(qū)。隴海鐵路北縣境西部1933年后屬郯城縣，包括今桃林鎮(zhèn)、山左口鄉(xiāng)和李埝鄉(xiāng)西部）。
1946年4月1日，連云市第一任市長張振漢到任。（因爆發(fā)抗戰(zhàn)，連云市籌備被迫中止，故1946年才出現(xiàn)市長） 1948年11月20日，中共魯中南行署轉(zhuǎn)山東省政府命令：東?？h境劃新浦、海州、連云港、云臺山地區(qū)設(shè)立新海連特區(qū)。
中華人民共和國成立后，仍屬山東魯中南行政區(qū)。先稱新海連特區(qū)后稱新海連市（1949年11月建立），轄新海市、連云市、云臺辦事處（后又分前云臺區(qū)、后云臺區(qū)）兩市一區(qū)。 新海連市時，轄新華區(qū)、民主區(qū)、錦屏區(qū)、浦西區(qū)、云臺區(qū)、連云區(qū)等7個區(qū)。1950年5月，新海連市和東?？h合并為新海縣，年底恢復(fù)新海連市和東?？h建制，隸屬山東省臨沂專區(qū)。
1953年1月1日起劃入江蘇省，屬徐州專區(qū)管轄，1961年10月1日，新海連市面向連島、背倚云臺山，因港得名改連云港，1962年升為江蘇省轄市。1983年國家地市體改時，江蘇省將原徐州地區(qū)的贛榆、東海兩縣與原淮陰地區(qū)的灌云縣劃歸連云港；1996年江蘇省又將淮陰市的灌南縣劃歸連云港，轄四縣四區(qū)。
2001年10月1日國務(wù)院批準，撤銷云臺區(qū)，將云臺區(qū)的朝陽鎮(zhèn)、徐圩鎮(zhèn)、板橋鎮(zhèn)和中云街道劃歸連云區(qū)管轄，南城鎮(zhèn)、花果山鄉(xiāng)、云臺鄉(xiāng)和猴嘴街道劃歸新浦區(qū)管轄。
2014年5月，經(jīng)國務(wù)院批準，撤銷贛榆縣，設(shè)立連云港市贛榆區(qū)；撤銷新浦區(qū)、海州區(qū)，設(shè)立新的連云港市海州區(qū)。
