上海在開埠之前是一個非常落後非常不起眼的小漁村，這是人們關於上海歷史流傳最廣的說法，然而事實真的是這樣嗎？
戰國時期上海的大部分地區都還泡在海里，上海西南的松江區最先成陸，松江是上海之根
三國東吳時，整個上海連一個縣都沒有，歸吳郡嘉興縣管轄。上海除了一個叫華亭的地名，《三國志·陸遜傳》記載「遜徑進，拜撫邊將軍，封華亭侯」。東晉時在吳淞江邊築壘稱滬瀆壘。位於當時的海邊不遠處。南朝沒有變化，上海在地圖上「空空如也」。畢竟在那個時候，現在的上海有一半是泡在海里的。南朝後期，梁朝在現在上海市的最西邊，設置了崑山縣，和現在的江蘇崑山不是一個地方。隋文帝滅陳統一後，撤銷崑山縣，但過了十年，開皇十八年，又恢復了崑山縣。
唐天寶十年（751年），吳郡太守趙居貞奏劃崑山南境，嘉興東境，海鹽北境，置華亭縣，華亭縣屬吳郡唐乾元二年（759年），改吳郡為蘇州，隸浙江西道。公元751年華亭建縣時19017戶，90360人，同時期南海郡64250戶，可見剛成立的華亭縣人口並不少。
上海青龍鎮（遺址在今青浦區白鶴鎮松江村）北臨吳淞江，東瀕大海，地處江海要衝，逐漸發展成為上海地區最早的貿易港口，宋代曾在此設立市舶司。北宋熙寧十年青龍鎮位交商稅15879貫，在經濟發達的兩浙路的17個巨鎮中居於首位，是排在第二位的越州（今紹興）曹娥鎮的3.22倍，第三位漁浦鎮的4.9倍。後來隨著河道的淤積，青龍港口漸廢。青龍鎮遺址出土的瓷器數量巨大，窯口豐富，且與目前朝鮮半島和日本考古發現的器物組合十分相似，考古發現與文獻相印證，證明了青龍鎮是海上絲綢之路重要的貿易港口之一。
青龍鎮遺址出土的唐代鸚鵡銜枝紋銅鏡
青龍鎮遺址出土的唐代長沙窯執壺
元滅南宋後，上海迎來了比宋朝更輝煌的時候，出現了地級市松江府。元世祖忽必烈至元十四年，公元1277年，元朝把華亭縣升為華亭府。第二年，華亭府就改稱松江府。1290年松江府華亭縣東北部分鄉分出，新設上海縣，一般以1291年作為上海正式設立行政建制的年份，也就是說最開始的上海是松江府的一個縣，現在的松江是卻是上海的一個區，行政層級顛倒了。元代松江黃道婆改進紡織，松江大布行銷天下。買不盡松江布,收不盡魏塘紗。
明初1393年，松江府的人口就達到八十萬人。在人口不多的明初，可是一個相當龐大的數字。明代松江人才輩出，進士數量在全國地級市中排名第一。明代松江著名人物包括內閣首輔徐階，著名書畫家董其昌，書法家陸深（陸家嘴就是陸深家的後花園），近代科學先驅徐光啟（現在寸土寸金的徐家匯是徐光啟世居地），抗清烈士陳子龍，夏完淳。
董其昌一幅真跡可以讓一個人幾輩吃喝不愁。董其昌雖然在藝術上造詣很高，但是人品十分不堪。
清代康熙年間廢除遷海令，雍正年間負責監管東海沿岸港口貿易的江海關從連雲港遷到了松江府上海。幾年以後，將蘇松太道的治所放在了上海。蘇松太道監察蘇州、松江、太倉三個州府，所謂「道台」雖然只是省級行政的派出機構，但後來的權力在百姓眼中與地方政府相似，甚至權勢可能大於州府。這樣，上海雖然名義上還是一個縣城，但儼然有制衡幾大州府城市的意味。
嘉慶時期上海縣地圖，黃浦江被排除在城外。城牆修建於明嘉靖年間，主要是為了抵禦倭寇
嘉慶時期上海縣地圖，上海縣從1291年建縣一直沒有城牆，城牆修建於明嘉靖三十二年（1553年），主要是為了抵禦倭寇，為了防止倭寇從黃浦江溯游攻擊上海縣，所以黃浦江被排除在城外。開埠以後的上海城市格局沿黃浦江租界發展。
行政級別的提高和解除海禁導致的商業繁榮，導致城牆內以上海本地人和官僚為主的上海，城牆外以外地商人的公所和商業活動為主的上海。上海城牆內也有很多商業行會組織，尤其是作為商業中心的城隍廟一帶。但隨著在上海做生意的外地商人越來越多，他們建立的同鄉會兼商會組織——公所大都設在城牆的外面，再加上港口位於城牆之外，沿黃浦江的今天十六鋪、董家渡一帶，城牆修築之前就是上海縣城的一部分，雖然後來被劃到城牆外，那裡的聚落和活動一直在延續。