賈樟柯多次強調，《上海傳奇》的主體是上海這座城市，但電影裏涉及的區域並不會局限在浦江兩岸。影片會以百年上海的曆史為時間線索，關注上海人的遷徙。從晚清閩粵人入遷開始，跟隨不同的曆史背景來記錄這座城市的人口變遷。“視點會放在上海與其他城市的關係，因此會去美國紐約、日本東京、中國台北和香港等城市拍攝。‘上海’無處不在，我們會尋找散落在全世界的上海人，我想了解的是他們的個人故事。”他從美國、俄羅斯、法國等全球各地調回舊上海的影像，放進這部紀錄片。而關於上海的當代部分，賈樟柯提起：“我特別想拍一些很當代的空間，比如說深夜便利店的年輕人。”
在3年來閱讀關於上海的文獻資料，30天帶著相機徒步上海的基礎上，賈樟柯初步完成了準備工作，其執導的紀錄片《上海傳奇》2009年5月31日在上海光陸大戲院舊址舉行了開機儀式。
在發布會現場，一直滾動播放賈樟柯在過去一個月內徒步於上海的大街小巷時所拍攝的影像。他興奮地說道：“徒步的行走，讓我注意到這座城市很多有趣的細節，從中更能仔細體會到這座城市的不一樣。上海的每個區都有自己的性格，每幢樓宇、每個弄堂裏都有不一樣的故事。”
出席開機儀式的還有上海市文廣局局長、世博局副局長朱詠雷，上影集團總裁任仲倫，世博局宣傳部部長徐威，出品方代表李京怡等。
任仲倫在開機儀式上介紹，《上海傳奇》由上海世博會事務協調局聯合拍攝，上影集團、西河星彙（北京）、怡明時空（北京）國際傳媒廣告有限責任公司、星藝視界（北京）國際娛樂文化有限公司聯合出品，該片將係統梳理上海百年曆史，呈現上海的當代魅力。他強調，“在世博會的契機下，讓上海的當代氣質萬代流傳，是無法用金錢衡量的工作”。任仲倫對這部紀錄片抱有很大寄托，他稱，“上海一直缺少一部係統梳理其百年曆史的經典影像，賈樟柯導演的紀事風格和他對人物及城市命運的一貫關注，與我們拍攝《上海傳奇》的初衷非常契合”。他相信，“這部電影將會為上海這座不朽的城市留下當代最為珍貴的影像記錄。”
任仲倫介紹說，最初在策劃這部片子時，曾考慮過找六位國際知名導演聯手拍攝，“當時我們設想的有阿薩亞斯、侯孝賢、賈樟柯等，希望他們以國際的眼光來打量這個城市”。這個想法最終沒有通過，因為包括任仲倫在內的策劃者都覺得“六大國際導演一起拍攝，更高的價值在於其形式感，反而因為每個人隻拍攝一小段，在內容上未必很全麵”。
基於這樣的考慮，最終《上海傳奇》的拍攝任務落到了賈樟柯這個山西人一個人身上。“賈樟柯雖然不是上海人，但他對於這座城市充滿了好奇。”他認為，“上海是一座海納百川、極具開放性的城市，很多在這裏支撐起上海文化脊梁的文化大師，比如魯迅和矛盾等都不是上海本地人，我相信賈樟柯的視角肯定能別開生麵”。
開機當日，劇組在上海外灘源光陸大樓（現為外貿會堂）進行拍攝。光陸大樓始建於1928年9月，位於虎丘路146號，共八層，底層為赫赫有名的光陸大戲院。它是好萊塢各大製片廠當年在遠東的最大辦公室，來自世界各國的電影商經常雲集在此，很多好萊塢大片都曾選擇在這棟樓內的大戲院進行遠東首映。光陸大戲院是當時上海票價最貴的電影院，別家戲院花六角能看場好萊塢大片，在這裏要花大洋一元，那時上海的達官貴人為此仍趨之若鶩。