實際上，盡管出席費城會議時麥迪遜資曆尚淺（時年36歲，弗吉尼亞議員），威望遠不能和華盛頓、富蘭克林他們相比，卻是這個群英薈萃的會議的核心和靈魂，後來史學家甚至稱他為聯邦憲法之父。這說明麥迪遜必有過人之處。根據佐治亞代表威廉皮爾斯的《製憲會議代表性格描述》，我們發現他有三大優點：一、集政治家的深謀遠慮和學問家的博聞強記於一身；二、熟悉法律和政治，對邦聯的事務了如指掌；三、循循善誘，侃侃而談，特別會說服別人。因此，他在製憲會議中總是處於引導地位，在辯論的任何關頭，總是作為最了解情況的人走在前麵。
托馬斯菲傑遜，美國開國領袖之一，《獨立宣言》的起草人
皮爾斯的說法並不誇張，麥迪遜確實是費城會議的掌舵人。他知道什麼時候應該揚帆遠出，什麼時候應該躲避風浪。5月30日，會議剛剛做出應該建立一個由最高立法、行政、司法部門組成的全國政府的決議，代表們就因全國議會的席位問題產生嚴重分歧。麥迪遜提出，新的全國議會，不能再像《邦聯條例》規定的那樣，每邦１票表決權。這個提議得到賓夕法尼亞代表古文諾莫裏斯的附議，特拉華代表團團長喬治裏德卻提出強烈抗議。裏德說，特拉華代表團的使命，受到本邦議會授權的限製。特拉華議會的授權書說，該代表團不得同意改變每邦１票平等表決權的規則。這個授權，是在會議一開始時就宣讀過的。如果一定要把這種改變確定下來，本代表團就隻好退出會場，回特拉華去了。
這當然不行。盡管麥迪遜仍然堅持自己的觀點，也相信這一改變終將實現，卻認為應該照顧代表們的感情，不能剛一開會就把特拉華代表團弄得很尷尬。他建議暫緩討論這個問題。會議同意了他的建議，改為討論全國議會是否應該實行兩院製。
這個提案在第二天很順利地就通過了。這就形成了會議的第二個政治決議：全國議會應由兩院組成。在後來的幾天中，會議還通過了一係列決議，比方說，全國議會第一院（即眾議院）議員由人民選舉，第二院（即參議院）議員由各邦推選，邦聯議會的立法權全部移交全國議會，全國議會對各邦無能為力的所有事務都有立法權，對各邦議會的違憲立法有否決權，等等。另外，會議還通過決議，設全國行政長官一人。該行政長官控製立法的複決，有權否決議會的立法，但議會兩院可以分別以2/3的多數否決行政長官的否決。這些決議都是十分重要的。它們是與會代表合作的結果。