徐樹錚算得上是段琪瑞的首席智囊，有“小扇子軍師”之謂。早在清朝末年，段祺瑞任第二軍軍統，徐樹錚已做他的參謀長。嗣後徐乃一直做段的副手，他早年曾向袁世凱投剌，因偶然不獲知遇，恨恨不已。也是偶然，在客棧中閑居得遇訪友的段合肥，後者見其書法遒勁，頓生好感，從此倚為股肱。《徐樹錚秘史》中說：“合肥（段祺瑞）視為心腹者，唯徐樹錚。帝製將作，力助合肥拒袁陰謀者，徐樹錚也；黃陂（黎元洪）就任，造成府院之嫌隙者，徐樹錚也；河間（馮國璋）北上，唆奉軍截械秦皇島者，徐樹錚也；組織政黨，使安福係毒遍天下者，徐樹錚也；破壞禮儀，肆其離間政策，而窮兵黷武者，徐樹錚也；合肥下野，挑起皖直之惡者，徐樹錚也；東海登台，把持政柄，而使內閣屢倒者，徐樹錚也。其人之聰明才智，均屬不可多得。”
徐樹錚1905年留學日本士官學校，不到30歲即任段祺瑞所部第六鎮軍事參議及第一軍總參謀。1916年袁世凱暴卒後，任國務院秘書長。他是秀才出身，但他最為迷信武力。他敬服孫中山先生，始終不渝。1919年，徐樹錚任西北籌邊使兼西北邊防軍總司令，曾短暫收複外蒙。此事他不特向大總統彙報，也告知在上海的孫中山先生。他在外蒙古期間，倒做了許多有益於蒙古的事，種菜、辦報、修路、辦銀行、辦學校，等等。
薛觀瀾說：“徐氏對部屬甚表親善，向無疾言厲色。且能循遁善誘，使吾輩致力於國文，每日須寫筆記，還要上課兩小時。徐亦勤於治學。”徐樹錚和柯劭忞、林紓、姚永樸、馬其昶等人都曾是交遊甚密的文友，稱之儒將，恰如其分。他給朋友寫信談及讀書有雲，“近十三經中，唯餘公穀未畢，非不知貪多為害，特以不能詳博，何由返約？故也不憚其繁也……”他進一步認為，加上《國語》《國策》以及《說文》《廣雅》《方言》等書，由十三經擴展合為二十經，“中國經世大文，殆可包舉無遺”。他對段祺瑞的謀略貢獻，亦多以中國古人經訓為基座，衍變成現代政治的行事軌轍。其治學之誌節，經國之意見，實有博大之眼光。
段祺瑞視之為智囊、文膽甚至靈魂，對其所策劃，鬼使神差般予以施行。
不管他自己的氣度或智力是否足夠，徐樹錚的做派是到位的了，一種大才盤盤、天馬行空的味道烘托到極點。他是縱橫家，又是文學家，楊宇霆、王蔭泰等人甚至刻意模仿他的做派以為炫耀，張謇讚其有霸才。不過當時論師以為他的南方書生氣質過於濃厚，而北方氣概不足。這般縱橫家們總在相互侮弄對方的智力武力，最後他們也被那隻看不見的手所侮弄。
徐樹錚沒有做成直隸督軍，轉而就任西北邊防軍總司令，他常說：“優秀的將領，非有文才不可，所以我練邊防軍，團長以上，都用文人居多。”又說，“文人操守較佳，緩急之時，亦比較可靠。”
薛福成之孫薛觀瀾曾任北洋政府駐津外交特派員，他以為徐樹錚雖係一介武夫，但對國學造詣頗深，“當其在英訪問時，英人曾請其發表演講，徐以中國之音樂為題，對國樂力加闡揚，深入淺出，議論精辟，聽者為之動容，初不意中國軍人，竟有如此高深之文化修養。當然，段之派徐出國訪問，是有其深遠的意義的；他要培養徐的國際聲望，以備大用”。
陸建章也是段祺瑞的安徽老鄉，陸建章授意其侄婿馮玉祥在武穴通電主和，活動被徐樹錚所偵悉，遂擅自決定幹掉陸建章。1918年夏天，徐樹錚，這個北洋係統中的晚輩，在天津奉軍司令部誘殺北洋元老、陸軍上將陸建章，在那交叉花園的小徑上，以作詩的名義，向他後腦開槍，使其死於非命。
辛亥年他替袁、段謀劃，逼使清廷退位。袁世凱方疑惑，樹錚提議由前線軍官聯名進諫朝廷，說是如此無論事成與否，可保進退無虞。軍人逼宮，來勢洶洶，清廷無從回旋。袁世凱聞之，甚覺穩妥。其間用意不可謂不密實。另外此舉表現出巨大內力，南方革命黨難以問鼎，且有嚇阻之作用。段祺瑞任陸軍總長，徐樹錚便順理成章當上了陸軍部次長，軍部常務得以獨攬。徐樹錚工於心計，善陳形勢利害。但也有失算之時，吳佩孚一度打算投靠段祺瑞，因徐樹錚對他十分提防，設計離間，使段祺瑞對吳佩孚產生惡感，吳佩孚遂轉而投靠曹錕，後來成為結束皖係統治的人物。