孫殿英講完，隨從們誰也不敢作聲，都神秘地望著他。
見狀，孫說：“夢隻當是夢，咱們還是睡吧。”大夥兒睡下約過了一個時辰，孫殿英又風風火火地把隨從們叫醒，說怪了，剛才又做了一夢，與前次的夢一模一樣.隨從中有腦子靈的說：“恭喜我師，必定是神仙降寶於你，不必猶豫快去取吧。”
孫殿英大喜，便率眾人朝房後尋去。房後果然有山，山後果然有廟，廟內金光閃閃，進門一看，原來是寶劍放光。孫麻子連忙跪下，磕頭如搗蒜，口中念念有詞：“謝恩太公，謝恩祖師。神仙不遠，弟子在下，請受我一拜。”磕拜完畢，捧劍而歸。
從此，這“太阿寶劍”不僅成了他的護身之物，而且也成了他的鎮山之寶。
孫殿英幾次對人講，他平常將劍掛在寢室之中，到了夜晚，有時它會放出耀眼的光芒來。如遇寶劍放光，便有喜事臨門，大吉到來。他的隨從們還說，神劍有時還錚錚作響，隻要劍響，一兩天內孫老殿定要殺人，靈得很。
遇有行動，每次孫殿英都要用黃綾子將劍包裹好，令親信隨從背負而行，命可丟，劍不能丟。一直到後來他當了大官，指揮數萬人馬的時候，也都隨身帶著這把劍。
靠這把劍，孫殿英做了這支隊伍的名正言順的頭領。靠這把劍，還使他的隊伍不斷地擴大且在他幾落之後，又能幾起。
孫殿英耍手腕，以劍附神，但這“神劍”屬平常之物，隻不過人為的附上了一點“神氣”罷了。當後來他在東陵挖出乾隆寶劍時，反複撫摸，幾乎一夜未眠。拿出“神劍”來與之比較，簡直一個是土，一個是金。這等寶劍他哪能舍得送人呢？即使是蔣介石當時真的找他要這把寶劍，他也不會輕易給的，況且在孫麻子的眼裏，蔣介石的分量還沒重到使他頂禮膜拜的程度：他蔣介石算老幾，不也就是個幫頭嗎?我孫老殿也還想著要做做中國的皇帝呢！
1922年，北洋軍閥吳佩孚在洛陽時，曾嚴令緝捕孫殿英這個毒販。孫在洛陽不能立足，乃逃往陝西躲避。他在販運毒品時結識了河南陸軍第一混成團團長兼豫西鎮守使丁香玲部的官佐，因而在鎮守使署混得了一個副官職位，不久升為機關槍連連長，居然成了一名軍官。以後利用第二次直奉戰爭期間駐豫西軍開赴前線之機，率部嘩變，搜羅禹縣、臨汝縣等縣土匪和廟會道徒，一時聲勢頗大。
1925年春，孫殿英和其他匪首被收編，孫任第五混成旅旅長。後又改投國民第三軍副軍長兼第一師長葉荃部下任旅長，旋複升師長。土匪出身的山東軍事督辦張宗昌與孫殿英見麵後，十分賞識他，就委任其為第五師師長。在張宗昌的羽翼下，孫殿英部逐漸發展成為一個流寇式的軍事小集團。
l926年春，張宗昌與李景林合向國民軍反攻，孫殿英率部襲擊了國民軍第三軍所屬徐永昌部，為張立下了顯赫戰功，張宗昌即將孫殿英部改編為直魯聯軍第三十五師，後又擴大編製，以孫為軍長。在直魯聯軍節節敗退之際，善於見風使舵的孫殿英更換旗幟，投靠時任國民革命軍第六軍團總指揮的徐源泉，孫殿英任第十二軍軍長，打起青天白日的旗幟。