第一次釋放
1996年3月12日，回到北京，並帶回要挾牧民得來的3包步槍子彈（75發）和50發手槍子彈。回到北京後，向派出所警察申請辦理戶口受阻，對警察產生仇恨。[1]
批發了剃須刀在西單、香山、八大處等地擺攤銷售，成本100多塊錢，總是被城管懲罰、沒收，再次受到刺激。
由於十幾年來固執地認為自己的量刑過重，又迫切地想給孩子們掙大錢，再加上警察不給辦戶口、做小生意受到屈辱等事，使白寶山走上了通過暴力犯罪瘋狂報複社會的不歸路。
1996年3月31日，21:40，北京市石景山高井熱電廠，用鐵棍砸傷一名值勤的武警戰士，搶走無子彈的“五六”式半自動步槍一把。
1996年4月7日，23:15，北京市西山八大處附近的裝甲兵司令部，向一哨兵連開兩槍，未搶到槍或子彈，受傷的哨兵搶救及時脫離危險。
1996年4月8日，0:15，距上一次作案僅一小時，乘坐一輛寶石藍色無運營證的出租麵包車，在高科技園區實興大廈附近遭遇正在巡邏的石景山公安分局防暴大隊的6名巡警，雙方發生槍戰，白寶山擊傷4名巡警後逃竄。
1996年4月22日，1:45，北京市豐台區八一射擊場，兩槍打死哨兵一名，由於哨兵隻背著空槍套，沒有搶到武器。
結識同歲的、四川來北京做小生意的已婚女子謝某，兩人同居。
1996年7月，來到老家河北省徐水縣，偵查中國人民解放軍某師高炮團彈藥庫附近的人員、地理情況。當天返回北京。
1996年7月24日，徐水，將武器埋藏到兵營附近的一家水泥管廠與果園的交彙處。事畢返回北京。
兩天後（7月26日），第三次來到徐水，7月27日淩晨1時，槍擊三名哨兵，兩死一傷，搶走81-1自動步槍一支。逃竄後將武器掩埋在鐵道邊一個小磚窯邊。返回北京。
1996年8月初，與謝某一同回到謝某的四川老家，找人買槍，無果而返。
1996年9月初，與謝某一同到徐水取走“81-1”式自動步槍及全部子彈，將另一把“五六”式步槍重新掩埋好。
1996年12月16日，12:20，德勝門煙市，蒙麵槍殺一名女攤主，搶得65170元，並擊傷街上的3名男子。逃竄至附近一個垃圾場，把錢、槍、搶來的包分別掩埋在垃圾場的幾個角落，從容地騎車到附近市場為其情婦批發了一些襪子，然後回家。
1996年12月18日，帶其情婦謝某取錢及槍。
自1983年入獄到1996年，白寶山共作案8起，殺5人，傷9人。
新疆作案
1997年，40歲
春節後，白寶山與情婦謝某踏上罪惡的新疆之旅。來到石河子市147團，找到原來的獄友、盜竊犯吳子明，白寶山提出“一起做事”，吳子明馬上辭去警衛工作，開始跟隨白一同作案。
1997年6月5日，白與吳坐班車來到奎屯市。目標是搶劫軍用槍支。22點，兩人摸入奎屯駐軍軍事培訓中心。未來得及搶槍便被一戰士發現，兩人逃跑。兩人放棄繼續作案，連夜徒步返回石河子市。路遇警察的盤查，白掏出槍，警察逃跑。白放了一槍，然後與同夥逃跑。無人傷亡。
1997年6月6日，兩人在荒無人煙的大戈壁中連續步行了20多個小時後，從141團場乘坐班車返回石河子市147團場住地。
1997年7月5日，白與吳來到曾經服刑的新安監獄附近的141團場軍械庫，18點，撬門進入無人看守的空庫房，沒有發現武器。無人傷亡，擊斃庫房看門的狗兩隻。
1997年7月6日，淩晨4時，白與吳連夜返回途中槍殺一名偶遇的走夜路的人。
1997年7月29日，距147團場15公裏處，為搶摩托車，槍殺一名農民，埋在附近的土丘中，屍體一直未被發現，直至白寶山被抓後指認。
1997年8月8日，淩晨，白與吳闖入距147團50公裏的149團場一營警務區警長薑某的宿舍，槍殺薑某及治安員時某，拿走薑某的“五四”式手槍，迅速駕摩托車離開。
兩人向著即將轟動全國的特大搶劫殺人案的作案地——烏魯木齊邊疆賓館進發。
1997年8月14日，兩人到烏魯木齊邊疆賓館踩點，並在附近的新疆大學校園內預先挖好埋槍埋錢的土坑。當晚返回石河子147團場。
1997年8月18日，兩人攜帶武器來到邊疆賓館，當天已經接近收市，兩人決定今天不動手，把槍藏到新疆大學內的坑中，住進附近的鐵路醫院招待所。