為了這次政變，張柬之憑借手中的權力和武則天的信任，做了兩件事：
首先是策反官員。他首先策反了右羽林大將軍李多柞。李多祚是靺鞨人，少數民族，為人比較講義氣，沒有那麼多的心機，他是唐高宗時期投降過來的，在高宗朝步步高升，對高宗很是感念，張柬之就利用他這個身世去打動他，結果成功了。
當時，武周王朝直接掌控的京師駐軍有兩支：一支叫做北衙禁軍，負責保衛皇帝及皇宮的安全；一支叫做南衙衛兵，負責保衛中央政府的安全。北衙禁軍的最高統帥就是左右羽林大將軍，李多柞是這兩個最高統帥中的一員，做通了他的工作，政變就有希望。
當然，光靠一個李多祚是無法左右軍方的，必須要讓李多柞手下的軍官、士兵們也同情政變。張柬之利用自己當宰相的用人權，把一些親信安插到羽林將軍的崗位上，通過他們去做中下級軍官的工作，並控製中下級軍官。這樣一來，軍隊問題解決了。
策反了李多祚以後，張柬之又做通了另外兩個人的工作：一個是司刑少卿桓彥範，另外一個是中台右丞敬暉兩個人。兩人與張柬之曾是同僚，而且都是狄仁傑推薦到朝廷上來的，是同門關係，意氣相投。所以，張柬之對兩人的策劃幾乎沒有費什麼口舌，一拍即合。就這樣，張柬之、桓彥範和敬暉，就成了政變指揮部的核心成員。
其次是聯絡李唐皇室。要誅殺二張，逼武則天退位，必須要打著皇室的旗號，尤其要有太子的參與才能進行，否則就是犯上作亂。要跟太子李顯取得聯係並不難，因為他每天都要從玄武門進宮給武則天請安，桓彥範和敬暉已經在張柬之的安排下做了羽林將軍，每天守在玄武門，兩人找準機會向太子交待政變計劃，此事關係到太子的利益，太子又是最大的受益者，而且照目前的情形看，不這樣做已經不行了。因此，太子李顯沒有理由不讚成。
皇室這邊的主要成員有三個：太子李顯、相王李旦，還有太平公主。三個人的利益是一致的，二張是他們的共同敵人，自然是會精誠團結。李顯是政變的旗幟，當然要負責皇室的協調，他派出太子右庶子、宰相崔玄曄與張柬之等人溝通聯絡，就這樣，崔玄曄也成了指揮部的成員。
相王李旦此時是左衛大將軍，這是南衙衛兵的最高領袖，隻要政變爆發，他就立即帶領南衙衛兵來控製中央政府，穩定京師秩序。
太平公主的任務就是策反大內宮女。太平公主是女中豪傑，行事很像武則天，宮女們無不敬畏她三分。她出麵，很快就做通了部分宮女的工作。隻要政變發生時，這些宮女不給臥病在床的武則天通風報信，武則天就成了孤家寡人了，同時，讓她們監控武則天和二張兄弟的一舉一動。這樣，武則天的情報網就癱瘓了。
一切準備工作就緒，轉眼長安四年就過去了，第二年的正月初一，武則天宣布改元神龍，進人了神龍元年（705），她一點兒也沒有還政於太子的意思。此時的武則天繼續病臥長生殿，身邊隻有二張兄弟出入。這是個非常危險的信號，若是武則天有什麼不測，沒有倒張派的大臣在場，二張就極有可能偽造遺詔，若是來個廢除兒子，改立武氏子侄的話，這事情就麻煩了，不能再等了。