康熙四十二年（1703年）正月，皇上突然以“議論國事，結黨妄行”為罪名拘捕了索額圖，不久他便死在幽所裏。其實，拘捕索額圖的真正原因是他卷入了宮廷內的儲位之爭。
依清朝舊製，皇帝生前不立皇太子，康熙卻打破了這一舊製，預立儲君。他這樣做，出於兩個原因：一是鑒於前朝皇帝身後為爭奪皇位兄弟子侄之間互相殘殺的血的教訓，二是受漢民族傳統製度的影響，深知立儲君有利於皇權的連續與穩固。
康熙十四年（1675年）十二月十三日，康熙親禦太和殿，按漢族立嫡的原則，冊立方滿周歲的皇二子、嫡長子胤礽為皇太子。
胤礽是索額圖的親侄外孫，胤礽出生時，其母孝誠仁皇後就去世了，索額圖作為外叔公，對胤礽格外疼愛和關懷，在宮中爭奪儲位時，他極力維護太子的地位，成為太子黨的首腦人物。
太子冊立之初，為抬高太子的地位，索額圖在內閣會議上倡議，凡皇太子服禦諸物，俱用黃色，所定一切儀注（關於某些重大活動的行為規定）要與皇上相似。康熙三十二年（1693年）三月，禮部擬奏祭祀奉先殿的儀注，規定太子的拜褥與皇上一起擺在門檻之內（但康熙沒有同意，並革了禮部尚書沙穆哈的職）。內務府所屬的膳房和茶房有四人私自出入太子府，侍候太子（康熙命斬其中三人）。
太子冊立之後，宮中並未平靜，覬覦皇位的皇子們把矛頭一齊對準了太子及太子黨，他們造謠誹謗，無中生有，向康熙進讒言，攻擊太子及太子黨，索額圖自然也在其中。
胤礽自從當了太子，身居一人之下，萬人之上，自幼時時處處與眾不同，這種特殊地位，加上人們不時的奉迎，獻殷勤，天長日久，胤礽便忘乎所以，目空一切，妄自尊大，奇驕至奢起來。他暴戾不仁，任意淩虐，恣行捶撻諸王、貝勒、大臣、官員，鞭笞檢舉他行為不端的人。他追求奢華，任意勒索地方官員，南巡江寧時，知府陳鵬年供奉簡單，險些被太子處死。他胡作非為，縱容屬下，派人截留蒙古王公進貢的駝馬，放縱乳母的丈夫、內務府總管淩普敲詐勒索屬下。
太子的不仁，康熙尚可容忍，其不孝，康熙卻不能原諒了。康熙二十九年（1690年），康熙親征噶爾丹，病在途中，令皇太子和皇三子馳前來迎接。胤給父皇請安時，沒有一點憂戚之色，康熙“心甚不懌”，認為胤“絕無忠愛君父之念”，心口結了一個很大的疙瘩。
康熙聽信讒言，把太子的不仁不孝歸罪於索額圖，認為與索額圖的影響有關，因為索額圖是太子最親近的人。索額圖身為大學士，在朝中位高權重，勢力日漸膨脹，引起康熙的警覺。康熙十六年（1677年），康熙把戶部尚書明珠提拔為大學士，以牽製索額圖。明珠的妹妹是康熙的惠妃，生皇長子胤禔，身為舅舅的明珠，自從當了大學士之後，與內閣的一些重臣，結成反太子朋黨，與索額圖的太子黨爭權奪勢。但由於他倚權胡為，徇私舞弊，結黨排陷，貪贓枉法，賣官納賄，於二十七年被罷大學士職。雖然明珠朋黨被去除，但在索明兩派的較量中，索額圖也受到影響，使康熙認識到其勢力不可忽視。
但對索額圖致命的一件事，則是康熙四十一年（1702年）在德州陪護太子養病。這年太子隨康熙南巡歸來，行至德州時身染重病，康熙讓他在此養病，並召索額圖來德州陪侍他。也許是康熙的精心安排，借此觀察索額圖與太子的關係以及他們的活動，不然的話，為什麼在拘捕索額圖的上諭中提到，索額圖在德州陪太子養病時，乘馬至皇太子中門方下，並質問“爾自視為何等人”。可見，康熙曾派人監視他。從上諭中我們可以看出，康熙認為索額圖和太子的關係不正常，即不分尊卑，不分裏外，親密無間，指責索額圖把自己擺在了不適當的位置。另外，康熙給索額圖定的罪是“議論國事，結黨妄行”，主要指的也是索額圖在德州陪太子期間有一些不軌行為，雖然沒有真憑實據，但康熙認為索額圖借此機會籌劃發動宮廷政變，慫恿皇太子提前奪取皇位。康熙的猜疑雖然沒有根據，但卻把索額圖置於了死地，那些太子黨的對立派，卻是借康熙的猜疑，達到了其鏟除最大勁敵的目的。
索額圖生前榮耀萬分，身後卻得了一個“本朝第一罪人”的惡名。