1904年，為了尋求自己的理想生活，甘地先後創辦了鳳凰村和托爾斯泰農場兩個非暴力抵抗運動基地。在這裏，人們不論種族、國籍、膚色一律平等，男女老幼一律勞動，自食其力。
甘地在南非組織了多次旨在反抗民族歧視的運動，雖屢次遭到了南非政府的鎮壓，但運動產生的影響卻是深遠的。為此，甘地本人也曾受過南非當局的逮捕和當地白人的毒打。
甘地在《印度自治》一書中，鮮明地提出了自己的政治見解，他認為印度的文明需要一個高尚的自衛武器——非暴力抵抗，並用它來達到自治的目的。他還在回印度探親期間，廣為宣傳南非印度人的遭遇，在印度產生了很大影響。
1914年7月，回到印度的甘地已是一位頗有聲望的社會活動家了，他的政治主張和非暴力抵抗的鬥爭策略為當時印度資產階級和很多群眾所擁護。甘地很快成了國大黨（印度國民大會黨）的實際領袖。
回到印度的第二年，甘地就在古吉拉特邦建立了一個非暴力抵抗基地——非暴力抵抗學院（也稱真理學院或真理修道院），其目的就是為非暴力抵抗運動培養人才。
1920年，國大黨在加爾各答召開特別會議，通過了甘地提出的“不合作”運動決議。決議發動全國各階層人士辭去公職和爵位，不接受英國人的教育，不向法院起訴，抵製英貨，使用土布，不在英國銀行存款，不買英國的公債等。隨即，印度國內辦起了印度人自己的學校、商店，製造了200萬架手紡車。1921年7月，甘地帶頭在孟買焚毀英國布匹。全國各地的人們紛紛效仿，跟著有50萬工人參加罷工，把不合作運動推向了高潮。
工農運動的發展，必然會衝破甘地設置的框框。在非暴力不合作運動興起的同時，一些地區發生了激烈的農民運動以至農民起義。甘地憂心忡忡，感到自己無法控製局麵。1922年2月，終於在曹裏曹村發生了慘案，農民同來鎮壓的警察發生衝突，22名警察被燒死。根據甘地的建議，國大黨急忙通過了決議，決定停止非暴力不合作運動，甘地也因此被捕入獄，1924年因病獲釋。
20世紀20年代初印度民族解放運動的發展過程，說明甘地“非暴力抵抗”的鬥爭策略完全是為了適應印度民族資產階級需要而製定的。“不合作”是用來向帝國主義施加壓力，以實現他們的要求；“非暴力”是用來限製群眾，以保護他們的利益。
此後，甘地為了迫使英國讓步，又發動了兩次不合作運動。1930年3月，他率領信徒舉行煮鹽運動，掀起了對抗食鹽專賣等法令的全國運動，為此，他又一次被捕。1931年3月，甘地和殖民當局簽署了甘地—歐文協定，宣布停止不合作運動，國大黨參加討論印度地位的問題，由於英國的阻撓，談判不歡而散。1942年8月，對戰爭一直持反對態度的甘地利用英國陷於戰爭的困境，提出英國應立即退出印度的口號。當時的日本在亞洲的大肆侵略與屠殺，激起了世界各國人民的反對，而且，當時的印度也是日本的侵略目標之一。國大黨內部對此意見不一，於是甘地就發動了個人的不合作運動。第二天，甘地就被捕入獄，直到1944年5月才被釋放。
甘地除了發動不合作運動之外，他還以大部分的時間和精力從事反對歧視、消除教派衝突、提倡手紡車和使用土布，以及勸說不要酗酒、吸毒等工作。他把這些稱為“建設性綱領”。
甘地主張印度教徒和穆斯林團結合作，他強烈反對任何把印度分成兩個國家的提議。提倡社會改良、自我道德完善和精神感化。第二次世界大戰之後，甘地希望印度能夠獨立並成為一個完整的國家，但最後，為了印度獨立，甘地接受讓印度與巴基斯坦分別獨立的方案。在政權交接的那天，甘地沒有慶祝印度的獨立，而是獨自在加爾各答為分治而憂傷。
麵對錯綜複雜的宗教矛盾和教派衝突，甘地呼籲團結。他主張印度教徒與穆斯林是和平相處於一個國家甚至一個民族的概念之內的。不管什麼教徒，都是朋友兄弟，同樣懷著良好的願望，大家能夠重新修好、重建家園。
為了“打開諒解之心，感化對手的每一根道德神經”，甘地決定再次運用絕食武器，製止印巴兩國領導人在克什米爾的爭鬥。1948年1月13日，他開始絕食。
正當甘地以自己的生命推動印度民眾實現宗教和睦時，一場以他為目標的暗殺行動正在悄悄進行。
早在1947年8月，一個名叫納圖拉姆·戈德森的印度教狂熱分子在一場小型集會上叫囂，反對甘地的非暴力學說，主張建立一個印度教徒統治的國家，宣揚印度種族優於其他種族，妄圖重新建立大印度帝國。在他們設想的印度社會裏，將沒有穆斯林的一席之地。