1910年，大英帝國將德蘭士瓦共和國、奧德蘭自由邦、開普共和國和納塔爾共和國合並成南非聯邦，四個原本獨立的國家從此成為了南非聯邦的四個省，而南非聯邦也成為了英國的自治地。南非聯邦表麵上實行自治，但實際上卻受到英國政府的控製。為了加強殖民地的管理，英國人聯合他們殖民下的南非白人共同管理這片土地上的南非黑人。英國人特意為白人和黑人製定了不同的生活待遇和政治待遇，致使15%的白人搶占了全國87%的土地，而多數的黑人隻能成為白人廉價的雇工，由此引發了南非種族之間的矛盾。南非黑人在自己的家園上，不但失去了土地，還失去了自由。身為黑人的曼德拉就出生在南非聯邦成立8年之後的1918年。
在曼德拉出生的那天，他的父親便給他取名:羅利赫拉赫拉。“羅利赫拉赫拉”在科薩語中的意思是指“惹是生非的家夥”。而曼德拉的一生也恰如其父親給他取的名字一樣，從出生的那一刻起，便注定成為南非白人政權的克星。
曼德拉的父親格達拉·亨利·穆帕卡尼斯瓦是姆維佐部落的一名酋長，同時也是泰姆布國王的參事。穆帕卡尼斯瓦娶了四位妻子，曼德拉的母親是他的第三位妻子。曼德拉是父親四個兒子當中最小的一位。按照南非的傳統，曼德拉將會被當做泰姆布國王的參事來培養。
穆帕卡尼斯瓦作為一名王室參事，曾經輔佐過泰姆布的兩代國王。在國王和王室當中，他的話往往能起到舉足輕重的作用。
20世紀20年代，泰姆布國王英年早逝，而大王後之子尚且年幼，無法繼承大統。王室決定從其他王後之子中挑選幾個年齡相對較大的王子來輔佐小王子。他們最終選擇了三位年齡較大的王子，並希望從中挑選一位來輔佐小王子，但是對於由誰來輔佐小王子，意見發生分歧。於是，他們就來征求穆帕卡尼斯瓦的意見。
穆帕卡尼斯瓦是一位比較重視教育的人，而榮欣塔巴王子是三位王子當中受教育程度最高的一位，所以穆帕卡尼斯瓦力推榮欣塔巴為小王子的最佳輔佐人。在王室當中是比較講究地位的，或母以子貴，或子以母貴，而榮欣塔巴的母親的地位相對來說比較低，所以當穆帕卡尼斯瓦提出讓榮欣塔巴來輔佐的時候，遭到了其他人的強烈反對。但是，穆帕卡尼斯瓦卻堅持讓榮欣塔巴來輔佐。最終，穆帕卡尼斯瓦的建議還是被泰姆布王室和英國政府采納了。
穆帕卡尼斯瓦雖是姆維佐部落酋長，可他不但受到泰姆布王室的管製，而且受到英國政府的管製。穆帕卡尼斯瓦卻從未向外來殖民者屈服過，他還經常向英國政府發起挑戰，也正是由於他勇於挑戰英國政府的行為才葬送了他的酋長地位。
有一次，一位村民在穆帕卡尼斯瓦管轄下的姆維佐丟失了一頭牛，這位村民將穆帕卡尼斯瓦告上了法庭。英國政府的行政長官馬上寫信讓穆帕卡尼斯瓦去見他，並希望穆帕卡尼斯瓦給出一個合理的解釋。
“見英國行政長官”這件事已經遠遠地超出了“一頭牛被偷”這件事的本身。如果穆帕卡尼斯瓦去見英國行政長官，就意味著非洲傳統權力向英國這個外來權力的屈服。為了維護自己作為酋長的尊嚴，穆帕卡尼斯瓦拒絕去見英國行政長官，而是回複了一句話:“我不去!我還要繼續戰鬥!”
當英國行政長官看過穆帕卡尼斯瓦的信之後，暴跳如雷，當即宣布免去穆帕卡尼斯瓦酋長的職務。從此，穆帕卡尼斯瓦不但失去了酋長的職位，同時還失去了原本屬於他的土地、牲畜等財產。他的四位妻子不得不被分別安排住在四個地方，而他會輪流著去每位妻子那裏住上一周。在沒有生活來源的情況下，曼德拉的母親隻好帶著曼德拉回到庫奴，依靠親戚朋友的接濟而生活。
在曼德拉9歲那年，家裏傳來了噩耗，他的父親穆帕卡尼斯瓦因病去世。至於得的什麼病，沒有人知道，因為他父親生病從來不看醫生。“父親的去世讓我十分難過，但萬萬沒有想到的是，父親的去世竟然會影響到我的一生。”