包爾漢，名為包爾漢·沙赫德拉，祖籍新疆，出生在阿克蘇一個華僑貧農家庭。關於“阿克蘇”這個地名，包爾漢的回憶錄曾這樣記載：“我誕生在阿克蘇。這可不是南疆阿克蘇河流域的名城，而是俄國喀山省特鐵什縣境內偏僻的小村。”包爾漢少年時因家庭貧窮，投靠舅舅讀過幾年書，後來就去當學徒和店員。1912年9月，包爾漢回到中國，獨自到烏魯木齊一家由俄國資本家開的“天興洋行”當店員，還在這家店裏當過會計，後來就在烏魯木齊定居了。天興行設在烏魯木齊南關的俄國貿易圈裏。當時人們把這條街叫做洋行街，因為街上的商店大都是俄籍商人開設的，商店的招牌上都寫有“俄商”字樣。1914年，包爾漢向民國政府內務部提出申請，恢複了中國國籍。此後，又將父母和兩個妹妹接來烏魯木齊居住。
多年漂泊坎坷的生活，包爾漢看到官僚、財主們對勞苦群眾的殘酷壓迫和剝削，看到祖國各民族的深重災難，使他不得不經常考慮拯救祖國和民族之路。
蘇聯十月革命以後，由於新疆所處的特殊地位，許多俄羅斯商人把資金和家眷遷入新疆，社會主義蘇聯的影響通過各種渠道不斷傳播到新疆來，對追求進步和愛國的知識分子的影響最為顯著，包爾漢也是接受這種影響的年輕人之一。從那時開始，他就逐漸產生了一種對社會主義的向往和對人類美好未來的強烈追求。
包爾漢於1922年離開天興行，前後十來年的洋行生活，使他明白了不少社會人生的道理，他曾把天興行稱作“我的大學”，當年在筆記本上用漢字寫下一句話：“小子讀書不用心”，說明了他當時渴望學習的真實情景。
1928年新疆發生樊耀南政變，擔任民政廳廳長的金樹仁，一躍取得新疆軍政大權，出任新疆省政府主席兼總司令，不久又將總司令頭銜改為邊防督辦。金樹仁上台後，以興辦實業為名，指派包爾漢前往德國采買機械設備，同時考察國外的實業、教育情況。1929年9月，包爾漢離開烏魯木齊，經由塔城出國，先在蘇聯停留幾周，參觀了莫斯科、列寧格勒的一些學校、工廠和名勝古跡，然後假道芬蘭、瑞典到了德國，在柏林采購了大量機構設備運回新疆。
1930年，包爾漢收到金樹仁的電報，要他在柏林長期住下去，對德國的教育情況進行詳細考察。包爾漢放棄了短期回國的設想，一邊進行社會考察，一邊學習德文，這年夏天考入德國柏林大學政治經濟係。他利用離職讀書的機會，開始係統地學習馬列主義理論，這對他的思想產生了很大影響。
1932年12月，包爾漢離開柏林，取道蘇聯，於1933年1月回到烏魯木齊。在途經莫斯科時，包爾漢與蘇聯共產黨取得了聯係，參加了一些革命工作。回到國內後，又與中國共產黨建立了聯係。
包爾漢於1912年回國定居，這次從柏林回來，已經是第二次回國了，但兩次的情況卻截然不同。第一次回國時，包爾漢是懷著對祖國和故鄉的熱烈向往而回來的，那時候他還隻是一個不明世事的孩子，後來他在“天興洋行”當店員，受資本家剝削，思想上漸漸懂得窮人與富人是兩種根本不同的人，利益也是彼此對立的，但也不過如此而已。因為那時新疆極端落後和閉塞，同祖國內地基本上是隔絕的，中國共產黨的建立和發展，內地群眾革命運動的蓬勃開展，包爾漢像新疆的許多人一樣，基本上是不了解的。
而這次他從國外回來，經過在蘇聯、德國的考察和學習，眼界開闊了許多，增加了對舊政權官場黑暗的一些認識，特別是在德國居留和在柏林大學學習，使他真正打開了眼界。過去他一直認為，他在新疆所目睹的一切腐朽黑暗的現象，隻是由於新疆的閉塞和落後，是由於缺乏發達的工業、交通、教育等等。然而，真正促使他思想轉變，促使他走上革命道路的，是一些共產黨人對他的具體幫助以及向他推薦馬恩列斯的著作。有些共產黨人，包爾漢當時就知道他們的身份，如一些以外交官身份派到新疆來工作的蘇聯人；有些人的共產黨員身份，則是在後來共同的鬥爭生活中逐漸了解和知道的。