1935年，黨衛隊全國領袖辦公室下令二級突擊隊大隊長（少校）瓦爾特·克呂格爾在阿諾爾森為黨衛隊特別機動部隊第2個團組建第2營。這對克呂格爾來說是一個艱難的任務，因為親王的辦公室也在這裏。盡管如此，克呂格爾這個擁有豐富戰鬥經驗的一戰老兵還是全身心地投入到營隊的建設之中。4月20日，日耳曼尼亞團2營正式成立。第一批25人的骨幹團隊從慕尼黑趕了過來，這些人剛剛上完一期士官培訓班。另外60名來自羅恩訓練營的學員將作為預備軍官和士官接受考核。營裏剩下的部分則由來自普通黨衛隊（接受過陸軍軍事訓練）、訓練部門的軍官和政治預備隊的誌願者來填補。還有一些人來自州警察部門、魏瑪國防軍以及科爾巴赫黨衛隊體育學校。從5月到7月，通過黨衛隊中央總局的努力，全營才達到標準編製的700人。
1935年7月起，位於卡塞爾（Kassel）的陸軍軍需辦公室開始向2營提供武器裝備，製服和馬匹則由黨衛隊部門提供。不久後，2營大量的軍官和士官都被派到陸軍或先期組建完畢的黨衛隊特別機動部隊單位學習深造，實戰和射擊訓練也在7月至8月間全麵展開。9月初，2營前往紐倫堡參加了當年的全國黨代會。10月4日-29日，2營所有士官又在拉爾滕格拉博訓練場接受了一期士官培訓。11月9日，全營在慕尼黑的統帥堂紀念堂前舉行了黨衛隊的宣誓儀式。
1936年元旦，2營別出心裁地搞了一個“大起床號”行動。當天淩晨，當整個阿諾爾森小鎮還沉浸在睡夢之中的時候，2營7連邁著整齊的步伐，在軍樂排的伴隨下為全鎮居民吹響了起床號。這種駐軍為當地吹響晨號的事情最早發生在1914年，並不常見。所以，這對古老的阿諾爾森小鎮居民來說，絕對是一件新奇的事情。5月，全營還參加了在法蘭克福舉行的帝國博覽會，並在現場做了戰鬥隊列遊行。10月1日，2營與其它兩個營以及團部正式組成了日耳曼尼亞團。
1936年秋天，2營的訓練主要都是在拉爾滕格拉博訓練場開展的，但機槍連仍然缺少馱曳重機槍的馬匹，所以大部分時候，士兵們隻能自己扛著巨重無比的機槍來返於訓練場和營地之間。到了下半年，機槍連終於從陸軍的軍需辦公室領到了足夠的馬匹。隨後的騎乘和駑馬的訓練則由漢諾威的騎兵學校和福斯特的黨衛隊騎兵學校負責。
訓練之餘，2營大力倡導各種體育運動，其中營屬的手球隊就在1938年的全國大賽中打入8強，許多馬術佼佼者也加入了當地的馬術俱樂部。1937年初，克呂格爾營長因病離開了2營，他的位置由一級突擊隊中隊長（上尉）吉勒接任。與此同時，許多來自不倫瑞克和巴特特爾茨黨衛隊軍官學校的年輕軍官也加了進來，成為營裏的排長或排副。此後，齊裝滿員的2營前往森訥拉格和明斯特拉格爾訓練場參加了多次營級演練。
1938年3月13日，2營跟隨全團參加了德奧合並。返回阿諾爾森駐地後，全營又在駐地鄰近的鄉下展開了連續不斷的刻苦訓練。6月，2營的每個連都抽調出30到40人（包括軍官和士官）前往克拉根福協助組建元首團。新兵很快填補了他們離去後的空缺，但是針對這些新人的訓練又持續了數周時間。1938年夏末，2營奉命前往於特博格訓練場。在這期間，2營再次跟隨全團參加了占領蘇台德區的行動。從捷克返回後，2營接到了改編為摩托化步兵營的命令。汽車、卡車和摩托車司機駕駛技能的培訓立刻在全營展開，接著是摩托化作戰訓練。12月，日耳曼尼亞團派出一支120人的士官隊伍組成了士官訓練連（其中40人來自2營），前往法靈博斯特爾訓練場接受進一步深造。這次培訓由一級突擊隊中隊長（上尉）施米德胡貝爾負責，培訓則一直持續到次年的3月份。與此同時，2營其他官兵通過摩托化行軍趕往西裏西亞地區，準備參加占領捷克斯洛伐克全境的行動。
1939年4月初，吉勒營長奉命調入剛剛成立的於特博格黨衛隊炮兵學校，他的位置由二級突擊隊大隊長（少校）德夫勒·舒班德接替。隨後，2營和3營一起在團參謀部的指揮下，作為占領軍前往捷克首都布拉格駐紮。4月中旬，2營在城堡區（布拉格的一個區，環繞布拉格城堡）附近的一個舊捷克軍官學校紮營，並主要負責城堡區的保安任務。這樣一來，營裏幾乎沒有多少時間可以進行戰鬥訓練，不過武器裝備倒在這一時期有所改善。3個步兵連都加強了1個輕迫擊炮排，機槍連則補充了1個重迫擊炮排。由於在繁華的布拉格根本無法進行訓練，因此這些迫擊炮排稍後趕赴施瓦岑博恩訓練場進行實彈射擊訓練。1939年8月17日，2營跟隨全團在德累斯頓附近的柯尼希斯布呂克訓練場集結，準備參加即將到來的波蘭戰役。