如果說，參軍那年，連長是他生命中的第一個伯樂，那麼勃拉貢拉沃夫則是他人生中的第二個伯樂。在勃拉貢拉沃夫的強烈推薦下，僅有初中文憑的卡拉什尼科夫進入了設立在恩斯克的紅軍軍械理事會工作，成為一名技術員。
在這裏，他見到了許多資深軍械專家，增長了見識，學到了許多一般技術員難以學到的東西。卡拉什尼科夫暗下決心，決定要做出點成績。但是，天馬行空的想象與絕對原創在槍支研發過程中基本上是不現實的。
原創源於對過去的繼承與發展。於是，卡拉什尼科夫從改造開始。他改造了當時蘇聯著名軍械專家郭留諾夫的衝鋒槍，獲得了成功。但是，這僅僅是改造，並不是原創。
經過一段時間的摸索，卡拉什尼科夫決定搞原創。就在這個時候，機會來了。當時，政府發給他們一些新研製出來的M43子彈，要求他們製造出合適的步槍。該任務激起了包括蘇達耶夫等資深專家的興趣。
當時，蘇聯許多著名武器專家都專注於突擊步槍的研製。在眾多專家權威研究領域裏搞研究，其壓力自然是不用說了。什麼自不量力、好高騖遠一類的話不絕於耳，但是卡拉什尼科夫卻堅定地走著自己的路，隨便別人怎麼說都毫不動搖。
他全身心投入到突擊步槍的研製上。1944年，他成功設計了一支自動裝彈的卡賓槍。該槍是一種氣塞位於槍管下的氣動式步槍。在研究過程中，他沒有采用一貫的"自由機槍後坐式"設計方法。
他認為"自由機槍後坐式"雖然簡單，用於發射手槍彈的衝鋒槍很合適，但是用於中距離子彈的突擊槍卻不適合，它會導致機槍笨重而不便於士兵使用。於是，他便采取了導氣式自動原理和機槍回轉閉鎖方式。可以說，他背離了"主流"而另辟蹊徑。不過，他的這一創新是至關重要的。後來，這一方式成為卡拉什尼科夫係列槍械的核心。
隻是，他的這一創造在當時並沒有換來榮譽與掌聲。相反，跟西蒙諾夫的SKS相比，他的衝鋒槍黯然失色。很顯然，卡拉什尼科夫失敗了。這次的打擊對他來說是比較大的。他曾經懷疑自己，他在日記中質疑自己：資深的專家、設計師已經投入到這項工作中了，我還能提出更好的辦法嗎？
但是，經過一番思想鬥爭之後，他又再次鼓勵自己：一些競爭對手肯定認為我設計不出更好的武器，那就讓我走自己的路，隨別人怎麼說去吧。此後，卡拉什尼科夫又開始自信地畫起了草圖。的確，如果連自己都不相信自己能研製出新的武器，別人怎麼會相信呢！
1946年，卡拉什尼科夫在這種半自動卡賓槍的基礎上設計出一種全自動步槍，名叫AK-46（A、K是卡拉什尼科夫名字的首寫字母，46則代表1946年）。當時，全國正在舉辦武器比賽，他便將這種AK-46步槍送去參賽。此次參賽，許多名家都參與其中，比如什帕金、布爾金、捷格加廖夫等。
不過，在實驗過程中，什帕金設計的槍因為設計老套被淘汰，而捷格加廖夫卻因為設計不合理而落選，布爾金設計的槍因為跟突擊步槍不沾邊而被淘汰。第一輪比賽下來，隻有三款槍進入第二輪比賽，其中包括卡拉什尼科夫設計的AK-46。
第二關比賽便是改造設計。在工廠總工程師開會過程中，幾名專家不同意讓卡拉什尼科夫設計的AK-46投產。他們認為，卡拉什尼科夫太年輕，年僅26歲，而且還是無名之輩，他們覺得生產AK-46是對蘇聯武器界的侮辱。
但是，軍械部代表傑伊金中校則破口大罵道："你們既然研製不出新武器，就不要對別人的設計指手畫腳，阻礙別人研製武器。"最後，他們隻好同意生產AK-46。
得知消息後，卡拉什尼科夫異常興奮。隨後，他便與工廠相關專家對AK-46進行修改設計。在未經請示的情況下，卡拉什尼科夫私自將槍管截短，從原來的500毫米減至420毫米，在第二次實驗過程中，該槍設計精準度優於其他槍。
後來，評委會發現了截短槍管的事情。在當時，私自將槍管截短屬於違規行為，是要受到懲罰的。嚴重者，將會被取消比賽資格。不過，幸運的是，評委會因為惜才沒有取消他的比賽資格，而是要他"下不為例"。
後來一個士兵說，AK-46連續射擊所產生的聲音太大，耳朵受不了。卡拉什尼科夫聽後，便要求技師將膛口製退器截掉。經此變動後，AK-46連續發射時噪聲大大減小。
再後來，有一項汙水測試實驗，即將裝滿子彈的樣槍浸泡在沼澤裏麵，過一段時間後，再拿出來進行射擊實驗。一般來說，槍彈經受過汙水影響，在發射過程中會發生卡殼等問題，然而AK-46從汙水中拿出來發射完所有子彈，卻一點問題都沒有。
汙水測試後，AK-46麵臨著更加嚴峻的沙浴實驗，即樣槍上的每一個縫隙、溝槽、孔眼上都要裝滿沙子。在射擊過程中，沙子往下掉會影響武器的正常使用。在這次比賽中，其他兩款槍在打了幾下後便"啞火"了，而AK-46卻憑借新設計的機匣蓋和快慢機而成功通過實驗。