曹嵩的親生父母是誰已經不可考，史書記載說：“莫能審其生出本末。”曹嵩可能是夏侯氏之子，是夏侯惇的叔父，曹操同夏侯惇是叔伯兄弟。
曹操幼年時期沒有受傳統儒學教育的束縛，各家的著作和主張他都學。另外曹操孩提時母親不幸去世，缺乏親人管教，很容易變得放蕩不羈。後來，曹操在《善哉行》其二詩中追憶自己在少年時的情況說：
自惜身薄祜，夙賤罹孤苦。
既無三徙教，不聞過庭語。“祜”音戶，hù，福。“三徙教”，指孟子母親為了教育好孟子，三次搬家選擇鄰居，最後遷至學宮旁邊，便於學習禮儀，才定居下來。“過庭語”，指孔子兒子孔鯉從庭院中走過，孔子把他喊住，要他讀《詩》學《禮》。
這段詩大體上反映了曹操少年時期的家庭境遇。
少年時代的曹操，愛好飛鷹走狗，射箭比武，經常和從弟曹仁、曹洪等外出行獵取樂，他“遊蕩無度”，目無禮教，不受禮俗約束。一些有地位的士人自然看不慣，說他“任俠放蕩，不治行業”。他叔父擔心他不能繼承家業，爭列名門，經常在曹嵩麵前說他的壞話，曹操對叔父的搬弄口舌，很是不滿。有一天曹操在路上碰上了叔父，假裝中了惡風，歪著脖子，張大嘴巴，臉上的肌肉在抽搐，叔父急忙回去告訴曹嵩，曹嵩聞訊趕來，見曹操口臉如故，好端端地站在那裏，好像什麼事情也沒發生。他問曹操說：“叔父說你中了惡風，難道已經好了？”曹操委屈地說：“本來我就沒有中風，大概因為叔父不喜歡我，就在背後說我的壞話吧！”《三國誌·魏誌·武帝紀》裴注引《曹瞞傳》。於是曹嵩產生了懷疑，此後叔叔說曹操的話，他都不再相信。
隨著曹操年齡的增長，曹操對黑暗的社會有了進一步了解，他不再終日沉溺於飛鷹走狗的生活，開始關心政治，涉足社會了。
為了實現國家的長治久安，提高“治世”本領，曹操勤奮學習，博覽群書。他天資聰穎，進步很快。他尤其喜愛兵書，開始收集各家兵法，擇其精要彙編成冊，題名《接要》。還試著為《孫武子》（即《孫子兵法》十三篇）作注。此注後來經過不斷充實，終於成功，曾傳之於世，現在原書失傳，有些內容見《十一家注孫子》（中華書局1962年出版）中。
曹操為了登上仕途，實現自己治世的抱負，很注意和名士交往，經過一番周折，總算得到了梁國橋玄和南陽何顒等大名士的賞識。橋玄讚揚曹操說：“看來天下將要大亂，不是命世之才是不能使天下安定的；能安定天下的就是你了。”《三國誌·魏誌·武帝紀》。他還鼓勵曹操說：“你要好好努力。我已經老了，願意把妻子兒女托付給你。”為了讓曹操取得名聲，橋玄還勸他去結交汝南名士許劭（即許子將）。
漢代選拔官吏主要采取察舉、征辟的辦法。輿論的評議，對選拔官吏有很大影響。評論得好，名聲好了，就有被推舉做官的可能。東漢末年，品評人物的風氣很盛。許劭是當時很有影響的名士，很能品評人物，經常在每月初一，對朝野的一些人物進行評論，叫做“月旦評”。誰要是得到許劭的稱讚，誰的身價就能抬高許多。經過名士橋玄的介紹，曹操見到了許劭。許劭有些看不起曹操，又感到他與眾不同，是一個很想有所作為的人物，便給他下了這樣一個評語：“治世之能臣，亂世之奸雄”《三國誌·魏誌·武帝紀》裴注引《異同雜語》。這句話雖然帶有侮辱性成分，但曹操聽後卻很得意。經過許劭的品評，曹操的名字很快傳揚開了。
曹操注意結交各種人物。在交遊中，他對東漢的黑暗政治以及官僚地主的奢侈腐化情況，了解更多了，並且深為不滿。袁紹、袁術的母親死時，在家鄉汝南舉行豪奢的葬禮，參加者有三萬人。曹操看到葬禮的情景，對好友王儁說：“天下將要大亂，罪魁必定是這兩個人。要安濟天下，為百姓免除痛苦，應該先除掉這兩個人。”王儁說：“我讚同你的說法。安濟天下的人，除了你還有誰？”《三國誌·魏誌·武帝紀》裴注引《逸士傳》。說罷兩人對笑了起來。
靈帝熹平三年（174年），曹操二十歲的時候，以孝廉的身份被推舉為郎，做了洛陽北部尉，踏上了仕途。
洛陽是東漢的京城，有東西南北四部，每部設尉一人。尉的官職不算高，比縣令還要低些。洛陽北部尉負責洛陽北部的治安。洛陽在皇帝腳下，權貴又多，很不容易治理。曹操官職雖小，執法可認真。他一上任，便在衙門左右各懸五色大棒十餘根，申明禁令，凡有違犯者不避豪強權貴，一律用五色棒打死。大宦官蹇碩的叔父依仗侄子的權勢，根本不把曹操這個芝麻大的官放在眼裏，違禁夜行，被曹操棒殺。於是“京師斂跡，莫敢犯者”《三國誌·魏誌·武帝紀》裴注引《曹瞞傳》。治安情況大為好轉。曹操雖然出身於宦官家庭，但對宦官專權、胡作非為、橫行不法的現象，是不滿的，所以對宦官集團中犯法的人，也毫不客氣。