王充對桓譚昀為欽佩，他認為桓譚為漢世學術界斷定是非，就像一個公正的執法官一樣，並把桓譚稱為“素丞相”，以配孔子“素王”，認為評定世間的事情，討論世間疑難，沒有一個學者比得上桓譚。受桓譚的影響王充對神學迷信、俗說虛妄也深不以為然。
有一天，有人給王充他們講故事，說春秋時期有個善良的楚惠王，這個楚惠王有次吃酸菜時，發現酸菜裏有一隻水蛭。如果他把這條水蛭挑出來的話，廚師就會因此被處死。楚惠王憐憫廚師，就不聲不響地把水蛭和酸菜一起吞到肚裏。到了晚上，楚惠王大便時，不但把水蛭排泄了出來，而且原來肚子疼的病也痊愈了。
王充聽完這個故事，馬上就批駁了這種說法，王充解釋說：“因為人肚內的溫度高，水蛭經受不住，熱死了，所以被排泄出來。又因為楚惠王肚內有淤血，水蛭恰好吸血，在水蛭還沒熱死的時候，把他肚內的血都吸走了，所以楚惠王的病自然會好了。這是巧合，而不是‘善有善報’。”
東漢時期，儒家思想在意識形態領域裏仍占支配地位，但與春秋戰國時期所不同的是儒家學說打上了神秘主義的色彩，摻進了讖緯學說，使儒學變成了“儒術”。 王充針對這種儒術和神秘主義的讖緯說進行批判，為此特寫了《論衡》一書。
為了寫《論衡》，王充搜集的資料裝滿了幾間屋子，房間的窗台....
上、書架上都放著寫作的工具。在寫作過程中，他閉門謝客，拒絕應酬，用了幾年的功夫才寫成。
《論衡》細說微論，解釋世俗之疑，辨照是非之理，即以“實”為根據，疾虛妄之言。“衡”字本義是天平，《論衡》就是評定當時言論的價值的天平。它的目的是“冀悟迷惑之心，使知虛實之分”，也就是宣傳科學和無神論，對迷信進行了批駁。
在《論衡》裏，王充提出天地萬物都是由“氣”構成，“氣”是一種統一的物質元素。“氣”有“陰氣”和“陽氣”，有“有形”和“無形”，人、物的生都是“元氣”的凝結，死滅則複歸元氣，這是個自然發生的過程。
由“氣”這個物質性的元素出發，《論衡》指出“天乃玉石之類”的無知的東西，萬物的生長是“自然之化”。天地、萬物和人，都是由同一的充塞於宇宙中的氣形成，而且是在運動的過程中形成，所以，“外若有為，內實自然”。而人與天地、 萬物不同的是“知饑知寒”，“見五穀可食，取而食之；見絲麻可衣，取而衣之”。所以，人和五穀不是上天有意創造出來的，而是“氣”的“自然之化”。
《論衡》不僅對當時的儒術進行了尖銳而猛烈地抨擊，而且它還批判地吸取了先秦以來各家各派的思想，特別是道家黃老學派的思想，對先秦諸子百家的“天道”、“禮和法”、“鬼神與薄葬”、“命”、“性善和性惡”等等，都進行了係統的評述。因此，後人稱《論衡》是“博通眾流百家之言”的古代小百科全書。
《論衡》敢於宣布世界是由物質構成的，敢於不承認鬼神的存在，敢於向孔孟的權威挑戰，並確立了一個比較完整的古代唯物主義體係，這在曆史上是起了劃時代的作用的。
《論衡》對後來的唯物主義者、無神論者，諸如魏晉時期的哲學家楊泉、南朝宋時的思想家何承天、南朝齊梁時的無神論者範縝、唐朝時期的大學問家劉禹錫和柳宗元、明清之際的思想家王夫之等等，都產生了不同程度的影響。
知識點滴
王充到太學的時間，大約在建武年間的44年，年紀18歲，風華正茂，正是學知識，長見識的大好時機。不過，當時太學受今文經學的影響，盛行章句之學。加之漢光武帝沉迷緯書讖記，事無巨細，皆決於圖讖，神學迷信，充斥學壇。
當時的太學教育不僅方法僵死，而且內容虛誕。好在這時王充的前輩學者社林、鄭眾、桓譚、班彪等人都在京師，他們都是古文經學家，博學淹貫，號稱大儒。在數家之中，王充對桓譚和班彪最為推崇，受他們的影響也最深。