當然，有的無神論者幹了壞事後，試圖以其無神論信仰作為借口；但是，同樣也有有神論者以他們的宗教信仰為由而作惡：
“我們必須全盤接受以下可靠的教導：耶穌基督到這個世界上來拯救罪人。……耶穌基督向那些將信他並獲永生的人顯示了無限的耐心。永恒的、永生的、不可見的王，唯一的上帝，他的榮耀與世長存。”
以上是美國威斯康星州臭名昭著的係列吃人殺手傑菲裏·達莫（Jeffrey Dahmer）1992年2月17日在法庭上的宣言。
【希特勒是個無神論者，看看他都幹了些什麼！】
希特勒至少在表麵上是個有神論者，而且還是基督徒：
“元首讓那些受托執行‘最後解決’的人知道，殺戮必須盡可能地人道。這一點與他確信他是在執行上帝的旨意清洗這個罪惡的世界相一致。盡管他憎惡天主教會的等級製度，他仍然保留天主教徒的良好身份（‘我跟以前一樣是天主教徒，並會永遠是天主教徒’），他牢記天主教的教導，即猶太人是殺害上帝的凶手。因此，對滅絕猶太人，良心不該有絲毫的內疚，因為他僅僅是在扮演著上帝的報複者的角色——隻要這種滅絕是與個人無關的，而且不殘酷的。”（1941年秋天的事。摘譯自John Toland "Adolf Hitler"， p. 507）
“我跟以前一樣是天主教徒，並會永遠是天主教徒”一語引自希特勒的副官恩格爾（Gerhard Engel）在1941年10月的日記，為希特勒私下談話的記錄，因此不能視為宣傳，而更能代表希特勒的真實想法。
【你怎樣看待宗教人士或宗教機構的慈善行為？】
所有的慈善行為，不管是抱著什麼動機，都是值得讚賞的。但我們也應該注意，一些宗教人士的慈善行為，是為了傳教的放債，或是為了自己死後上天堂的投資，有其偽善的一麵。我更讚賞那些發自內心的、不抱任何利己動機的慈善行為。
【難道宗教信仰會有什麼害處嗎？】
有許許多多的害處，不僅對信仰者有害，對其他人也會有害。
曆史上有過許多宗教戰爭，比如基督教的十字軍東征。信徒們也許會爭辯說宗教信仰並不是這些戰爭的真正原因，而隻是借口。但即便如此，宗教信仰至少為這些戰爭提供了借口，讓它們合理化。
曆史上也發生過由於宗教原因而導致的大規模的迫害、屠殺和種族清洗，比如基督教在中世紀對女巫、科學先驅的大規模迫害、屠殺。
即使在今天，由於人類社會的進步，宗教的危害性已大為減輕，但仍然相當嚴重。宗教仍然是一些國家、地區紛爭的根源，像巴爾幹半島、北愛爾蘭、中東地區的紛爭，就都跟宗教信仰脫不了關係。
自古以來，就有許多宗教領袖以褻瀆神靈為由處死異教徒或無神論者。有許多信徒因為其子女成了無神論者或與其他宗教的信徒結婚，就殺害了自己的孩子。
許多宗教信徒迷信奇跡治病。有無數這樣的例子，信徒由於宗教信仰而諱疾忌醫，或者乞靈於教士、巫師的神力，因而病重身亡。有許多信徒出於宗教的理由拒絕接受輸血，因而死亡。
由於天主教會反對任何人為的避孕方法（特別是避孕套），對人口過度增長和艾滋病的流行，負有不可推卸的責任。
由於某些基督教團體反對人工流產，許多醫療診所被騷擾，有的醫生被謀殺。
宗教信仰對人類社會也是一個巨大的財政、人工負擔，浪費了無數的人力、物力和財力。信徒們花費了無數錢財用於建造、修繕教堂、廟宇，浪費了無數時間用於禮拜、祈禱、舉行宗教儀式、學習經文，等等。這些金錢、時間本來可以用於更好的事情上。
【那些幹壞事的人並不是真正的信徒，他們隻是用宗教信仰為借口！】
什麼是真正的信徒？我們怎麼知道誰是真正的信徒，誰不是真正的信徒？看看基督教，有如此多的派別互相競爭、互相攻擊，甚至互相屠殺，每一個派別都自稱是真正的基督教，我們怎麼知道誰是真誰是假？如果連基督教的主要教會，像天主教會和英國教會，都無法讓對方同意什麼才是真正的基督教，我們無神論者又怎麼能夠同意？
因此，無神論者對此隻能采取實用主義的態度，如果有人自稱基督徒，並以基督教信仰為由做事，我們隻好當他為基督徒。也許有的基督徒是為了自己的利益而歪曲基督教教義，但是如果《聖經》的教導是這麼容易被歪曲的，我們怎麼能夠拿它當道德教條？如果《聖經》真是神的教導，神為什麼要讓它這麼容易被歪曲？為什麼不寫得明明白白無可歪曲？你又怎麼知道你對《聖經》的理解就不是在歪曲神的旨意？如果《聖經》的經文不存在唯一的、無可辯駁的解釋，而可以有不同的解釋，我們無神論者為什麼就要相信其中的某一個解釋是真的，其他的都是假的？因此，如果有人自稱信仰耶穌基督，聲稱他是為了耶穌和根據《聖經》的教導而殺人，那麼對不起，我們必須叫他基督徒。