羅素悖論及一係列悖論的出現，使許多數學家對集合論乃至整個數學的基礎產生了疑慮。這一疑慮並沒有隨著集合論公理化體係的建立而消除。許多數學家相信這次危機涉及數學的根本，必須對數學的基礎加以嚴密的考察。在這種考察過程中，不同數學家從不同的角度對數學基礎提出了自己的意見。這使得從1900年到1930年左右，眾多數學家卷入到一場大辯論當中。原來不明顯的意見分歧逐漸擴展成學派的爭論，以羅素為代表的邏輯主義、以布勞威爾為代表的直覺主義與以希爾伯特為代表的形式主義三大學派應運而生。有人曾戲謔地把羅素喻為兔子、布勞威爾喻為青蛙、希爾伯特喻為老鼠，因而我們把三派的這場大論戰稱之為“兔、蛙、鼠之戰”。
第一節邏輯主義
邏輯主義的代表人物是德國邏輯學家弗雷格（1848～1925）和英國著名哲學家、邏輯學家羅素。
邏輯主義在基礎問題上的研究出發點是對於已有的數學基礎工作的不滿。在他們之前，數學算術化的最終結果是把全部數學的可靠性歸結到皮亞諾的五條算術公理的可靠性及邏輯法則的有效性。但是，這些公理為什麼是可靠的呢？他們認為自然數理論並不能看成是全部數學的最終基礎。他們認為，數學基礎的研究不應停留於“數學算術化”，而應進一步尋找“更為一般的概念和原則”，他們從邏輯中找到了他們所需要的。以這些看法為前提，他們認為數學的可靠基礎應是邏輯，並從這種立場出發，提出了“將數學邏輯化”的基礎研究計劃。這就是：
（1）從少量的邏輯概念出發，去定義全部（或大部分）的數學概念；
（2）從少量的邏輯法則出發，去演繹出全部（或主要的）數學理論。
總的來說，邏輯主義者在數學基礎問題上的根本主張就是確信數學可以化歸為邏輯。他們希望先建立嚴格的邏輯理論，然後以此為基礎去開展出全部（至少是主要的）數學理論。他們確信，一旦完成了這些工作，數學就會被奠基在一個“永恒的、可靠的”基礎之上，從而數學的可靠性問題也就徹底解決了。
弗雷格最早明確提出了邏輯主義的宗旨，並為實現它做出了重大的貢獻。
弗雷格在學術生涯的第一階段，從事純邏輯研究。在隨後的階段，弗雷格開始形成邏輯主義觀點，即認為算術理論可以建立在邏輯的基礎上。需要指出，弗雷格事實上是把集合理論看成屬於邏輯範疇的，因此他所要做的是從樸素集合論出發去開展全部數學理論。對他來說，首要的問題是如何定義自然數。在集合論基礎上，他完成了這一工作。在他的定義中，集合的基數（即自然數）是可以與之建立一一對應的集合的集合。比如3可定義為“一切三元組”的集合。借助這一定義，自然數的概念被化歸成了邏輯的概念；自然數的理論也就可借助於這一定義和邏輯得以建立。於是，所有算術概念都可用邏輯概念得到定義，所有算術法則也都可以借助於邏輯的法則得到證明，算術理論“邏輯化”的工作就這樣完成了。再進一步，弗雷格打算從邏輯出發展開除幾何以外的全部數學。這就是他於《算術基本定理》一書中打算完成的事情。在他看來，由於邏輯的原則是完全可靠的，因此，一旦完成了這一工作，數學“就被固定在一個永恒的基礎上了”。然而，當此書第二卷即將問世之時，羅素的信“及時”寄到了。因為羅素悖論動搖了集合論的根基，所以建立在集合論之上的弗雷格基礎研究工作的意義從根本上被否定了。弗雷格陷入極大的困惑，在消沉中度過了10多年，並最終放棄了他所倡導的邏輯主義的立場。
不過，邏輯主義的火種沒有因此而熄滅，因為羅素接過了火炬。他同樣確信，在數學與邏輯之間完全劃不出一條界限，兩者實際上是一門學科。對此，羅素有一個生動的說法：邏輯與數學的不同就像兒童與成人的不同，邏輯是數學的少年時代，數學是邏輯的成人時代。
羅素大約是在19世紀末開始逐漸形成邏輯主義觀點的。其中與意大利數學家與邏輯學家皮亞諾的接觸起了重要的促進作用。“在我學術生命中最重要的一年是1900年，而這一年中最重要的事是我去參加巴黎的國際哲學會……1900年在巴黎，皮亞諾和他的學生們在一切討論中所表現出來的，為他人所沒有的精確性，給了我深刻的印象”。
羅素意識到數理邏輯對於數學基礎研究的重要性，他立即學習了皮亞諾的技術，從而找到了為實現“把數學化歸為邏輯”這一目標所必需的工具。隨後，他開始運用皮亞諾的技術考慮數學基礎問題。1900年的最後6個月成了羅素“智力活動的蜜月”。7月，他遇到皮亞諾；9月，羅素和懷特海一起，天天討論數學的基本概念，多年來的問題好像一下子全解決了；10月一開始，羅素就坐下來寫書；1900年的最後一天，羅素完成了著名的《數學的原理》。這一著作的主要目的就是闡明邏輯主義的根本宗旨，即“關於純粹數學所唯一討論的隻是那些可以借助很少的基本邏輯概念而予以定義的概念，以及純粹數學中的所有命題都可以從很少的基本邏輯原則出發而得到演繹的證明”。羅素確信自己的目標是可以完成的，然而當羅素本人滿懷信心去具體實施自己的計劃時，他發現了羅素悖論。因為和弗雷格一樣，羅素也認為集合的理論屬於邏輯的範疇，於是他不得不喝下親手釀製的苦酒。橫亙在邏輯主義者麵前的悖論，阻擋了他們繼續前進的步伐。如何消除悖論成了當務之急。
從羅素悖論提出起，邏輯主義的研究進入了一個新的時期。他們所麵臨的不僅是如何由邏輯出發開展全部數學的問題，而且同時還必須防止悖論的出現。1903、1904兩年，羅素差不多完全致力於這一件事，最終，他看到了一線曙光。在1903年出版的《數學的原理》後麵，他加了一個大約6頁的附錄，嚐試性地提出類型論作為解決悖論的方案。
隨後的幾年，羅素還思考了非類型論的解決方案，但最終他還是放棄了。1906年，龐加萊分析悖論時指出悖論的產生與非直謂定義有關。受此啟發，羅素指出，一切悖論都來源於某種“惡性循環”，而惡性循環又源於某種不合法的集體(或總體或全體)，其不合法之處在於，定義它的成員時，要涉及這個集體的整體。羅素悖論是最明顯的例子。所以要避免悖論，隻需遵循“(消除)惡性循環原理”，“凡是涉及一個集體的整體的對象，它本身不能是該集體的成員”。從這一思想出發，羅素回到類型論，並重新進行了細致研究，提出了他的分支類型論。
為了將自己的想法真正貫徹到數學中，羅素請懷特海予以幫助。後來，兩人在進行了極其艱苦的工作後，作為努力結晶的三卷本巨著《數學原理》終於在1910～1913年陸續出版了。在回憶完成這一結晶的歲月時，羅素寫道：“我們中的任何一個人都不能單獨完成這一著作。甚至在一起，通過相互討論來減輕後，這一負擔也是如此的沉重，以致在最後，我們都以一種厭惡的心情來回避數理邏輯了。”
羅素確信，隨著這堂堂大著的問世，不但悖論被消除了，而且他的邏輯主義的目標也實現了。我們先來看看他是如何消除悖論的。
羅素提出的方案是，按照對象的類別將集合劃分成不同的類。例如，屬於0類的是定義域中的對象即個體；屬於第1類的是個體的集合；屬於第2類的是第1類中的集合的集合，即個體的集合的集合，等等。對類的劃分，羅素給出基本原則：每一集合都必須從屬於確定的類；對於命題的組成來說，隻有關於“某一類的對象是否屬於僅次於它的那一類的集合”這樣的表達式才有意義。因此，像“A∈A”這樣的表達式是無意義的。
除類的劃分外，在分支類型論中還必須按照定義的方式將同一類中的集合劃分為不同的級。一般地說，那些在定義中沒有涉及“所有集合”的集合是第一級，那種在定義中涉及“第一級的所有集合”的集合屬於第二級……依此類推。
羅素指出，如果不具體說明所考慮的級和類，那麼那種涉及“所有集合”的表達式是無意義的。因此，在羅素的這一理論中，每一集合都屬於一定的類和級。由於級的劃分是在類中進行的，因此這一理論就被稱為“分支類型論”。羅素深信，隻要嚴格地按照分支類型論的要求來開展數學，悖論就可以得到避免。數學家們肯定了羅素的這一確信：悖論通過這種精心設計的、使用起來很不方便的分層結構的確得以避免了。
然而，消除悖論隻是邁出的第一步。對邏輯主義者而言，關鍵的是從邏輯出發逐步建立起全部（或至少大部分）數學理論。羅素對此也充滿自信。如其所言，“從邏輯中展開純粹數學的工作，已經由懷特海和我在《數學原理》一書中詳細地做出來了。”而且，在他看來，邏輯和純粹數學的同一在這本著作中已經得到了證明，“在這些結果中我們發現沒有地方可以劃一條明確的界線，使邏輯與數學分居左右兩邊。如果還有人不承認邏輯與數學等同，我們要向他們挑戰，請他們在《數學原理》的一串定義和推演中指出哪一點他們認為是邏輯的終點，數學的起點。很顯然，任何回答都將是隨意的，毫無根據的”。
為了把數學建立在邏輯基礎上，羅素、懷特海在書中一開始先提出幾個不加定義的概念（基本命題、命題函數、斷言、蘊涵等）和一些邏輯的公理，由此推出邏輯規則。下麵一步是用邏輯概念推出“數”。在避免出現悖論的前提下，羅素成功了，但過程極為繁瑣費力，一直到《數學原理》第一卷的363頁才推出“1”的定義（對此，龐加萊曾挖苦說，“這是一個可欽可佩的定義，它獻給那些從來不知道1的人”），而在第二卷他又費了很大力氣證明n×m=m×n。在經過複雜的推演，並不得不追加一條“無窮公理”後，羅素終於將皮亞諾的三個基本概念和五條基本命題歸約為邏輯概念和公理。為了進一步推演出經典數學較高等的部分，羅素在自然數的基礎上定義了正數、負數、分數、實數和複數的概念。羅素還用類似的方法引進了其餘的數學概念，如分析學中的收斂、極限、連續性、微分、微商和積分等概念，以及集合論中的超限基數、序數等概念。就這樣，從純邏輯開始，中間是簡單而直接的步驟，以清楚明白的數學為結束，羅素在其邏輯係統的基礎上，具體地、係統地展開從邏輯構造出數學的工作，一步步地將經典數學推演出來了。這確實是數學基礎研究中的一個重大成就。
一直對邏輯主義不讚同的龐加萊在羅素悖論產生後，曾挖苦說“邏輯主義的理論倒不是不毛之地，什麼也不長，它滋長矛盾，這就更加讓人受不了”。羅素的努力成果算是有力地反駁了這一嘲弄。但他的工作是否完全符合他所持的“將數學還原為邏輯”的宗旨呢？他把數學化歸為邏輯的目標是否真正實現了呢？
回答這個問題，要搞清的是：什麼是邏輯的概念和命題。嚴格而言，邏輯命題應是其中沒有提到任何特殊的東西或性質的命題；而邏輯真理則是那些“之所以為真，完全是由於它的形式”的命題。依照這種理解，《數學原理》中被羅素看做邏輯公理的有的其實並不能看做邏輯公理。其中最重要的是“無窮公理”。這一公理對於數學理論的展開是必不可少的，如果沒有這一公理，“所有高級數學就要垮台”。然而，這一公理卻隻能通過經驗來證明或駁斥，並非純形式的，而是一種關於外在事實的斷言。事實上，無窮公理被公認是屬於集合論的。
實際上，無論是弗雷格還是羅素，都是把集合理論看成邏輯，並以此開展全部數學理論的。因此，問題的歸結點集中在：集合理論是否是邏輯。在這個問題上，人們大都否認集合論是邏輯。
退一步，如果像羅素等那樣認為集合論屬於邏輯範疇，那麼能否可以說，從邏輯出發開展全部已知數學理論的目標實現了呢？邏輯主義者還麵臨著更多的困境。
為了排除悖論，羅素采取了分支類型論的做法。而按照類型劃分的原則，分數n1與自然數n應分屬於不同的類，因為前者是分數，而分數是以自然數為基礎而構成的，高於自然數類。同樣的，自然數中的0、有理數中的0和實數中的0成了各不相同的，等等。這樣，數學家們必須在各個不同的層次上“獨立地”去從事數學的研究。這種重複顯然是不勝其煩的。羅素劃分級的方案帶來了更大的困難。如果嚴格按照級的劃分原則，像“所有的實數……”的命題都變得無意義了，因為在實數中也必須區分不同的級。這樣，別說發展已知的全部數學理論，就是全部實數理論也無法建立起來。
為了解決這些問題，羅素後來提出特別可疑的“類型含糊原則”與“可化歸原理”，以穿透層與層之間豎立起來的壁壘。前者認為對於某些結論，可以不去具體地弄清其中所涉及的對象所從屬的類型，而隻是假設它們都從屬於適當的類。後者是指，一個類中較高級次的性質可以化歸為同一類中較低級次的性質。不難想象，這種解決方式會貽給反對者多少口實了。