俞敏洪最初創業時的確是無所有。在盧躍剛的《東方馬車》一書中生動地描述了這段經曆：他在中關村第二小學租了間平房當教室，外麵支一個桌子，放把椅子，“東方大學英語培訓部”正式成立。
來了兩個學生，看“東方大學英語培訓部’那麼大的牌子，卻隻有俞敏洪夫妻倆，破桌子破椅子，破平房，登記冊幹幹淨淨，人影都沒有，學生滿臉狐疑。俞敏洪見狀趕緊推銷自己。像是江湖術士，憑著三寸不爛之舌，活說死說，讓兩個學生留下錢。夫妻倆正高興著呢，兩個學生又回來了。他們心裏不踏實，把錢又要回了……
就是這樣一個一無所有的人目前在中國30多個城市建立起自己的學校和學習中心。在最近一個財政年度，有100多萬學生入學。新東方還在紐約證交所敲響了上市的鍾聲，作為中國首家教育概念股，股價上漲強勁，較15美元的首次公開募股價上漲了3.5倍多。而持股31.18%的“新東方”掌門人俞敏洪，如今已是20多億身家的中國最富有的老師。
俞敏洪取得的這一切靠的是自己的堅韌和頑強。
1991年年底，俞敏洪即將邁向而立之年，可是作為一個男氣，快到三十而立的年齡，他卻“連一本自己喜歡的書都買不起，連為老婆買條像樣的裙子都做不到，整個家庭無處棲身，連家徒四壁都談不上，自己都覺得沒臉活在世界上”。為了攢夠自己的出國學費，俞敏洪在北大做外語老師時兼職在外做培訓。這種做法惹怒了學校，當時北大給了他一個處分。經濟上的困境，再加上名譽上的打擊，他突然萌生了辭職的決心。
此時的俞敏洪丟掉了令多少人羨慕的名校的鐵飯碗，生活和前途似乎都到了暗無天日的地步。當時，俞敏洪所承受的心理壓力外人很難想象，也無法體會得到。盡管成功後的他看起來波瀾不驚，但當時他的心中肯定掀起了巨大的驚濤駭浪。怎麼能夠就這樣屈服於命運的擺布呢？毫無退路的俞敏洪決定破釜沉舟了。
後來，當俞敏洪向別人談起這件事時說道：“北大踹了我一腳，當時我充滿了怨恨，現在充滿了感激。”為什麼充滿感激，因為他走出了自己獨立創業的第一步。“如果一直混下去，現在可能是北大英語係的一個副教授。”正是這些磨難使他找到了新的機會。顯然，走出北大成了他人生的分水嶺。
盡管因為沒有麵子在北大呆下去，盡管沒有攢夠出國的學費，俞敏洪卻對出國考試和出國流程了如指掌，對培訓行業越來越熟悉。離開北大後，俞敏洪開始在一個叫東方大學的民辦學校辦培訓班，學校出牌子，他上交5%的管理費。盡管困難重重，但拚死拚活幹了段時間後，俞敏洪的培訓班漸漸有了起色。
眼看著培訓班越來越火，俞敏洪漸漸萌生了自己辦班的念頭。就是為了每天能多掙點錢，早日攢夠出國學費。就這樣，1993年，在一間10平米透風漏雨的小平房裏，俞敏洪創辦了北京新東方學校。
到今天，新東方已成為中國最大的私立教育服務機構，在全國擁有25所學校、111個學習中心和13個書店，大約有1700名教師分布在24個城市。目前累計已有300萬名學生參與新東方培訓，僅今年就有87.2萬名。外語培訓和考試輔導課程在新東方營收中所占比例高達89%，是該公司最主要的營收來源和增長動力。
雖然俞敏洪曾說過：“新東方走到今天，不在我的意料之中，因為最初隻是為了糊口，招幾個學生辦個小小的補習班而已。”雖然俞敏洪開始並沒有想幹一番驚天動地的大事，但事實上他做到了。俞敏洪今日之成就是從昔日苦難、失敗中鍛煉出來的，在苦難的曆練中造就了自己百萬富翁的素質。
“歲寒知鬆柏”，他注定是大器晚成的人。高考數次落榜，他不氣餒，複讀時他還要務農、代課，終於在第三次高考舉考取北大西文係；畢業後，同學們紛紛出國，他卻失敗了幾次；遲到的愛情，病魘的耽誤，拖遝三年半出國未果，還有學校的處分。一切的酸甜苦辣他幾乎嚐遍了，也鍛煉了自己的抗風險能力。所以，才有了現在的“不鳴則已，一鳴驚人”。新東方學校從“星星之火”發展到“燎原之勢”。
對此，俞敏洪曾謙虛地說：“任何一個人辦了新東方都情有可原，但我就不能原諒，因為我在同學眼裏是最沒出息的人。我的成功給他們帶來了信心，結果他們就回來了。”所謂的沒出息實在是生活所迫。因為他是全班唯一一個出身於貧困農村的孩子，沒有任何社會地位和背景，因為生活所迫，還背負了處分。正是因為他“紮根原在破岩中”，曆經艱難困苦才出深山，所以，才能“任爾東西南北風”，頂住各種風浪的襲擊，在成千上萬的創業者中勝出。
1995年年底，積累了小筆財富的俞敏洪飛到北美，這裏曾是他魂牽夢繞的地方。在加拿大，曾經同為北大教師的徐小平聽了俞敏洪的創業經曆怦然心動，毅然決定同國和俞敏洪一起創業。在美國，看到那麼多中國留學生叫“俞老師”，許多海歸也終於下定決心回國。對此，俞敏洪笑言自己是“一隻土鱉帶著一群海龜奮鬥”。這批從世界各地彙聚到新東方的個性桀驁不馴的人，把世界先進的理念、先進的文化、先進的教學方法帶進了新東方。俞敏洪也就有了更多的期待。他希望能夠用自己的行為和思想，為中國學生做更多的事，為中國教育做更多的事，為中國未來做更多的事。