王雲階向父母說了自己的請求，卻遭到父親的激烈反對。父親童年沒讀過書，文化水平低。他認為學音樂是當吹鼓手，下三濫。將來不能養活自己。王雲階學音樂是家門不幸，他堅決不同意。他還認為王雲階是獨養子，學一門手藝將來有好工作，不但能養活家人，而且也能養活父母。學音樂將來隻有挨餓。他還聽見有人說，上海去不得，太陽溢西，野雞滿街都是，他怕兒子去了，會變壞。
實在沒了辦法，王雲階就請出伯父做說客。父親沒給哥哥麵子，斷然拒絕。迫不得已，他隻好請美術老師到家來說服父親。那天，美術老師特意換上漂亮的西服，來了。一方麵是老師口才好，另一方麵是父親對老師比較尊重。談判結果，父親采取折中的方案，允許王雲階到上海讀書，但必須學繪畫，不能學音樂。
1927年，父親送王雲階到了上海。本來父親是從不出門遠行的，他擔心王雲階不照他的意思辦，所以，親自陪同。並且，親自把兒子送到新華藝術大學西畫係。可是，父親剛一離開學校，王雲階就去找教務主任潘伯英先生。他要求轉入音樂係，並請求學校每學期把西畫係的分數單寄回家。潘先生同意了。好在王雲階過去能畫點油畫，所以，他能按時畫幾幅畫，回去搪塞交差。
對兒子的計謀，父親起初沒有發現。他很得意地把王雲階畫的油畫，贈給自己的一個熟人——西餐廳的老板。西餐廳的老板看畫得不錯，就把畫掛在了餐廳裏。
王雲階開始學音樂是為了安慰自己，使自己在生活道路上有個精神寄托。他非常刻苦用功，把鋼琴作為“愛人”。音樂係一年級，學生五人，隻有三架鋼琴，為了每日能彈上鋼琴，他總是天不亮，三點起來去彈琴。手指彈出了血，他也不肯間斷。他在音樂的殿堂裏深深沉醉。
王雲階最感興趣的，是豐子愷譯編的有關世界名音樂家的介紹。逐漸地，他的思想從自我安慰，轉向要做一個音樂家。他特別喜歡貝多芬。尤其愛他那樣不馴的高傲，和放蕩不羈的狂熱。他感到貝多芬筆下瀉出的音符是那樣的高貴、神聖，體現了“人”這個最偉大的字眼的精髓和內涵。貝多芬的名言，他覺得更是神聖的：“行那一切能行的善，愛自由比任何都愛，即使麵對王位，也不把真理丟開”。直到1944年，在寫《七大音樂家的生活藝術》一書時，他還是把這名言推崇為普遍的真理。在那本書中，他是這樣寫的：“貝多芬則本其倔強的天性，傲視公候，生當拿破侖雄視歐洲刀兵洗劫的狂飆時代，以世紀病者的姿態，努力在希望與失望、戀愛與憎惡的矛盾苦悶中反抗他，堅毅地狂熱地追求著悲天憫人的英雄理想，實現著英雄的生活。他又象莎士比亞似的，能大無畏地麵向普通的真理”。
王雲階在上海新華藝大音樂係讀到1929年上學期，為了挽留一位鋼琴老師——冷蘭琴，美專的幾位同學聯合他一起鬧學潮。結果，美專的幾位同學，被學校開除。新華藝大不舍得開除王雲階。為了那幾位同學，他也自行轉學到據說是陳望道新創辦的人文藝術大學音樂係。
在轉到人文藝大的同時，王雲階也考上了國立音專的鋼琴選科。他兼讀兩所藝術大學，師從外籍鋼琴老師鳥爾曼（ULMAN）教授和阿薩可夫（AKSAKV）教授。因為成績好，國立音專也很喜歡王雲階。
本來，王雲階給家中寄去的分數單是西畫係的，考進國立音專之後，國立音專的成績單讓家中發現。還有，他反對封建包辦的婚姻，假期裏，常借故不回青島。父親惱火了。有一天晚上，他正在學校禮堂準備表演鋼琴獨奏，突然進來一個人，這就是平日轉交他生活費的商人。這人拿出一張船票，讓王雲階當晚跟他一同回青島。並且說，這是他父親的意思。
王雲階的心有點亂。當他開始演奏時，耳邊聽見外國鋼琴老師在與其他老師稱讚他彈琴。他聽了，有點得意。不料，演奏到中間，他忽然想起了父親，想起馬上要回家麵對父親。頓時，腦中出現了一片空白……等到神誌清醒過來，已不記得演奏到什麼地方，隻好無可奈何地彈了幾個和弦，作為結束。王雲階匆匆走下台來，好心的同學，問他彈的曲子怎麼這樣短。他無言以對。隻是哭喪著臉，默默地被那個“催命鬼”押著離開了學校，走上了輪船，被送回了青島。
他一到青島，馬上被家庭軟禁，逼迫成親。這樣在高壓的強迫下，王雲階被迫迎來了從未見過麵的陌生女子——所謂的新娘。他隻有默默流淚。為了反抗封建，他決定不與這個陌生的女子同房。新學期開學了，他沒有到校。老師問王雲階到哪裏去了？同學們沒有人能回答。
大家也很想念王雲階，有一位女同學在日記裏記錄了與他同學半年多的生活印象。聽說他離開了上海，就把鋼琴上他的像片拿去。女同學寫信給他，表示要與他作朋友。悲傷中的王雲階回信說，作個精神上的朋友，信也不要通吧！他在真理、音樂、愛情三個方麵上的認識都有新變化，他追求著真理，追求著貝多芬的“自由”（個性解放）並且認為，在音樂與愛情之間，音樂比愛情重要。
父親命令他到北平學習商業。可王雲階到了北平之後，仍瞞著父親，向清華大學教授庫普卡學鋼琴，向陳德義教授學作曲。他喜歡的是音樂。他要實現讓電影唱出聲來的願望。
沒有什麼能阻止他讓電影唱歌的理想。