桑弘羊在當侍中期間，一定參加了很多漢武帝製定軍國大事的討論，他了解了漢武帝的為人和抱負，自己也深受漢武帝思想的影響。這期間，他雖然沒有什麼突出的表現，因而也沒有受到漢武帝的重用，但他卻學習和鍛煉了參加國家大政的能力，為以後的從政準備了條件。
桑弘羊從13歲作侍中，一直到39歲出任大農丞，當了26年的侍中。這期間，由於漢武帝大規模的對匈奴用兵，國家的府庫餘財已經用盡，財政發生了困難。元狩三年（前120年），主要負責財政的大農令鄭當時，為了彌補財政的虧空，向漢武帝推薦山東的大鹽商東郭成陽和河南南陽的大冶鐵商孔僅，擔任大農丞，利用他們經商的經驗和技術，負責管理鹽鐵事務，通過鹽鐵收歸官營，來增加國家的財政收入。桑弘羊這時已經34歲，他由於善於計算經濟問題，漢武帝讓他幫助東郭鹹陽和孔僅估算研究鹽鐵官營的規劃。這個規劃經過一年的起草才完成，主要是將原屬少府管的鹽鐵劃歸大農令管，由國家壟斷鹽鐵的生產，不許私人經營。漢武帝很快就批準了這個計劃，並派孔僅和東郭鹹陽到全國各產鹽鐵的地區，設立鹽鐵官營的機構，任命原來經營鹽鐵生產的商人為各地官營鹽鐵的主管官。看起來，漢武帝對經營鹽鐵政策的改變以及孔僅、東郭鹹陽和桑弘羊對這一新政策的執行，在經濟上是取得了成效的。所以三年之後，孔僅就升任為大農令，桑弘羊也被提拔為大農丞。大農令是封建政府掌管財政的最高官員，大農丞是他的主要助手，從這時開始，桑弘羊在理財上就顯示出他的突出才幹，越來越受到漢武帝的重用。
算緡是封建國家向商人征收的一種財產稅，告緡是與商人瞞產漏稅作鬥爭的方法。這也是由於大規模的對匈奴用兵，而山東一帶又遭了水旱災，為了彌補財政不足而對工商業者采取的一種籌款措旌。最初提出這個辦法的是禦史大夫張湯，武帝元狩四年（前119年）頒布了推行的法令。但是由於當時的大農令顏異不讚成此事，所以未能認真貫徹執行。桑弘羊出任大農丞後，才在全國雷厲風行地加以推行。
所謂算緡，就是凡工商業者，都要如實向政府呈報自己的財產數，二緡抽取一算的稅（一緡為一千錢，一算為二百文錢）；小工商業者可以減半抽稅。凡有乘坐馬車的（官吏和戰士除外），一乘抽稅一算，運貨的馬車抽二算，船五丈以上的抽一算。所謂告緡，就是對不如實呈報財產的人，鼓勵大家告發，經調查屬實者，除了被告發人的財產被全部沒收、戍邊一年外，告發的人可得到被沒收財產一半的獎賞。
算緡和告緡的法令頒布後，遭到了工商業者的頑強反抗，他們采用各種辦法轉移和藏匿財產，不報或少報自己的財產數。為了與這些工商業者作鬥爭，漢武帝讓楊可專門主持告緡的事。這時作為右內史（管理京師的官）的義縱，站在商人的立場上，指責告緡的人不是好人，竟然加以搜捕，公開和告緡令作對。這件事報告給漢武帝以後，就以義縱有意破壞告緡為理由，殺了義縱，並將對算緡和告緡持消極態度的大農令顏異，也借它故撤職並判了死刑。這樣，就從政府機構中清除了推行算緡和告緡的障礙，使楊可得以放手進行。
桑弘羊當了大農丞後，為了支持楊可把告緡堅持下去，又重申了告緡令。這樣，告緡的活動就在全國普遍推開了，中等以上的工商業者，大都受到了告發。政府派出官吏到各地處理算緡和告緡的事，政府得到以億計的財物，成千上萬的奴婢，沒收的田地，大縣數千頃，小縣百餘頃，還有很多房屋。中等以上的工商業者紛紛破產，而政府的國庫卻充實起來，有力地支援了漢武帝的對外戰爭。