1979年朱鎔基調任國家經委任燃動局處長,1980年升任為副局長,並獲高級工程師職稱。1982年5月24日被任命為國家經委委員兼技術改革局局長,1983年8月升任為國家經委副主任兼國家經委黨組成員。 1987年11月1日,當選中共中央候補委員,同年12月調任為中共上海市委副書記;1988年4月25日,任上海市長;1989年8月兼任中共上海市委書記。在任期間,他由於關注民生疾苦,強調干實事不擺花架子,並且推動和管理了上海浦東新區的發展,而贏得了廣泛的尊敬和好評。
1991年4月8日,七屆人大四次會議朱鎔基被補選為國務院副總理;1992年6月兼任國務院經濟貿易辦公室主任;1992年秋任中共中央政治局常委。期間,他主要精力集中於工業、農業、金融業的改革。工業方面致力於解決國企間的「三角債」問題,而農業方面,清理了農村政府採購「打白條」的現象。
1993年3月29日任國務院第一副總理,同年7月2日兼任中國人民銀行行長。在任央行行長期間,朱鎔基抑制了當時通貨膨脹、物價上漲,以及金融市場的混亂苗頭,在總量上控制住了過高的固定資產投資。通過四年有力得當的宏觀調控,他成功完成了控制通貨膨脹的主要任務,抑制住了國家經濟增長過熱的現象,實現了「軟著陸」、並打擊了官商勾結的利益集團,這些成績使他被公認為一個有才幹的經濟總理。作為主管經濟的副總理,其優秀的政績及強硬的作風,備受國內外讚揚,也因此被冠以「經濟沙皇」的名號。
1997年9月朱鎔基任中共第十五屆全國代表大會中央政治局常委;1998年3月眾望所歸出任國務院總理。 1998年就任總理後,繼續大刀闊斧地進行經濟體制改革和國務院體制改革,進行了建國以來最大幅度的機構精簡,採取了積極的財政政策,通過政府舉債促進經濟的成長、增加公務員薪金等方法,使得中國經濟能夠在軟著陸後再度步入高速發展的軌道。此外他還嚴厲打擊腐敗與日益猖獗的走私活動,在其指示之下偵破了歷年來最大的一起走私案賴昌星案,逮捕多位福建省的高級官員。