武德四年(621年),秦王李世民滅竇建德后,虞世南被授任為秦王府參軍,不久轉(zhuǎn)任記室參軍,十月,李世民被封為天策上將,并建立文學(xué)館,虞世南被授為弘文館學(xué)士,與房玄齡共掌詔告文翰,為“十八學(xué)士”之一。
武德五年(622年),與裴矩撰《兇吉書儀》。
武德九年(626年)六月,李世民正式被封為太子后,虞世南升任太子中舍人。
同年八月,李世民即位,虞世南轉(zhuǎn)任著作郎,兼弘文館學(xué)士。當(dāng)時(shí),虞世南年已衰老,上表請(qǐng)求辭官,太宗下詔不允,升他為太子右庶子,虞世南堅(jiān)決推辭不受,被授為秘書少監(jiān)。
貞觀五年(631年),參與編撰《群書政要》。
貞觀六年(632年)七月,虞世南進(jìn)呈《圣德論》一文,太宗賜手書詔令給虞世南稱:“你的評(píng)價(jià)太高了。朕怎么敢與上古帝王相比,只是與近代相比略強(qiáng)些。然而你只是剛剛看見開頭,未知其終結(jié)。如果朕真能善始善終,那么你的高論可傳之后世;如若不然,恐怕只會(huì)成為后世的笑柄!”
貞觀七年(633年),虞世基轉(zhuǎn)任秘書監(jiān),賜爵永興縣子。太宗器重他的博識(shí),常常在處理軍政大事的間隙,召世南在一起談經(jīng)論史。虞世南雖然容貌怯懦,弱不勝衣,但性情剛烈,當(dāng)政得失,直言敢諫。太宗曾對(duì)侍臣說:“朕借閑暇的時(shí)間與世南商討古今政事,有一個(gè)字的差錯(cuò),未嘗不惆悵惱恨,他懇切誠(chéng)摯到這種程度,朕用他用得好啊。群臣都像世南這樣,天下還愁有什么不能治理。”
貞觀八年(634年),虞世南進(jìn)封永興縣公。同年,隴右山崩,大蛇多次出現(xiàn),山東及江淮多次遭大水。太宗問“天變”。虞世南以晉朝以來歷次山崩為例,借機(jī)勸諫太宗遵循道德義理,并希望太宗不因功高而自滿、不因太平已久而驕傲松懈,始終如一。太宗聽后斂容反省,認(rèn)為此言對(duì)自己有警醒作用。同年四月,康國(guó)進(jìn)獻(xiàn)獅子,太宗命虞世南為其作賦。
貞觀九年(635年),太上皇李淵駕崩,虞世南一再勸阻太宗筑陵墓厚葬,使太宗有所收斂。他還嚴(yán)正勸阻太宗不要恣于游獵而疏于政事。這些都對(duì)當(dāng)時(shí)的“貞觀之治”起著積極的作用。