少有才学，南齐时，以太学生游于竟陵王萧子良西邸，历始安王侍郎、建安征虏府主簿功曹，兼记室参军。诗为谢脁所称赏。入梁，官至为晋安王侍郎。事迹附见《南史》卷五九《王僧孺传》后。史称其“盛有才藻，卒于晋安王侍郎”（《南史》）。
虞羲的诗以《文选》所录《咏霍将军北伐》最为有名。这首诗写沙场烽火，如“长城地势险，万里与云平”、“飞狐白日晚，瀚海愁云生。羽书时断绝，刁斗昼夜惊”，颇有气势。诗中歌颂霍去病伐匈奴的战功，并对他的早死感到惋惜，反映了齐梁间一些人希望北伐、平定中原的意愿。虞羲还有一首抒情诗《送友人上湘》写离别之情：“共盈一樽酒，对之愁日暮；汉广虽容，风悲未可渡。”用典贴切，感情真挚。其他如《见江边竹》、《春郊》、《咏秋月》等，也有一些清丽之句。
虞羲原有集11卷，《隋书·经籍志》录有《虞羲集》9卷，已佚。今仅存文1篇，诗12首，收入《全上古三代秦汉三国六朝文》、《先秦汉魏晋南北朝诗》中。
惟永初之有七兮，余随子乎东征。时孟春之吉日兮，撰良辰而将行。乃举趾而升舆兮，夕予宿乎偃师。遂去故而就新兮，志怆悢而怀悲！
明发曙而不寐兮，心迟迟而有违。酌鞰酒以弛念兮，喟抑情而自非。谅不登樔而椓蠡兮，得不陈力而相追。且从众而就列兮，听天命之所归。遵通衢之大道兮，求捷径欲从谁？乃遂往而徂逝兮，聊游目而遨魂！
历七邑而观览兮，遭巩县之多艰。望河洛之交流兮，看成皋之旋门。既免脱于峻崄兮，历荥阳而过卷。食原武之息足，宿阳武之桑间。涉封丘而践路兮，慕京师而窃叹！小人性之怀土兮，自书传而有焉。
遂进道而少前兮，得平丘之北边。入匡郭而追远兮，念夫子之厄勤。彼衰乱之无道兮，乃困畏乎圣人。怅容与而久驻兮，忘日夕而将昏。到长垣之境界，察农野之居民。睹蒲城之丘墟兮，生荆棘之榛榛。惕觉寤而顾问兮，想子路之威神。卫人嘉其勇义兮，讫于今而称云。蘧氏在城之东南兮，民亦尚其丘坟。唯令德为不朽兮，身既没而名存。
惟经典之所美兮，贵道德与仁贤。吴札称多君子兮，其言信而有徵。后衰微而遭患兮，遂陵迟而不兴。知性命之在天，由力行而近仁。勉仰高而蹈景兮，尽忠恕而与人。好正直而不回兮，精诚通于明神。庶灵祇之鉴照兮，佑贞良而辅信。
乱曰：君子之思，必成文兮。盍各言志，慕古人兮。先君行止，则有作兮。虽其不敏，敢不法兮。贵贱贫富，不可求兮。正身履道，以俟时兮。修短之运，愚智同兮。靖恭委命，唯吉凶兮。敬慎无怠，思嗛约兮。清静少欲，师公绰兮。
