科举及第后，累任侍御史、兵部员外郎等官。“安史之乱”时，任太原少尹，协助李光弼守太原，颇有功绩和谋略，被舆论所推重，升任宪（刑）部侍郎。后，两次出任宰相。
外任河南副元帅、侍中持节都统河南淮西、山南东道诸节度行营事、东都留守、河东节度使兼太原尹、北都留守等军事要职，并以“才微位高”、“无益时事”、不应“无功增秩”等理由自谦，让出高位和兼职。在太原少尹任上，他整肃纪律，从严治军，将恃功自居不受约束的太原旧将王无纵、张奉璋等到以军法处斩，全军将校再不敢玩忽职守。
“安史之乱”被平息后，当王维因被安禄山俘虏而受审查时，他诚恳地要求免除自己的官职来为兄长赎罪，使兄长王维得到从宽处理。兄弟之间的情谊，颇受世人称赞。
晚年身为宰相，但面对权臣元载的专横行为，却不敢进行斗争，反而事事附和。大历十二年（777年），元载获罪受诛，他也被贬为括州（今浙江丽水）刺史。后，又被召归，为太子宾客、分司东都，直到去世。
一生笃信佛法，任宰相时，大兴佛教之风，使大历年间佛教盛极一时，寺庙云集，沃壤被占，僧徒横行，寺庙成为藏污纳垢之所，导致刑政失修，政治腐败。
忆昨天台寻石梁，赤城枕下看扶桑。金乌欲上海如血，
翠色一点蓬莱光。安期先生不可见，蓬莱目极沧海长。
回舟偶得风水便，烟帆数夕归潇湘。潇湘水清岩嶂曲，
夜宿朝游常不足。一自无名身事闲，五湖云月偏相属。
进者恐不荣，退者恐不深。鱼游鸟逝两虽异，
彼此各有遂生心。身解耕耘妾能织，岁晏饥寒免相逼。
稚子才年七岁馀，渔樵一半分渠力。吾友从军在河上，
腰佩吴钩佐飞将。偶与嵩山道士期，西寻汴水来相访。
见君颜色犹憔悴，知君未展心中事。落日驱车出孟津，
高歌共叹伤心地。洛邑秦城少年别，两都陈事空闻说。
汉家天子不东游，古木行宫闭烟月。洛滨老翁年八十，
西望残阳临水泣。自言生长开元中，武皇恩化亲沾及。
当时天下无甲兵，虽闻赋敛毫毛轻。红车翠盖满衢路，
洛中欢笑争逢迎。一从戎马来幽蓟，山谷虎狼无捍制。
九重宫殿闭豺狼，万国生人自相噬。蹭蹬疮痍今不平，
干戈南北常纵横。中原膏血焦欲尽，四郊贪将犹凭陵。
秦中豪宠争出群，巧将言智宽明君。南山四皓不敢语，
渭上钓人何足云。君不见昔时槐柳八百里，
路傍五月清阴起。只今零落几株残，枯根半死黄河水。
