科举及第后，累任侍御史、兵部员外郎等官。“安史之乱”时，任太原少尹，协助李光弼守太原，颇有功绩和谋略，被舆论所推重，升任宪（刑）部侍郎。后，两次出任宰相。
外任河南副元帅、侍中持节都统河南淮西、山南东道诸节度行营事、东都留守、河东节度使兼太原尹、北都留守等军事要职，并以“才微位高”、“无益时事”、不应“无功增秩”等理由自谦，让出高位和兼职。在太原少尹任上，他整肃纪律，从严治军，将恃功自居不受约束的太原旧将王无纵、张奉璋等到以军法处斩，全军将校再不敢玩忽职守。
“安史之乱”被平息后，当王维因被安禄山俘虏而受审查时，他诚恳地要求免除自己的官职来为兄长赎罪，使兄长王维得到从宽处理。兄弟之间的情谊，颇受世人称赞。
晚年身为宰相，但面对权臣元载的专横行为，却不敢进行斗争，反而事事附和。大历十二年（777年），元载获罪受诛，他也被贬为括州（今浙江丽水）刺史。后，又被召归，为太子宾客、分司东都，直到去世。
一生笃信佛法，任宰相时，大兴佛教之风，使大历年间佛教盛极一时，寺庙云集，沃壤被占，僧徒横行，寺庙成为藏污纳垢之所，导致刑政失修，政治腐败。
谏诤知无补，迁移分所当。不堪匡圣主，只合事空王。
龙象投新社，鹓鸾失故行。沉吟辞北阙，诱引向西方。
便住双林寺，仍开一草堂。平治行道路，安置坐禅床。
手版支为枕，头巾阁在墙。先生乌几舄，居士白衣裳。
竟岁何曾闷，终身不拟忙。灭除残梦想，换尽旧心肠。
世界多烦恼，形神久损伤。正从风鼓浪，转作日销霜。
吾道寻知止，君恩偶未忘。忽蒙颁凤诏，兼谢剖鱼章。
莲静方依水，葵枯重仰阳。三车犹夕会，五马已晨装。
去似寻前世，来如别故乡。眉低出鹫岭，脚重下蛇冈。
渐望庐山远，弥愁峡路长。香炉峰隐隐，巴字水茫茫。
瓢挂留庭树，经收在屋梁。春抛红药圃，夏忆白莲塘。
唯拟捐尘事，将何答宠光。有期追永远，无政继龚黄。
南国秋犹热，西斋夜暂凉。闲吟四句偈，静对一炉香。
身老同丘井，心空是道场。觅僧为去伴，留俸作归粮。
为报山中侣，凭看竹下房。会应归去在，松菊莫教荒。
