宰相裴度荐为兴元书记，所作文檄豪健，一时推许。元舆负才，锐意进取。太和五年（831）上疏自荐，反复八万言，文辞精粹，出入今古，获文宗李昂嘉许。以擅文敢谏著称。宰相李宗闵谓其浮躁诞肆不可用。及李训得宠，召为左司郎中，充知杂事侍御史。九年七月权御史中丞。文宗省察记录囚徒罪状，因元舆奏辨明审，九月升御史中丞，以本官兼刑、兵两部侍郎，同平章事。时宦官仇士良专权。十一月，李训、舒元舆和凤翔节度使郑注等，密谋内外协势，铲除宦官势力。以左金吾卫石榴树上夜有甘露为名，诱使仇士良等往观，谋加诛杀。因所伏兵甲暴露，事败。元舆单骑出走，为仇士良神策军生擒，不日遭腰斩。史称"甘露之变"。弟元褒、元肱、元迥官同时。元褒早卒，余全被族诛。所著《牡丹赋有序》一篇，时称其工，一日，文宗绕栏微吟，为之泣下。大中八年（854）昭雪。著有《舒元舆集》，以散佚。《全唐文》录存其文16篇。其文《贻诸第励石命》 、《录桃源画记》收入《唐代散文选》，其诗入《全唐诗》6首。