曾肇治平四年（1067）中进士，初为黄岩县主簿、郑州教授，后调崇文阁校书、馆阁校勘兼国子监直讲、太常寺同知。到崇文院后对秦汉以来的礼仪之规增补修正，使其完善，同时删定《九域志》，得到宋神宗嘉许，调国史馆编修，进吏部郎中，改右司，为《神宗实录》检讨。元祐初（1086），任起居舍人，不久为中书舍人。多次谏言朝廷应辩邪正，少宴乐，因意见不合，辞给事中职，以宝文阁待制知颍州（今安徽阜阳），调知邓州（今河南邓县）、齐州（今济南）、陈州（今河南淮阳）及应天府（今南京）。元祐七年，调为吏部侍郎，又因有关祭祀一事，改刑部，出知徐州、江宁府。
元祐八年（1093）十月，宋哲宗继位，起用一些旧臣，召曾肇入朝。曾肇建议选用忠信端良之士，防止近臣参政，遭贵戚攻击，出知瀛州（今河北河间）。绍圣四年（1097），前史官范祖禹等在修撰神宗《实录》时有讥讪言语，被降罪。曾肇参与修撰，亦被降调滁州。后复为集贤殿修撰，出知泰州、海州（今连云港市）。
元符三年（1100）正月，宋徽宗即位。曾肇复为中书舍人，上疏建议广开言路，昭雪元祐党人，改任翰林学士兼侍读，掌管起草诏令。时有谏官陈灌、给事中龚原以言获罪，无人敢救，曾肇挺身而出，极力进行辩解。建中靖国元年（1101），因兄布在相位，避嫌拜龙图阁学士，提举中太一宫。出知陈州，再任太原、应天府、扬州、定州（今湖北麻城）地方长官。修《哲宗实录》、《神宗宝训》、《国朝会要》，提举中太一宫。后出知陈、扬、定、岳、和州，历太原、应天府。
崇宁元年（1102），元祐期间的士大夫再度遭贬，曾肇亦被放逐到和州（今安徽和县）、岳州（今湖南岳阳），再贬到濮州（今山东鄄城）为团练副使，最后到汀州。四年，得以归。
大观元年（1107）卒于镇江。
事英、神、哲、徽四朝，共40余年，践14州，任吏、户、刑、礼四部侍郎，两为中书舍人。卒后30余年才被追封为曲阜县开国侯，赠少师，绍兴初谥“文昭”。明王世贞谓其书“如玉环拥（“九”加“重”），自是太平人物”。
小年闲爱春，认得春风意。未有花草时，先醲晓窗睡。
霞朝澹云色，霁景牵诗思。渐到柳枝头，川光始明媚。
长安车马客，倾心奉权贵。昼夜尘土中，那言早春至。
此时我独游，我游有伦次。闲行曲江岸，便宿慈恩寺。
扣林引寒龟，疏丛出幽翠。凌晨过杏园，晓露凝芳气。
初阳好明净，嫩树怜低庳。排房似缀珠，欲啼红脸泪。
新莺语娇小，浅水光流利。冷饮空腹杯，因成日高醉。
酒醒闻饭钟，随僧受遗施。餐罢还复游，过从上文记。
行逢二月半，始足游春骑。是时春已老，我游亦云既。
藤开九华观，草结三条隧。新笋踊犀株，落梅翻蝶翅。
名倡绣毂车，公子青丝辔。朝士还旬休，豪家得春赐。
提携好音乐，翦铲空田地。同占杏花园，喧阗各丛萃。
顾予烦寝兴，复往散憔悴。倦仆色肌羸，蹇驴行跛痹。
春衫未成就，冬服渐尘腻。倾盖吟短章，书空忆难字。
遥闻公主笑，近被王孙戏。邀我上华筵，横头坐宾位。
那知我年少，深解酒中事。能唱犯声歌，偏精变筹义。
含词待残拍，促舞递繁吹。叫噪掷投盘，生狞摄觥使。
逡巡光景晏，散乱东西异。古观闭闲门，依然复幽閟.
无端矫情性，漫学求科试。薄艺何足云，虚名偶频遂。
拾遗天子前，密奏升平议。召见不须臾，憸庸已猜忌。
朝陪香案班，暮作风尘尉。去岁又登朝，登为柏台吏。
台官相束缚，不许放情志。寓直劳送迎，上堂烦避讳。
分司在东洛，所职尤不易。罚俸得西归，心知受朝庇。
常山攻小寇，淮右择良帅。国难身不行，劳生欲何为。
吾兄谙性灵，崔子同臭味。投此挂冠词，一生还自恣。
