丘迟一生横跨宋、齐、梁三朝，出生成长于刘宋后期。 其父丘灵鞠，也是当时著名文人。
丘迟8岁能文。早年仕于南朝齐，任太学博士、大司马参军。因父丧，两次去职。服丧期满，任西中郎参军。母亡，又去职服丧。以秀才后仟殿中郎、车骑录事参军。入萧衍幕为骠骑主簿。梁武帝时，任散骑侍郎、中书侍郎，领吴兴邑中正，侍诏文德殿。坐事免职。
梁天监三年，出任永嘉太守，在任4年。提倡农桑，重视教化，崇尚俭约富民。虽然他的政绩史书记载较少，却是万历《温州府志》中南梁五十五年内入志的两位郡守之一。 任永嘉太守期间所作《永嘉郡教》一文中说“贵郡控带山海，利兼水陆。实东南之沃壤，一都之巨会。”
梁天监四年（505年），临川王萧宏伐魏，丘迟为谘议参军兼记室，时陈伯之率军抗梁，丘迟以一篇《与陈伯之书》打动陈伯之率部归降，其中“暮春三月，江南草长，杂花生树，群莺乱飞······”描写温州等江南景色，脍炙人口。
回朝后升中书郎、司空从事中郎（一作司徒从事中郎）。
梁天监七年，卒于任所，年仅44岁。
巴南分与亲情别，不料与君床并头。
为我远来休怅望，折君灾难是通州。
京城每与闲人别，犹自伤心与白头。
今日别君心更苦，别君缘是在通州。
万里尚能来远道，一程那忍便分头。
鸟笼猿槛君应会，十步向前非我州。
来时见我江南岸，今日送君江上头。
别后料添新梦寐，虎惊蛇伏是通州。
闻君欲去潜销骨，一夜暗添新白头。
明朝别后应肠断，独棹破船归到州。
