李渤到江州不久，发现朝廷管理财政的官员张叔平，不顾百姓疾苦，竟奏征贞元二年（786年）逃户欠款四四0一贯。他体察下情，为民请命，立即上书陈奏“江州管田二千一百九十七顷，今年已旱死一千九百多顷”，还要征收三十六前的拖欠，黎民百姓实在负担不了。并在书中表示：如不准奏，“臣既上不副（符合）圣情，下不忍鞭笞黎庶，不敢轻持符印，特乞放臣归田”。在李渤的恳切请求下，朝廷才下旨：“江州所奏，实为诚恳，若不蠲容（免除），实难存济（安顿），所诉逋欠（拖欠）并放（免收）。”

当年，江州治署城南有一南湖，面积约一千二百亩，东抵北风嘴，西连龙开河，南接山川岭，北依浔阳城。由于湖面宽阔，南来北往行人诸多不便。李渤为了方便行人，遂纠工在湖中筑堤。堤长七百步（约二里），南连山川岭，北接城池的南门口，沟通南北，往来称便。堤上还建桥安闸，控制和调节水位，兼有灌溉农田之利。后人为感谢这位刺史，将新建的堤命名李公堤，外湖名甘棠湖，桥名思贤桥。