道光二十年（1840年），廉兆綸中進士，授翰林院編修。歷任翰林院侍講學士、內閣學士。咸豐五年（1855年）官至工部侍郎。奉命輔佐曾國藩，幫辦江西廣信、饒州軍務，在江西廣信、吉安、撫州一帶參與鎮壓太平天國。請整頓地方團練；撤裁統兵大員，軍事責成各省督撫。曾率練勇堅守廣信數月，不久因病歸鄉。咸豐八年（1858年）任戶部倉場侍郎，同治二年（1863年）因事罷官。回鄉主持問津書院，以修脯自給。四年後去世，著有《深柳堂集》。