年少時，馬廖主攻《易經》。因父職而為郎官。漢明帝永平三年（60年），其妹被立為皇后，馬廖被封為羽林左監、虎賁中郎將。漢明帝逝世後，他受遺詔掌管宮禁門衛，成為衛尉。馬皇后的養子漢章帝即位後，馬皇后成為馬太后，漢章帝更是重用馬廖，皆委以要職。馬太后以身作則，提倡一切從簡，馬廖思慮此舉難成氣候，遂建議太后實行德政。

馬廖為人謹小慎微，潔身自好，不好權勢名聲，朝廷多次請封外戚，馬廖都婉辭不就。但在馬太后的勸說下，馬廖終于在建初四年（79年）受封為順陽侯。馬太后逝世後，馬氏家族逐漸失勢。馬廖忙于政務，平時對自己的子女疏于管教。他的兒子步兵校尉馬豫，對自己所受的限制不滿，向朝廷投書抱怨，又因兩個弟弟馬防和馬光樹立黨羽，拉幫結派，豪華奢侈，有關單位以馬豫、馬防、馬光衣食住行，超過他們的身份，污染聖明的禮教為由，全都遣返封國，建初八年（83年）馬廖被遣返封地順陽（今河南省淅川縣李官橋鎮一帶），馬豫也被免官，後來漢章帝下詔特准許馬廖回到京師洛陽。永元四年（92年），馬廖逝世。漢和帝以馬廖為漢章帝舅舅的緣故，厚加賵賻，派使者弔祭，王主會喪，謚曰安侯。