開始隨父祖為劉姓，魏道武帝登國五年（390年），奉父命攻打賀蘭部，迫使賀訥歸降。北魏道武帝拓跋珪領兵來救，直力鞮退兵。次年（391年），率軍八九萬攻打北魏南部，被魏軍還擊，兵敗鐵岐山之南，隻身逃走。後來所居代來城被北魏襲擊，和父親出走，在木根山被擒，部眾五千餘人被殺。龍升元年（407年），弟弟赫連勃勃自立為天王，建立夏國。受封大將軍、魏公。