當時的北方，主要的鮮卑部族有三支：段部鮮卑、宇文鮮卑和慕容鮮卑。慕容部與宇文部素有過節，涉歸去世後，慕容廆向晉廷表請討伐宇文部（《晉書·慕容廆載記》記載：“（慕容廆）父涉歸，以全柳城之功，進拜鮮卑單于，遷邑於遼東北，於是漸慕諸夏之風矣。”可知鮮卑慕容部當時是臣服於晉廷的），可晉武帝·司馬炎不允許慕容廆出兵宇文部，這致使慕容廆大爲憤怒，派兵“入寇遼西，殺略甚衆”（《晉書·慕容廆載記》）。
晉武帝立即派遣幽州諸軍討伐慕容廆，兩方戰於肥如（在今河北盧龍縣一帶），鮮卑大敗。這一仗後，慕容鮮卑復掠昌黎（在今河北省東北部），並在之後的數年中年年如此。
當時，慕容廆不單單隻向晉廷北部一帶用兵，還重創扶余，威行北方。段部鮮卑見其勢力越來越大，害怕爲其所吞併，因而採取以攻爲守的策略，時時騷擾慕容鮮卑。慕容廆見狀只好卑辭厚幣（指言辭恭謙，禮物豐厚）以爲安撫。
元康四年（294年），慕容廆移居大棘城，“教以農桑，法制同於上國。永寧中，燕垂大水，廆開倉振給，幽方獲濟。天子聞而嘉之，褒賜命服。”（《晉書·慕容廆載記》）從這段史料中可以看出，雖然之前慕容廆與晉廷還是兵戈相見，而此時，他因爲賑濟百姓有功，得到了晉廷的嘉獎。