而且出人意料的是完颜阿骨打居然还能挟带他的老对手辽朝的开国君主耶律阿保机出来，
耶律阿保机出生时，契丹的贵族阶层正在为争夺联盟首领之位而打得不可开交。阿保机的祖父耶律匀德实在残酷的政治斗争中被杀，父亲和叔叔伯伯们也逃离出去，躲了起来。祖母简献皇后对于这时刚出生的阿保机非常喜爱，但又担心他被仇人加害。
因此常将他藏在别处的帐内，涂抹其面，不让他见外人。耶律阿保机三个月便能行走，满百日便能说话，凡事未卜先知。自称左右好像有神人护卫。即使在童年之时，开言便涉及国家大事。当时其伯父执掌国政，事有疑难便去向他咨问。
阿保机自幼聪敏，才智过人。
长大成人后，身体魁梧健壮，胸怀大志，而且武功高强，《辽史》上说他“身长九尺，丰上锐下，目光射人，关弓三百斤”，值伯父耶律释鲁掌权，深得信任，耶律亿任遥辇氏痕德堇可汗的挞马狨沙里（扈卫官），组建侍卫亲军。凭藉这支精锐武装，阿保机迅速崛起。率领挞马部（扈卫队）战胜了小黄室韦、越兀、乌古、六奚、比沙笰等近邻小部落，阿保机的伯父被杀后，阿保机继承了伯父的于越（地位仅次于可汗，史称“总知军国事”，高于夷离堇，掌握联盟的军事和行政事务，相当于中原王朝的宰相）的职位，并击溃以蒲古只为首耶律释鲁的部落豪强。相继降小黄室韦，破越兀、兀古、六奚诸部，被国人誉为“阿主沙里”（沙里，契丹语“郎君”），
天复元年（901年），痕德堇可汗即位，任本部夷离堇（军事首领），专事征伐，大破室韦、于厥及奚帅辖剌哥。进大迭烈府夷离堇。
902年（唐末天复二年），耶律阿保机以兵40万伐河东、代北，攻下九郡，获牲口95000，驼、马、牛、羊不可胜数。在潢河南岸建龙化州城，将所俘汉人迁居于此。
903年（天复三年），北攻女真，俘获三百户；南取河东、怀远军，略地蓟北（今河北北部），俘获人口财物而回。升于越，总知军国事，成为部落联盟的实际操纵者。
天复四年（904年），讨伐黑车子室韦，伏击唐朝卢龙节度使刘仁恭数万大军于平原，活捉大将、刘仁恭的养子赵霸，并乘胜大破室韦。天祐二年（905年），唐朝垂亡，他应唐朝河东节度使李克用之邀，率七万骑兵到云州（今山西大同）相会，结为兄弟，约定共讨梁王朱温和卢龙节度使刘仁恭，但终因无利可图而没有践约。
接着，耶律阿保机进兵攻打刘仁恭，攻下数州，尽数迁掳其民。
天祐三年（906年）二月，阿保机又攻打刘仁恭，回军途中，袭击山北奚人，破之。朱温派人渡海奉上书币、衣带、珍宝前来交好。十一月，派偏师讨伐奚、靅诸部及东北女真中尚未归附的部族，一概攻破降服之。十二月，痕德堇可汗卒，遗命推选阿保机为汗。
耶律曷鲁等人劝进。阿保机多次辞让，后来接受了请求。按照传统制度，可汗之位要三年改选一次。阿保机的目标是像中原的皇帝一样建立终身制和世袭制，所以在他任可汗满三年时不肯交出大权，凭借他的实力和威望继续坐在可汗的宝座上，向皇帝的目标努力。
开平元年（907年）正月，为契丹大首领，即皇帝位，尊母萧氏为皇太后，立皇后萧氏。北宰相萧辖剌、南宰相耶律欧里思率群臣上尊号曰天皇帝，皇后曰地皇后。阿保机以皇族承遥辇氏九帐为第十帐，以弟耶律迭栗底为迭烈府夷离堇，设官统领部众。二月，征讨黑车子室韦，降服其八部。十月，征讨黑车子室韦，破之。
开平二年（908年）春正月初一，阿保机御临正殿受百官及各国使节朝贺，初次设置惕隐官，管理宗室事务，以皇弟耶律撒剌任宗正。五月，令耶律撒剌讨伐乌丸、黑车子室韦。
开平三年（909年），命皇弟舍利素、夷离堇萧敌鲁与沧州节度使刘守文一起大破其弟刘守光。
开平四年（910年），以皇后兄萧敌鲁为北府宰相，后族为相自此始。十月，平定乌马山奚库支及查剌底、锄勃德等的反叛。
开平五年（911年），阿保机亲征西部奚，奚人自恃地险路远，叛服不常，阿保机多次派人对他们加以招抚晓谕而不听。这次战役所向即下，于是分兵讨伐东部奚，也得到平定。于是尽有奚、靅之地。东到大海，南及白檀，西越松漠，北抵潢水，总计五部，均归入版图
阿保机不肯交出大权引起了本家族其他贵族的不满，因为按照习惯，可汗实行的是家族世选制，即可汗之位转入耶律氏后，可汗就都要由这个家族成年人担任，所以阿保机不让位，其他人便没有机会当选。为了争取这个被选举权，阿保机本家族的兄弟们便首先起来反对他，由此发生了历史上的“诸弟之乱”。兄弟们的叛乱一共有三次。
第一次在公元911年，这年的五月，阿保机弟耶律剌葛、耶律迭剌、耶律寅底石、耶律安端策划谋反，安端的妻子粘睦姑得知后就报告了阿保机，阿保机不忍心杀掉这些兄弟，就和他们登山杀牲对天盟誓，然后赦免了他们，只是贬耶律剌葛为迭剌部夷离堇，封粘睦姑为晋国夫人。
兄弟们并没有领情，第二年，又在于越耶律辖底的带领下，再次反叛。除了原来的几个人外，新任命的惕隐耶律滑哥也参加了。
这年的七月，