1251年波希米亚国王奥托卡二世乘机率领军队占领了巴本堡家族领地奥地利、士底里亚、克伦地亚和克莱因。罗马教皇和德意志其它诸侯对于奥托卡二世的举动甚为不满。鲁道夫一世利用此种情绪，以上述土地并非授与奥托卡二世作采邑为名，要求他撤出奥地利等地，将土地归还帝国。1274年，在纽伦堡帝国会议上作出决定，从前腓特烈二世国王侵占的帝国领地必须归还。奥托卡必须对不承认新国王作出答复。奥托卡拒绝出庭也拒绝归还侵占的帝国省份-奥地利、施蒂里亚、卡林西亚和卡尔尼奥拉。对这些土地的权益是来自奥托卡的一个妻子，是奥地利公爵巴本堡王朝的女继承人。国王鲁道夫驳回了奥托卡的继承要求，并把这些土地当作无主采邑收归帝国。1275年6月24日由于奥托卡多次不听传唤，被宣布不受法律保护。
1276年鲁道夫一世和奥托卡二世的战争正式开始。在诸侯和贵族的支持下，鲁道夫一世率领军队向奥地利进发。他把自己率领的军队和匈牙利国王拉斯洛四世率领的军队分作两路，从左右两侧向中间夹击，形成强大的钳形攻势，向奥托卡二世军队驻扎地维也纳东部马池河战场杀去。皇帝成功说服了奥托卡的同盟者下巴伐利亚的亨利一世倒戈。这使得奥托卡不得不归还侵占的四个省份并宣誓效忠。于是皇帝把波希米亚作为帝国封邑授予奥托卡并把自己的女儿尤塔嫁给了奥托卡的儿子瓦茨拉夫二世。兵不血刃的完成了这次讨伐后，皇帝在维也纳举行了凯旋式。
但是，奥托卡二世并不甘心于失败。他在反对鲁道夫一世权力增长的西里西亚和波兰诸侯的支持下，集结了图林根、勃兰登堡和巴伐利亚诸侯的军队再次征战。鲁道夫一世这次的军队并不太多。除去自己领地的军队之外，得到了匈牙利国王拉斯洛四世和蒂罗尔迈哈德二世伯爵的军事援助。1278年8月26日，两军在马池河战场发生激战。鲁道夫一世指挥左翼大军首先击溃了奥托卡二世的部分军队。但是右翼大军却陷入严重困境。后来，鲁道夫一世指挥的援军及时赶到，击溃了波希米亚的军队，杀死了奥托卡二世。马池河战役(迪恩克鲁特战役)成为哈布斯堡家族在奥地利确立统治的重要转折点。战后，摩拉维亚从波希米亚分离。这样奥托卡的继任者瓦茨拉夫只剩下了布拉格周围的几个省份。当然鲁道夫的女儿仍然被许给了瓦茨拉夫。
鲁道夫的下一个动作就是在奥地利和周围省份中建立王室的威权。他花了好几年时间想在这里建立威权但是发现很难把这些省份纳入自己家族的势力范围内。在他的所有敌对者都被战胜后的1282年，他把奥地利和施蒂里亚分别封给他的两个儿子-阿尔布雷希特一世和鲁道夫二世。于是施蒂里亚和奥地利就成为了哈布斯堡家族领地。同年，鲁道夫一世根据一项家规，立长子阿尔布雷希特为奥地利公国及其领地的惟一国君，由此建立了奥地利哈布斯堡王朝。该王朝对奥地利的统治直到1918年才告结束。另外他又把士瓦本公爵的头衔给了小儿子鲁道夫。这个头衔在康拉丁死后就无人继承了。
1286年，鲁道夫把从奥托卡那里夺得的卡林西亚封给了阿尔布雷希特的岳父，蒂罗尔伯爵迈茵哈德。德国的诸侯不会同意鲁道夫把所有战利品都留给自己儿子们的。他的同盟者也需要一些奖励。1281年开始把目光转向西方的国王强迫勃艮第伯爵菲利普割让一些土地给他，并且迫使伯尔尼缴纳他们曾经拒绝缴纳的贡金。并试图恢复士瓦本公国和勃艮第-阿雷拉特王国。1289年，他又迫使菲利普的继任者奥托宣誓效忠。
在其扩充王室领地的活动中，\婚姻外交\起了重要作用。1278年，鲁道夫一世为女儿尤塔和奥托卡二世的儿子、波希米亚的王位继承人瓦茨拉夫举行婚礼的同时，又为同名的儿子鲁道夫和奥托卡二世的女儿库尼贡德也举行婚礼。1281年，他又把一个女儿嫁给勃艮第伯爵，1284年又让一个儿子娶了勃艮第公爵的女儿。这几桩婚事均在鲁道夫一世扩充领地与家族势力的谋略之列。阿尔布雷希特及其后代，在奥地利领地的基础上，也不断进行扩张，使奥地利在神圣罗马帝国内的首要地位得到保障。
1281年，他的妻子病逝。他又继娶了他的西面邻居勃艮第公爵厄德四世的女儿伊莎贝拉。在维持国内和平方面鲁道夫做得十分失败。全国的治安和环境非常差劲。为争夺继承权的战争也打了很多场。国王无力干涉。但是这也怪不得他，因为当时皇帝的权利和资源有限，无力对全国行使真正的统治。尽管如此，1289年鲁道夫还是组织了一次对图林根的远征，并拆毁了很多强盗城堡。
鲁道夫一世晚年极力周旋于各诸侯之间,试图使长子阿尔伯莱希特继承帝国的皇位。由于德意志诸侯不满意鲁道夫过份加强哈布斯堡王室的权力，畏惧日趋强大的哈布斯堡王室会采取限制他们政治独立的措施，所以他们于1287年在维尔茨堡召开的帝国议会上，并未选举阿尔布雷希特，而是推选拿骚的阿道夫为神圣罗马帝国皇帝。只是到了1298年，德意志诸侯才废弃了前者的帝位，选举阿尔布雷希特为皇帝，在阿尔布雷希特之后，德意志皇位相继落入卢森堡家族和维特尔斯巴赫家族手中。1437年，帝国的皇冠又重新属于奥地利哈布斯堡王朝。自此之后，这个王朝直到1806年8月6日被拿破仑打败的弗朗茨二世放弃帝国皇帝的称号止，历任神圣罗马帝国皇帝达300多年之久，历任奥地利帝国皇帝达600多年之久(1282-1918)。
1291年夏季，73岁的鲁道夫一世预感到死期临近，他便从麦斯海姆来到施佩耶尔城。于7月15日逝世，安葬于该城萨利安王朝和霍亨斯陶芬王朝的国王和皇帝陵园。
鲁道夫死于1291年7月15日，被埋葬于施佩耶尔教堂。尽管他曾经拥有一个很大的家庭，但是当时仅剩他的儿子阿尔布雷希特，未来的国王阿尔布雷希特一世。鲁道夫的个子很高，脸色苍白并且拥有很高的鼻子。他的勇敢、虔诚和宽宏大量的品质被人们称道。他的统治是令人怀念的。主要是由于他扩大了哈布斯堡家族的领地。他使哈布斯堡家族的领地从一直的西南延伸到东南。在德意志的剩余部分，他的子孙们还将扩大他们的权势。
他一共结了两次婚。第一次是和霍亨贝格的格特鲁德。第二次是在1284年，对象是伊莎贝拉，勃艮第公爵厄德四世的女儿。他的所有子女都来自于第一次婚姻。