987年，阿达尔贝特击败匈牙利军队，将领地向东扩张到莱塔河，该河遂成为后世奥、匈两地分界线。此后，德国人大量迁入，使得当地最终德语化。而东方马克之名也为古高地德语译名ostarr?chi逐渐取代（该词首先出现于皇帝奥托三世签发于996年的敕文之中），之后，又逐渐音转为今日奥地利之名?sterreichs。
1156年，皇帝“红胡子”腓特烈一世将奥地利马克升格为奥地利公国，脱离巴伐利亚管制，授予其小特权，并将东方马克之西直到因河的土地封赐予奥地利。奥地利公国迁都于罗马人创建的文多波纳城，将其改名为维也纳。1192年，根据乔治堡和约（Georgenberg pact），奥地利吞并施蒂里亚。1229年，利奥波德六世又获得卡尔尼奥拉的大部分领地，成为神圣罗马帝国中的强大诸侯国。
但是，在1246年，腓特烈二世在同匈牙利作战时阵亡，未留儿子，其女婿巴登的赫尔曼六世也未能稳固自身的统治。
奥托卡二世时期（1251－1278）
1251年，波希米亚国王普什米塞·奥托卡二世夺取奥地利，领地北起易北河，南抵亚得里亚海，一跃成为中欧强权之一。
1274年，普什米塞·奥托卡二世在争夺神圣罗马帝国皇位的斗争中失败，哈布斯堡家族的鲁道夫一世在选举中获胜。普什米塞·奥托卡二世拒绝做效忠宣誓，遭到鲁道夫联合德意志诸侯对其讨伐。1276年，普什米塞·奥托卡二世被迫放弃奥地利，1278年8月26日，普什米塞·奥托卡二世在杜恩克鲁特战役中与鲁道夫展开决战，兵败身死。自此，奥地利落入哈布斯堡家族手中。
哈布斯堡时期（1278－1556）
1282年，鲁道夫将奥地利和施蒂里亚封给自己的两个儿子，将卡林西亚和卡尔尼奥拉另封他人。1283年，二子之一的阿尔布雷希特一世成为唯一的统治者。1298年，阿尔布雷希特一世当选罗马人民的国王，将奥地利领地交与其子鲁道夫三世掌管。1308年，他被其侄士瓦本的约翰刺杀，其子腓特烈三世被巴伐利亚的路易四世击败，丢失神圣罗马帝国的皇位和除奥地利之外的所有领地，成为普通诸侯。
1335年，奥地利公爵再次获得卡林西亚和卡尔尼奥拉。1363年，提罗尔并入奥地利，今日奥地利疆域初步形成。1382年，奥地利获得的里雅斯特，取得亚得里亚海的出海口。在1379年、1396年、1411年，哈布斯堡家族各继承者多次签订条约瓜分领地，将领地最终一分为三：下奥地利、内奥地利和上奥地利。
1438年，下奥地利的阿尔布雷希特五世自其岳父西吉斯蒙德之处继承神圣罗马帝国皇位以及匈牙利和波希米亚的王位，称阿尔布雷希特二世。自此除1742年至1745年之间外，皇位再未落出哈布斯堡家族之手。