Герцог Рудольф IV (приняв германскую корону, он выбрал имя Рудольф I) в возрасте 22 лет вступил в наследство после смерти отца Альбрехта IV. В это время Габсбургов никто не причислял к первой четверке немецких аристократов. Их история не изобиловала военными победами, но они кропотливо и последовательно расширяли зону своего влияния в районе Верхнего Рейна путем получения привилегий, бенефициев, а также благодаря искусной матримониальной политике. Благодаря браку с Гертрудой фон Гогенберг, родившей ему 10 детей, Рудольф смог увеличить свой родовое имение в Эльзасе. После многочисленных конфликтов со светскими и духовными соперниками, в том числе и с архиепископом Страсбурга, он завоевал репутацию одного из наиболее влиятельных ландграфов юго-западной части Священной Римской империи.
В середине XIII века Германия переживала глубокий кризис. Смерть выдающегося правителя Фридриха II Гогенштауфена в 1250 г. и последовавшая за этим (четыре года спустя) смерть его сына Конрада ускорили развитие центробежных сил. Начался период междуцарствия. Различные политические силы призывали на германский трон второстепенных правителей из-за пределов империи, но ни одному из них не удалось укрепить центральную власть и овладеть положением. Между герцогами, графами и маркграфами шла острая борьба, в которой принимали участие архиепископы и епископы. После смерти короля Ричарда Корнуоллского в 1272 г. политическая элита Германии должна была выбрать нового правителя. Самым сильным кандидатом представлялся король Чехии (входившей в состав империи) — Пржемысл II Оттокар. Кроме Чехии и Моравии он правил также Австрией, Штирией, Каринтией и Крайной. Его владения достигали берегов Адриатического моря. Люди, имевшие право выбора германского короля — немецкие аристократы и духовные лица (архиепископ Майнца и одновременно канцлер королевства, архиепископы Кёльна и Трира, а также пфальцграф Рейна), — были против этой кандидатуры. Они решили остановиться на Рудольфе Габсбурге — кандидате из второго эшелона, который не обладал необходимым для правителя благородством крови. Дополнительным аргументом в пользу его кандидатуры был весьма почтенный для эпохи Средневековья возраст — 55 лет. Выбравшие его князья надеялись, что он не будет править настолько долго, чтобы укрепить свои позиции в империи. Чтобы обеспечить себе голоса, Рудольф должен был гарантировать, что он не только не нарушит, но и расширит нрава аристократии. Таким образом, 1 октября 1275 г. герцог Эльзаса Рудольф IV был выбран королем Германии, и через три недели состоялась его коронация.
Верный слуга
Рудольф I был известен своей глубокой набожностью. Существует легенда о том, как однажды он встретил священника, идущего причащать умирающего, и отдал ему коня, объяснив: «Не приличествует мне ехать, когда слуга моего Господа и Спасителя идет пешком». Этот набожный поступок позднее рассматривали как доказательство того, что Габсбурги всегда служили Церкви.
Вопреки ожиданиям курфюрстов, новый король оказался самостоятельным, амбициозным и успешным правителем. Ему удалось справиться с кризисом центральной имперской власти. Спустя короткое время после коронации, уже в 1274 г., Рудольф получил согласие рейхстага на то, что Габсбурги могут получить все незаконно отобранные у них во время междуцарствия (и даже раньше) земли. Два года спустя Рудольф потребовал от Нржемысла II Оттокара возращения всех захваченных им территорий, за исключением Чехии и Моравии. Чешский король согласился, рассчитывая выиграть время и затем окончательно вернуть себе австрийские земли. В 1278 г. ему удалось собрать многочисленное войско, перетянув на свою сторону маркграфа Бранденбурга, а также ряд силезских князей и венгерского дворянства. Решающее сражение между превосходящей армией Пржемысла и силами Рудольфа I, которого поддерживал венгерский король Ласло IV, произошло 26 июня 1278 г. вблизи Дюрнкрута в Моравии. Битва на Моравском поле была необычайно ожесточенной и драматичной. Оба правителя сражались в первых рядах. Под Рудольфом убили коня, и только благодаря жертвенности одного из рыцарей он избежал смерти. Наконец победа склонилась на его сторону. Пржемысл был убит, и в его войске воцарился хаос. Победу Рудольфа сложно переоценить. Он разбил самого грозного врага и окончательно присоединил к своему домену Австрию, Штирию, Каринтию и Крайну — земли, которые до конца истории династии Габсбургов являлись территориальным ядром их власти. Хотя Рудольфу не удалось завоевать Чехию и Моравию, однако он связал эти земли со своей династией через удачные браки с потомками разбитого чешского короля. Так, своего сына, тоже Рудольфа, он женил на дочери Пржемысла Агнессе, а дочку Ютту выдал замуж за чешского принца Вацлава (будущего польского короля Вацлава II). Развивая успех, в 1280 г. он принудил к вассалитету силезского князя Генриха Иробуса, союзника Пржемысла II. В 1284 г., через три года после смерти первой жены, Рудольф обвенчался с 14-летней бургундской герцогиней Изабеллой, сохранив таким образом влияние на рейнских территориях. Передавая Австрию и Штирию своим сыновьям — Альбрехту и Рудольфу — в качестве наследственного лена, он заложил основу могущества своего рода.
Рудольф I оказался не только выдающимся полководцем и дипломатом, но также и успешным правителем. Объявив войну разбойникам, он улучшил настроения в обществе и заложил основу для дальнейшего экономического развития немецких земель. Он поддерживал городское развитие и купечество, расширил привилегии Вены и гарантировал свободу торговли купцам из Регенсбурга, которые путешествовали через австрийские земли в Венгрию, где покупали серебро. Планы Габсбурга шли еще дальше. Он был первым после смерти Фридриха II немецким правителем, который стремился получить императорскую корону. Чтобы войти в расположение папы, который должен был его короновать, Рудольф дал ему свободу действий в Италии и подтвердил церковные привилегии в Германии. Германскому королю также пришлось обещать папе Григорию X организовать новый Крестовый поход в Азию. Благодаря этим усилиям папа признал владетеля Германии римским королем. Между тем папская поддержка Габсбурга встретила сопротивление со стороны немецкого духовенства. Усилия по получению императорской короны оказались последним политическим желанием Рудольфа I. Страдая от артрита, король, ожидая скорой кончины, летом 1291 г. отправился в Штайер. Он мечтал быть похороненным в кафедральной императорской крипте: «Я хочу к другим, в Штайер, где лежит много моих предшественников, которые также были королями. Сам к ним приеду на коне». Смерть наступила 15 июля 1291 г. — еще до того, как он доехал до Штайера. Согласно своему желанию, он был похоронен в местном соборе.