Расположена данная церковь в северном районе Старого города, довольно близко к одной из старейших площадей города — Хоермаркт. Если поверить легенде, то данную церковь построили Гизалрихом и Кунальдом, которые были друзьями святителя Рупрехта, епископа Зальцбургского.
Данная церковь выполнена в ярком романском стиле, а упоминание о том, что она самая старейшая относится к тысяча двухсотому году. В период средневековья в здании церкви располагался центр, торговавший солью, которая прибывала морским путем по Дунайскому каналу на кораблях.
Церковь множество раз перестраивалась за весь свой период существования. В церкви Святого Рупрехта находятся самые древние колокола во всей Вене, которые относятся к тысяча двести восьмидесятому году. В этой церкви также находится витраж, датируемый тысяча триста семидесятым годом, на котором изображена Богородица и Младенец.