За костелом Святых Петра и Павла находится Вышеградское кладбище. В 1660 году декан Мартин Веселанский обнес кладбище оградой. В то время уже полным ходом шло строительство барочной крепости, жителей и капитул - коллегию священников - выселили с холма, и на кладбище у храма хоронили очень редко. Оно было небольшим и незаметным. Когда император Иосиф II в 1785 году приказал закрыть кладбища при городских костелах, вышеградское кладбище не попало в этот список.
В конце XIX века каноник Штульц задумал превратить невзрачное кладбище в национальный некрополь. Территорию расширили, архитектор Антонин Виль украсил ее аркадами. Кладбище обрело свои нынешние размеры. На относительно небольшом его пространстве теснится более 600 могил, преимущественно известных людей или выдающихся представителей какой-либо области деятельности. Но покоятся здесь и обычные люди, зажиточные мещане, сегодня уже совсем забытые.
Часовня с усыпальницей капитула на Вышеградском кладбище была построена как часть северной аркады в 1899 году. Роспись аркад и неоренессансный декор исполнил художник Рудольф Ржиговский, вдохновленный римскими катакомбами и Лоджиями Рафаэля в Ватикане.
По бокам центральной часовни с полукруглой апсидой расположены два небольших прямоугольных служебных помещения. В подземной часовне тоже три помещения, такого же размера, как и в надземной. Это крипта - место захоронения - членов капитула. В особых случаях в кладбищенской часовне проводятся богослужения.