Церковь, посвященная святому Джайлсу, появилась на этом месте в 1120 году по приказу Дэвида I. Этому событию предшествовало легендарное событие. Говорят, монарх лично познакомился со святым отшельником во время королевской охоты. Джайлс лишил правителя удовольствия убить олениху. Он заслонил животное собой, приняв предназначенную тому стрелу. Король сразу понял, что пред ним святой человек, смиренно попросил у отшельника прощения и предложил множество подарков. Но монах отказался от подношений. Сердце святого дрогнуло только когда Дэвид I построил храм, в котором Джайлс стал епископом. После смерти святого его стали почитать как покровителя Эдинбурга. Церковь была совсем небольшой, и со временем перестала вмещать многочисленных прихожан. В конце XIV века ее заменил величественный собор. Но некоторые детали первоначальной постройки сохранились и по сей день, например, четыре массивные колонны в центре зала. Новый храм был выполнен в готическом стиле, с высокими стрельчатыми окнами. Пожары не раз причиняли вред собору, но его всегда быстро восстанавливали, добавляя новые детали. Так, во время реставрации 1495 года храм обрел уникальный шпиль в виде королевской короны.
В середине XVI века с кафедры собора вещал самый известный шотландский религиозный реформатор Джон Нокс. Инициатором церковной реформы в Великобритании стал Генрих Восьмой. Для того, чтобы жениться на своей фаворитке Анне Болейн, он захотел развестись с законной супругой, Екатериной Арагорнской. Папа Римский такую вольность позволить не мог, поэтому любвеобильный король провозгласил себя послом Бога на земле, главой церкви и признал многолетний брак с испанской принцессой недействительным. Так появилось англиканство, которое вскоре дошло и до Шотландии. Послом новой веры и был Джон Нокс. Он выступал против католического идолопоклонства и правления регента Шотландии Марии де Гиз. Проповедь вызвала бурную реакцию в народе, которая вскоре переросла в протестантскую революцию. Через год католицизм был запрещен в стране законодательно, а поклонение святыням признали опасной ересью. Реликвия собора, десница святого Джайлса с алмазным перстнем, а также другие драгоценности были проданы эдинбургским ювелирам. Внутреннее пространство храма разделили на небольшие залы и часовни, как предписывает молитвенная традиция в пресвитерианстве. Помещения использовали не только для религиозных целей: тут базировалась пожарная и полицейская части, тюрьма для женщин легкого поведения, а так же знаменитая гильотина «шотландская дева», на которой было казнено более 150 человек. Самыми известными жертвами этой «девы» были регент страны во время несовершеннолетия Якова Шестого, Джеймс Дуглас, четвертый граф Мортон и Арчибальд Кэмпбэлл, граф Аргайл, поднявший восстание против короля Якова Седьмого.
В начале XIX века собор подвергся капитальному ремонту. Внутренние перегородки были снесены, фасады заново облицованы и украшены изящными барельефами, в окна вставлены витражи с библейскими сюжетами. Западное окно посвятили поэту Роберту Бёрнсу, на которого в Шотландии практически молятся. Исландский художник Лейфур Брайтферд изобразил на этом витраже темы произведений Бёрнса. В 1911 году в храме построили часовню ордена Чертополоха, в которой раз в год проходит посвящение новых членов этого древнейшего рыцарского ордена Шотландии. Чертополох является одним из символов страны. Согласно легенде, в давние времена войско шотландцев одержало победу над норманнами только потому, что один из нападавших воинов наткнулся босой ногой на цветок чертополоха и вскрикнул, чем обнаружил себя. Орден, с девизом «Никто не повредит мне безнаказанно» учредил в 1540 году король Шотландии Яков Пятый.
В соборе похоронены многие известные люди, например, писатель Роберт Льюис Стивенсон и проповедник Джон Нокс, хотя могила последнего разрушена. Старожилы утверждают, что его прах покоится под парковочным местом №44 на ближайшей автомобильной стоянке.
Около западного входа в собор Святого Джайлса, прямо из камней мостовой выложено сердце. Мозаику называют «Сердце среднего Лотиана». Она является мемориалом тюрьмы Талбот, стоявшей на этом месте до 1817 года. Существует традиция плевать в центр каменного сердца. Говорят, это приносит удачу. Но этому обряду много лет, и раньше он означал лишь презрение к мрачному зданию тюрьмы.
Рядом с храмом, на Рыночной площади расположился еще один интересный объект – трибуна для публичных выступлений Меркат Кросс. На 4-х метровой колонне изображен белый единорог и королевская корона, а ниже - гербы Англии, Шотландии и Ирландии. Раньше с этой трибуны зачитывались королевские указы, официальные объявления и приговоры. Рядом как раз находилось место казни. Последним здесь публично лишился головы ирландец Уильям Берк. 28 января 1829 года его казнь собрала рекордное количество зрителей. Берк был удачливым предпринимателем. Он и его товарищ по фамилии Хар разбогатели на снабжении трупами анатомического театр Эдинбургского университета. Сначала они добывали покойников законным путем, но потом поняли, что «товар» на продажу можно изготовить своими руками. В течение года «фирма» лишила жизни около 20 человек. После ареста Хар стал сотрудничать с полицией, выдав подельника с головой. Берка казнили, а его тело по требованию горожан было отдано в анатомический театр.