На южной стороне площади расположено протяжённое здание с изломом посередине. Дело в том, что оно было построено по линии реки Мойки, которая именно в этом месте делает изгиб. Здание принадлежало Конюшенному ведомству. Сейчас об этом напоминают головы лошадей над окнами первого этажа на двух симметричных крыльях корпуса.
Этот дом был возведен на месте прежнего, обветшавшего в XIX веке строения. Реконструкция велась под руководством видного архитектора эпохи классицизма Василия Стасова. Стасов использовал старые фундаменты и стены и сохранил первоначальную композицию здания, но предложил новые архитектурные решения, касающиеся внешнего облика здания. В результате комплекс придворных конюшен обрел монументальную представительность, которая так характерна для построек Стасова. Сами конюшни выходили на другую сторону, к набережной Мойки. В них архитектор предусмотрел ряд новшеств. Например, механизированную подачу воды. Вода подавалась при помощи паровой машины.
Первые этажи со стороны площади занимали мастерские, а на вторых поселились служители ведомства. Здесь жили и другие чиновники, а также военные. Так, одну из квартир в этом доме занимал барон Маннергейм, будущий президент Финляндии. В конце XIX века он служил в Кавалергардском полку.
Здесь был расквартирован и Павловский полк, который в 1917-ом году перешёл на сторону революции. Это был первый полк, оказавший содействие революционерам. 26 февраля солдаты Павловского полка вступили в бой с конными городовыми на углу Конюшенной площади и Екатерининского канала (ныне канала Грибоедова).