Строительство здания в стиле русского классицизма началось в 1820 году и продолжалось на протяжении десяти лет. Архитектором постройки был назначен итальянец Карл Росси. Два крыла комплекса соединены аркой, которую венчает скульптура «Колесница славы». Триумфальная арка посвящена победе в войне 1812 годы. Для осуществления ее проекта Росси приглашал Степана Пименова и Василия Демут-Малиновского — скульпторов, работавших над строительством аналогичной арки в здании Адмиралтейства.
До 1993 года в здании поочередно размещались различные министерства и ведомства. Хозяевами исторических помещений в разное время были Карл Нессельроде и Александр Горчаков.
Во время Великой Отечественной войны комплекс зданий Главного штаба сильно пострадал от артобстрелов, но был полностью восстановлен к 1950 году.
С 2010 года в зданиях проходили масштабные реставрационные работы. Полное их завершение было приурочено к 250-летнему юбилею Эрмитажа (праздновалось в декабре 2014 года).
