Низкий каменный дом у церкви Феодора Стратилата выстроен в конце семнадцатого — начале восемнадцатого века для торгового иноземца Ивана Гутмана. Голландский купец держал здесь двор, который писцовая книга называет одним из лучших посадских мест города: каменная палата в 3 жилья, погреб, светлицы, 6 амбаров, пивоварня, конюшни. Внутри сохранились сводчатые потолки и голландские печи с изразцами, на фасаде — каменная доска с гербом и датой 1704. Сегодня это филиал Вологодского музея-заповедника.
Пётр останавливался в этом доме 5 раз. Первый — в 1692 году, затем в июле 1693-го и в мае 1694 года. Ещё 2 визита — 15 мая 1702 года и в марте 1724-го. Вологда лежала на дороге к Архангельску, единственному морскому порту страны, и царь бывал здесь проездом, по пути на Север и обратно. Приезды растянулись на 32 года: первый случился, когда Петру было 20 лет, последний — за год до смерти. Дом не был дворцом — комнаты тесные, своды низкие, окон мало, — и тем заметнее, что останавливался здесь царь.
После Петра здание надолго выпало из истории: оно служило складом льна и кудели. В 1872 году, к 200-летию со дня рождения царя, дом выкупили дворянство, город и земство, а летом 1875 года освятили и открыли в нём музей — первый в Вологде. Новые наличники и крыша, покрашенная «в шашку», сняли с дома часть старины.
Экспозиция небольшая: больше 100 предметов. Здесь личные вещи императора, мебель и утварь второй половины семнадцатого — начала восемнадцатого века, посмертная маска, кафтан и камзол, кубок Меншикова, чугунное било 1706 года. Экскурсии здесь посвящены реформам, Северной войне и истории края при Петре. Дом пережил и своего гостя, и склад, и революцию — и остался на прежнем месте. Последняя реэкспозиция прошла в 1987 году, и вещи с тех пор стоят почти без перестановок.
Архитектурно дом повторяет один из типовых проектов, которые Доменико Трезини разработал для первого регулярного Петербурга, — «дом для подлых», то есть для низших сословий. Петербургский образец оказался в деревянном городе, где регулярные кварталы ещё не были нарезаны. Искусствовед Георгий Лукомский в начале двадцатого века считал, что снаружи домик почти не представляет художественного интереса, зато внутри сохранил купольный свод и перекрещивающиеся полосы железных связей.
В сквере рядом в 1998 году поставили памятник Николаю Рубцову; к тому времени с открытия музея прошло больше века. Дом и памятник стоят в двух шагах друг от друга, и сквер связывает разные эпохи: петровскую и ту, о которой писал поэт.