Гора Гремяч над селом Веськово получила название, как говорят местные жители, от грома пушек. 1 мая 1692 года здесь спускали на воду потешную флотилию, и потешное войско встречало её залпами, выстроившись на небольшом возвышении. На той же горе Пётр Первый заложил верфь, где строили ладьи для плавания по Плещееву озеру.
Все корабли флотилии со временем погибли. Уцелел один ботик — «Фортуна», дубовая шлюпка голландского типа длиной 7,34 м и шириной 2,38 м, рассчитанная на 5 пар вёсел, с навесным рулём и железным румпелем. По местному преданию, ботик сделал сам царь, и особые условия, в которых судно сохраняли, эту версию косвенно поддерживают.
7 февраля 1722 года Пётр подписал указ: остатки кораблей, яхт и галер, построенных здесь, хранить навеки. В 1783 году пожар уничтожил всё, что стояло в Переславле; «Фортуна» уцелела только потому, что оставалась в Веськове под надзором уездного суда. 1 августа 1803 года ботик поставили в каменном здании, и с этой даты усадьба претендует на звание старейшего провинциального музея России.
17 августа 1850 года великие князья Николай и Михаил Николаевичи, проезжая через Переславль, положили первые камни в основание памятника Петру. Через 2 года у входа в парк уже стояли триумфальная арка и гранитный обелиск по проекту архитектора Петра Кампиони: на чугунной доске — «сооружены 1852 года», на внутренней стороне арки выбит текст того самого указа. На открытие собрались жители Переславля и окрестных деревень, приехали гости из Петербурга и Москвы, в торжестве участвовал 4-й батальон Углицкого егерского полка. Михаил Пришвин позже назвал обелиск «жалким мраморным пресс-папье» — оценка резкая и пристрастная.
Белый дворец заложили в 1853 году для приёмов, званых обедов и балов, на добровольные пожертвования. Чтобы дом не простаивал, переславские дворяне и купцы устраивали здесь «переславские ассамблеи» с карточными играми и танцами. После революции в нём открылась географическая станция Московского университета, в 1925—1926 годах здесь жил и работал Михаил Пришвин, а в войну — 2 детских дома, вывезенных из блокадного Ленинграда.
В 1992 году, к трёхсотлетию флотилии, у верхней площадки лестницы поставили памятник юному Петру работы скульптора Александра Казачка. У подножия холма до сих пор бьёт источник с чистой ключевой водой: по преданию, ключ забил здесь после удара молнии. С вершины Гремяча видны прибрежная часть Переславля, храмы и монастыри, а сам ботик стоит в отдельном павильоне.