Ряды стоят на правом берегу Тверцы, тянутся вдоль ручья Здоровца вверх к Успенскому холму и дали имя целой улице. До 1760-х годов здесь шумело торжище: деревянные лавки, лабазы, склады. Торговали тканями и галантереей, хлебом, чаем, сахаром, рыбой и мясом, а улица называлась сначала Лесной, потом Гостиной площадью и Красными Рядами; нынешнее имя Торговые Ряды закрепилось в двадцатом веке.
Смысл таких построек был в порядке. Гостиный двор — это двор, обнесённый стеной или забором, с таможенной избой посередине и постоялыми избами для приезжих купцов-гостей, с конскими сараями для их лошадей. Ряды — другое дело: лавки в линию, часто под общей аркадой, где каждая линия держала свой товар, так что покупатель шёл не по улице, а по разряду. Слово «гость» в старину означало купца, торговавшего с другими городами и землями; гостиный двор был его защитой и его казной — пошлину брали здесь же.
В 1770-е годы территорию расчистили и начали строить каменный гостиный двор: двухэтажные корпуса, где торговые и складские помещения соседствовали в одном здании. В плане они образовали треугольник, один из углов которого выходил на торговую площадь, а вдоль лавок потянулись галереи-аркады. К концу восемнадцатого века комплекс считался для своего времени крупным сооружением.
Война 1812 года прошлась и по рядам. С середины девятнадцатого века начали строить новые корпуса в стиле позднего классицизма — они и сохранились. Корпус на площади 9 Января и дом 1 по улице Торговые Ряды относят к середине 1860-х годов, дома 2 и 3 появились позднее, а пятый корпус строили с конца девятнадцатого века до 1913 года. Самый большой из них — одноэтажный кирпичный, на белокаменном цоколе: фасад расчленён пилястрами, окна забраны арками, а центральная часть чуть возвышается над остальной массой. Первоначальная внутренняя планировка этого корпуса не сохранилась.
В 1941–1942 годах часть рядов уничтожили бомбардировки, и на месте развалин разбили сквер. В советское время в уцелевших помещениях работали кинотеатр «Орлёнок», продовольственный магазин «Центральный», экскурсионное бюро.
В конце 1990-х корпус на площади 9 Января, так называемые Музейные ряды, передали Всероссийскому историко-этнографическому музею. Там открылась экспозиция «История под вашими ногами» — об археологических находках, сделанных в Торжке. Она занимает бывшие лавки, так что посетитель идёт по тем же аркадам, где стояли прилавки. Ряды признаны памятником архитектуры регионального значения, а с 15 апреля 2024 года «Музейные ряды» закрыты на реставрацию.