Jemnice náležela v kraji mezi první města, která měla pevné hradby.Dal ji opevnit Přemysl Otakar I. v roce 1227. Hradby byly zděné a o jejich pevnosti se později zmiňuje i Velké Janovo privilegium z roku 1327.
Hradební zeď byla zbudována kolem celého města, postaveného na vysokém a srázném ostrohu nad údolím Želetavky, a jenom z východu vedla k městu úzká rovinka. Kromě silné městské zdi náležely k jemnickému opevnění ještě příkop, val, brány, barbakán a bašty. Svůj obranný úkol splnil samozřejmě také tehdejší hrad vystavěný na jihovýchodní straně města.
V dobách, kdy ještě nebylo v bojích používáno palných zbraní, vděčila starobylá Jemnice za svůj věhlas nedobytného města právě svým hradbám.
Z východní a severovýchodní strany hrozilo městu při přepadech největší nebezpečí. Proto Velká brána, které se dříve říkalo Horní brána, byla trojdílná. Vnější brána byla 4 metry široká a po levé straně při vchodu měla úzký vstup pro pěší. Za starých dob měla vnější brána vzhled široké okrouhlé bašty s průměrem asi 15 metrů. Kryta byla šindelovou střechou. Za ní byl ve směru do města hluboký hradební příkop a nad ním napříč bylo postaveno stavení 7 metrů široké a 17 metrů dlouhé, které bylo opatřeno střílnami a bylo zastřešeno.
Toto stavení, jehož osa se z bezpečnostních důvodů odchylovala od osy kruhovité vnější brány, spojovalo vnější bránu s prostřední branou. Byla klenutá a nad ní se tyčila věž. Sídlil v ní branný a v době ohrožení města v ní bývaly shromažďovány zbraně.
Vnitřní brána byla ve vnitřní hradební zdi. Na této východní a severovýchodní straně byla pro zvýšení bezpečnosti opevnění hradební zeď dvojitá. Obě hradební zdi končily doleji na severovýchodní straně rožními baštami.
Celý stavební soubor Velké brány byl rozbořen a odstraněn po velkém požáru v roce 1832, kdy ji v nastalém shluku a zmatku povozy ucpaly a znemožnily tak výjezd z hořícího města. Do soustavy opevnění na východní straně náležel také pevný hrad, který byl později přestavěn na zámek.
Na severní straně je hradební zeď nejzachovalejší, ale je málo viditelná, neboť jsou okolo ní na Horních valech postaveny soukromé domky. Podél zdi se táhl hluboký hradební příkop. Val, který sledoval hradební příkop, byl navršen do velké výšky a v době ohrožení města do něj bývaly zaráženy pevné překážky, zejména ostré kůly.
Mezi zachovalejší části jemnických hradeb náleží také barbakán, který byl umístěn na severozápadě. Byl vlastně předsunutým opevněním před městskou bránou a sloužil k ochraně bojovníků shromažďujících se tam k útoku nebo ustupujících do pevnosti. Barbakán měl čtyřúhelníkový půdorys, byl zděný a vysoký a byl zastřešen. Kromě střílen měl také podlahové otvory na shazování kamenů či vylévání tekutin na útočníka.
Hlavní cesta vedla dále přes most a zahýbala levotočivou zatáčkou do Dolejší brány, nyní Malé branky. Vytlučené kamenné ostění této brány na levé straně ukazuje, jak na ně projíždějící povozy narážely.
Městské brány byly na noc vždy zavírány a klíče od nich měl rychtář nebo purkmistr. Pokud chtěl vrchnostenský pán město pokořit, odňal mu klíče od městských bran. V Jemnici k tomu došlo zejména po povstání proti pánům Meziříčským z Lomnice v roce 1556. Klíče byly tehdy městu vráceny až v roce 1588, kdy došlo k narovnání mezi městskou radou a vrchností.
