Der Große Teich ist ursprünglich ein intensives Quellgebiet mit zahlreichen Quellen. Bereits frühzeitig wurde das hier austretende Wasser so aufgestaut, dass ein über hundert Meter langer und bis zu fünfundsechzig Meter breiter Teich entstand. Auch außerhalb des Teiches tritt Wasser hervor, so direkt östlich des Teiches und im weiteren Verlauf südlich im „Kolk“. Die Aufstauung des Wassers diente wahrscheinlich zur Regulation des Mühlentriebs der „Teichsmühle“, die seit dem 13. Jahrhundert belegt ist. Die erste Erwähnung des Namens Großer Teich („Grote Dyke“) findet sich Nequambuch, verfasst zwischen 1315 und 1421.
Die zentrale Lage des Teiches hat zu der örtlichen Überlieferung geführt, dass hier die Keimzelle der Stadt zu suchen sei, wofür jedoch Belege fehlen. Insbesondere die der Überlieferung nach ursprünglichen sechs Urhöfe, die um den Teich herum angesiedelt gewesen seien, dürften als eine nachträgliche Historisierung der historischen Hofenstruktur der Stadt zu sehen sein. Allerdings ist die Quellniederung, zu der der Teich gehört, als zusätzliche Sicherung der ottonischen Stadtbefestigung zu sehen, deren vorgelagerte Abgrenzung sie im Norden und Osten bildete. Heute befindet sich westlich des Teichs der „Theodor-Heuss-Park“. Der Teich ist für seine Panoramen bekannt; insbesondere das Motiv der Teichsmühle vor den Türmen der Wiesenkirche ist weitverbreitet.
Neben der Besonderheit, dass der Teich aufgrund der intensiven Quellaktivität nicht zufriert, ist vor allem die gelbgestrichene „Wippe“ am südöstlichen Ufer bemerkenswert, ein altertümliches Strafgerät, mit dem Delinquenten zur Strafe in den Teich gewippt wurden.