Hildesheim es una de las ciudades más antiguas del norte de Alemania. La ciudad puede haberse fundado cuando el obispo se trasladó de Elze al vado de Innerste, donde era un importante mercado en la ruta comercial de Hellweg. El asentamiento pronto se convirtió en una ciudad a la que el rey Otón III concedió derechos de mercado en 983. Originalmente, el mercado se celebraba en una calle llamada Mercado Viejo (Alter Markt), que todavía existe. El primer mercado se instaló alrededor de la iglesia de San Andrés. A medida que la ciudad crecía, se hizo más importante una plaza de mercado más grande. La actual plaza del mercado de Hildesheim se hizo a principios del siglo XIII, cuando la ciudad tenía una población de unos 5.000 habitantes. Cuando Hildesheim obtuvo los derechos de ciudad en 1249, era una de las mayores ciudades del norte de Alemania. Durante cuatro siglos, el clero gobernó Hildesheim, antes de que se construyera un ayuntamiento y los ciudadanos adquirieran cierta influencia e independencia. La construcción del actual Ayuntamiento comenzó en 1268, y en 1367 Hildesheim se convirtió en miembro de la Liga Hanseática. Una guerra entre los ciudadanos y su obispo costó cara en 1519-1523 cuando se enzarzaron en una disputa. Hildesheim se convirtió en protestante en 1542, y sólo la catedral y algunos otros edificios permanecieron en manos del Imperio (católico romano). Varios pueblos de los alrededores de la ciudad también siguieron siendo católicos. En 1813, tras las guerras napoleónicas, la ciudad pasó a formar parte del Reino de Hannover, que fue anexionado por el Reino de Prusia tras la guerra austro-prusiana en 1866 como provincia.
La ciudad fue bombardeada en la Segunda Guerra Mundial, pero los bombardeos tuvieron poca importancia en el transcurso de la guerra. El 28,5% de las casas fueron destruidas y el 44,7% dañadas. El 26,8% de las casas no sufrieron daños. El centro, que hasta entonces conservaba su carácter medieval, quedó casi arrasado. Como en muchas ciudades, se dio prioridad a la construcción rápida de viviendas muy necesarias, y las estructuras de hormigón ocuparon el lugar de los edificios destruidos. Afortunadamente, la mayoría de las iglesias principales, dos de ellas ahora Patrimonio de la Humanidad de la UNESCO, se reconstruyeron en el estilo original poco después de la guerra. Durante la guerra, valiosos materiales del patrimonio mundial habían sido escondidos en el sótano de la muralla. En 1978 se fundó la Universidad de Hildesheim. En la década de 1980 comenzó la reconstrucción del centro histórico. Se derribaron algunos de los nuevos edificios de hormigón cercanos a la plaza del mercado. En su lugar se construyeron réplicas de los edificios originales.