El Acueducto de Segovia, que fue iniciado probablemente por Domiciano en el año 90 y quizá parcialmente reconstruido en tiempos de Trajano, es el mejor ejemplo de arquitectura civil romana en España. Aunque el agua se traía desde la sierra por un canal de 12 kilómetros, el acueducto elevado, el visible, mide 728 metros y alcanza una altura de más de 28. Tiene 166 arcos y está levantado en piedra granítica puesta en seco, sin usar argamasa. Otros ejemplos notables de arquitectura civil en Segovia son la Casa de los Picos, así llamada por las piedras talladas como diamantes que embellecen su fachada del siglo XVI, el Palacio del Marqués del Arco (siglo XVI) y el Torreón de Lozoya (siglo XIV).

En la plaza Mayor se alza el Ayuntamiento, de estilo herreriano (1610-1630). Y en la plaza de la Merced arranca la calle de la Judería Nueva, que atraviesa el antiguo barrio hebreo y lleva a la Puerta de San Andrés y al Alcázar. Fruto de sucesivas reformas y ampliaciones acometidas -la mayoría, por los Trastámaras y los Reyes Católicos, en el siglo XV- sobre la vieja alcazaba árabe, el alcázar de Segovia es un soberbio edificio que surge en forma de proa sobre la confluencia de los ríos Eresma y Clamores, erizado de pináculos y en el que sobresale la torre de Juan II.

Entre los siglos XI y XII se levantaron en la ciudad numerosos templos románicos, de los que alrededor de 20 han llegado hasta nuestros días en aceptable estado. Uno de los más hermosos es la Iglesia de San Martín (siglo XII), que presenta un atrio porticado en tres de sus frentes. Mención aparte merece la de San Juan de los Caballeros, que fue comprada por el artista Daniel Zuloaga para instalar sus hornos de cerámica y su vivienda, y que en la actualidad se halla habilitada como Museo Zuloaga.

La Catedral, erigida en el siglo XVI por Juan y Rodrigo Gil de Hontañón, es de admirar por su delicada volumetría y por constituir una curiosa pervivencia del gótico en época tan tardía. El museo Catedralicio alberga códices de gran valor y obras de arte de los siglos XVI y XVII.