El lugar que ocupa hoy el edificio del Alcázar se presumía había estado ocupado desde periodos remotos, debido a la destacada situación geográfica del promontorio sobre el que se asienta. Las obras emprendidas para la instalación del Museo del Ejercito permitieron corroborar esta hipótesis y son varios los vestigios que atestiguan su ocupación desde el II milenio a.C. Se han encontrado silos excavados en la roca, algunos restos cerámicos y utensilios de sílex.
Ya en época romana su posición dominante propició que fuera sede del pretorio de la ciudad y se sabe que posteriormente, en época cristiana, adosado al primitivo palacio se encontraba el santuario que edificaron los toledanos en honor de Santa Leocadia, sobre la cárcel donde fue martirizada aquella heroína de la religión de Cristo en época romana. Se han encontrado vestigios del periodo imperial romano, fundamentalmente muros, pequeños fragmentos de suelo y una gran cisterna. Tanto los silos como la cisterna son fácilmente visibles en lo que hoy constituye el yacimiento arqueológico del Alcázar.
De la época musulmana existen también vestigios fácilmente identificables entre los restos arqueológicos que serán comentados en otro momento. Pero el antecedente más evidente del edificio actual lo constituyen los diferentes edificios levantados en época cristiana.
Arrebatado Toledo a los musulmanes, fue este promontorio el lugar elegido por Alfonso VI para edificar un palacio que fuera emblema de un poder enteramente nuevo, de algo que representase la estabilidad de la conquista, la representación pétrea y formidable de la Monarquía castellana.
La primera construcción de Alfonso VI fue ampliada posteriormente por Alfonso VII el Emperador y Alfonso VIII el de las Navas y se remató en tiempos de Alfonso X el Sabio, de cuya obra queda uno de los laterales, la fachada oriental, que como era habitual en aquellos tiempos tiene más aspecto de castillo que de palacio. La fachada destaca por su sobriedad y fortaleza, con ventanas bajas de exiguas proporciones y cuyo único ornamento lo constituyen las tres torres semicirculares almenadas, enlazadas las dos extremas por un corredor en voladizo sustentado por modillones de triple curvatura, y rematado por merlones de ladrillo, remate seguramente de aquel edificio primigenio.
Con el cambio de dinastía, en el siglo XIV, se emprenden nuevas reformas y los Trastámara transforman el edificio a su gusto. De la época de Juan II o los Reyes Católicos nos queda la fachada occidental sobria como la oriental y que en la definitiva reforma de Carlos I recibió alguna mejora como la cornisa de sillería y los marcos de las ventanas también de sillería y estilo plateresco. De aquella época también es la torre de los Trastámara de la cual hoy nos queda su arranque, un resto apreciable en el yacimiento arqueológico que deja patente la solidez del edificio. Esta torre albergaba en su interior un aljibe para su supervivencia, aljibe que se observa desde la entrada al edificio Alcázar.
Llega así a principios del siglo XVI nuestro edificio formando un agregado heterogéneo de diferentes cuerpos levantados en épocas diversas y con finalidades distintas. La llegada de los Austrias supuso un cambio sustancial que le dotará de la imagen actual. Pero eso lo veremos más adelante.