Entramos en el casco urbano de Ainzón, lo hacemos por el Arco de San Andrés, una antigua puerta de la villa que daba al patio del Castillo.

Y es que la localidad contó en la antigüedad con un castillo, del que actualmente únicamente se conserva una torre, que no se encuentra en buenas condiciones, entre las paredes de las casas que forman la plaza Mayor.

Según un artículo publicado en Cuadernos Borjanos, el origen del castillo no está muy claro debido a los escasos restos identificables con el castillo que existen en la localidad. Recientemente se ha descubierto, envuelta entre otras edificaciones, una gran torre de sillería contigua a lo que fuera el antiguo Palacio de Los Abades de Veruela. Los sillares que aparecen en la base son almohadillados, por lo que, según los expertos, cabría pensar en un origen romano o musulmán.

Lo que sí está claro es que el castillo de Ainzón forma parte del conjunto de fortificaciones del valle del Huecha, y tiene unas características e historia similar a la que sucede con Bulbuente.