Del siglo XII-XV, muy transformado con el paso del tiempo, el Castillo de Castellar mantiene aún su integridad que le hizo plaza fuerte en la lucha de los cristianos contra el Reino Nazarí de Granada. Declarado Monumento Histórico Artístico en 1963.
Es de planta irregular, formando un pentágono de lados desiguales. Se trata de uno de los escasos ejemplos de fortificación medieval que ha permanecido habitado hasta nuestros días. Algunos de sus elementos corresponden a la época cristiana.
Está enclavado en un promontorio rocoso, desde el que se divisa buena parte de la Almoraima, el embalse del Guadarranque e incluso Gibraltar y Ceuta. Sobre la puerta de entrada a la Villa se encuentra el Alcázar.
Su planta es de forma irregular, y posee un recinto amurallado con barbacanas, cubos, torres de flanqueo y torres de ángulo cuadradas y circulares, algunas de ellas coronadas con almenas. Destacan las torres de su entrada, con elementos defensivos como las barbacanas que defienden el acceso del castillo, perforadas con saeteras y una puerta en recodo abierta bajo un bello arco peraltado enmarcado por otro de herradura.
Desde el pequeño patio de armas se accede al caserío interior, con casas blancas y calles estrechas y sinuosas cuajadas de flores. Entre los edificios destacan el alcázar de los Condes de Castellar, con la torre del Homenaje, el Ayuntamiento y la Iglesia del Divino Salvador, de estilo barroco. Más bien parece una alcazaba, en la que el castillo sería la zona militar separada de la zona administrativa y civil.