Levantada sobre un baluarte de roca la ciudad tiene el aspecto de una fortaleza defensiva, al estar formada por altos edificios rectangulares y yuxtapuestos que parece conformar una alta muralla de rascacielos de piedra.
Construidos en sillarejo sobre cimientos de barro y piedra, los edificios alcanzan los cuatro y cinco pisos de altura y presentan muros abiertos por ventanas y arcadas, donde también se utiliza el ladrillo como material constructivo, con óculos, celosías de madera y otros elementos ornamentales, además, estaban blanqueadas de manera decorativa.
La ciudad fue fundada por los Sulaihids en el siglo XII, un asentamiento comercial blindado como una antigua fortificación durante la ocupación otomana, gracias a su situación estratégica, que permitían a los mercaderes refugiarse en sus desplazamientos. Su crecimiento vertical, en lugar de horizontal se debe a la adaptación al terreno escarpado y rocoso de la zona. 
La zona montañosa del Haraz, facilitó el material para la construcción de Al Hajjarah, al utilizarse las piedras de sus canteras en la edificación de las viviendas.
El aspecto de Al Hajjarah y su arquitectura tradicional es sorprendente, lo que la convierten en uno de los lugares más interesantes de todo el Yemen.