El nombre del barrio de San José viene del primer colegio y convento que se construyó junto al camino de subida a Torrero, en la actualidad denominado avenida de San José. 

En la actualidad, el distrito está formado únicamente por el barrio del mismo nombre, aunque son muchos quienes distinguen dentro de él la zona de Miraflores, la de La Granja situada junto a Montemolín, o los antiguos barrios de Colón y Zaragoza la Vieja. 

Es a finales del siglo XIX cuando se abre el recorrido del ferrocarril que se cubrió en 1961 y que trascurre por la actual avenida Tenor Fleta. En esa misma época surge el asilo de las Hermanitas de los Ancianos Desamparados, así como la Granja Agrícola.

Gracias al agua del Canal Imperial, se fueron instalando en la parte alta del barrio varias harineras, fábricas de piensos, La Zaragozana, la fábrica de textiles de Pina y Marín o la Industrial Licorera Española. 

El Plan de Ensanche de 1932 no consiguió ordenar ni dotar de calles más amplias al barrio, pero sí posibilitó la pavimentación de la avenida de San José, entonces camino, así como el alcantarillado, alumbrado y acometida de aguas en las parcelas existentes. 

En 1946 se fundó Alumalsa, una de las fábricas que mejor aguantó el paso del tiempo, aunque como las demás, sucumbió ante los nuevos planes urbanísticos y la edificación de numerosos bloques de viviendas.

Durante los últimos años del siglo XX y comienzos del nuevo milenio, se ha conseguido la dotación de equipamientos sociales en el barrio, como los centros de salud, de especialidades, centros cívicos, y solares reconvertidos en plazas y parques.