José Caballero nació en Huelva en el año 1913. Fue pintor, escenógrafo e ilustrador. En 1924 inició sus estudios de dibujo con el profesor José Fernández Alvarado.
En 1931 se instaló en Madrid para comenzar su formación como Ingeniero Industrial en la Academia Krahe, que abandonó para pasar a estudiar pintura en la Escuela de Bellas Artes de San Fernando y en el taller de Daniel Vázquez Díaz.
Estuvo relacionado con los poetas vanguardistas de su tiempo, como Neruda, Alberti, García Lorca, entre otros. En 1935 colaboró con sus dibujos en la conferencia surrealista Telefonía celeste de Adriano del Valle en el Ateneo de Sevilla. Además, realizó la escenografía para Bodas de sangre, de García Lorca, con quien formó parte del grupo teatral La Barraca.
Entre 1940 y 1948, alejado de la pintura, se dedicó a la escenografía teatral y cinematográfica. Además, viajó a Italia. En 1950 realizó su primera exposición individual en la Galería Clan de Madrid, y en 1951 obtuvo sus primeros premios: el del Círculo de Escritores Cinematográficos y el de Pintura Joven de la primera Bienal Hispanoamericana (celebrada en la capital española).
En 1952 expuso en la Bienal de Venecia y en la International Exhibition del Carnegie Institute de Pittsburgh, Pennsylvania. Al año siguiente, lo hizo en el Museo de Arte Moderno de Madrid y participó en la International Exhibition of Arts de Londres. Recibió el Premio de Pintura en la II Bienal Hispanoamericana del Museo de Arte Moderno de La Habana.
En 1955 obtuvo el Gran Premio de Pintura en la III Bienal de Arte Hispanoamericana celebrada en Barcelona. En 1960 fue premiado en el Concurso Internacional de la Decoración del Gran Teatro de la Ópera de Ginebra e inauguró una exposición en Lausanne.
En 1963 expuso por primera vez en los Estados Unidos; en 1970 lo hizo en la Galería Juana Mordó de Madrid, en donde siguió exponiendo durante bastantes años.
En 1971, en París, preparó con Pablo Neruda la edición de bibliografía de su poema “Oceana” con catorce litografías; y al año siguiente realizó su primera exposición antológica en Huelva.
En 1973 se inauguró una retrospectiva de su pintura en la Fundación Gulbenkian de Lisboa. En 1984 obtuvo el Premio Nacional de Artes Plásticas. Cinco años más tarde viajó a Bulgaria para ser investido Doctor Honoris Causa por el Instituto Superior de Bellas Artes de Sofía y para inaugurar su exposición antológica de obra gráfica en el Museo Internacional de dicha ciudad.
Ese mismo año le fue concedida la Medalla de Oro a las Bellas Artes. En 1990 recibió el Premio de Artes Plásticas de la Cultura Andaluza, expuso su obra gráfica en la Capilla del Oidor de la Fundación Colegio del Rey de Alcalá de Henares e inauguró su última exposición en la Galería Juan Gris de Madrid.
Falleció en dicha ciudad el 26 de mayo de 1991. En Alcalá, donde tuvo su último estudio, se encuentra la sede de Fundación-Museo con su nombre; el Ayuntamiento de esta ciudad, a título póstumo, le nombró Hijo Adoptivo y le otorgó la Medalla de Oro de la Ciudad.
Su obra pictórica, que fue evolucionando desde el surrealismo a la abstracción, se continúa exponiendo tanto dentro como fuera de España.