Antes de la llegada de los españoles, Villa General Mitre era habitado por indios querandíes. Hacia mediados del siglo XIX era una zona suburbana y netamente campestre que pertenecía al Partido de San José de Flores.
Sin embargo, esto comenzó a cambiar a partir del año 1880 con la federalización de Buenos Aires. Esa ley, entre otras cosas, expandió los límites geográficos de la Ciudad de Buenos Aires. Eso incluía a las tierras donde habría de surgir Villa General Mitre.
A partir de entonces las estancias comenzaron a subdividirse en parcelas cada vez más pequeñas. Comenzaron a abrirse calles y avenidas. Fue un proceso gradual, con calles de tierra, casas espaciadas y servicios públicos llegando lentamente después de realizarse los loteos.
Originalmente el barrio era considerado parte de Villa Santa Rita, pero luego de la muerte del expresidente Bartolomé Mitre en 1906, un grupo de vecinos inició una campaña para renombrar la zona en su honor. De esta manera, el Concejo Deliberante de la Ciudad de Buenos Aires sancionó el 6 de noviembre de 1908 la ley por la cual se creaba el barrio de "Villa General Mitre".
Dos años después, el flamante barrio fue visitado por la Infanta Isabel.
Hacia el año 1918 surge la Liga de Fomento barrial, encargada de tareas culturales, urbanísticas y deportivas. Se trata del actual Club Villa General Mitre.
En la década del '30 comenzaron a asentarse inmigrantes de diversos orígenes: gallegos, italianos, judíos, vascos, árabes y gitanos. Con ellos surgieron comercios y pequeñas industrias.
Picasso en Villa Gral. Mitre
En uno de los vértices del barrio (esq. Apolinario Figueroa y Av. San Martín), límite con Caballito, se halla un mural copia del famoso cuadro de Picasso, “Guernica”. Hecho sobre la pared de un depósito de hierro y chapas, junto a la escuela Andrés Ferryera, este mural representa el tributo de un grupo de alumnos de Bellas Artes.
Café La Humedad
Un lugar de entretenimiento y encuentro social del barrio es el famoso Café La Humedad de las esquinas Gaona y Boyacá. El bar se hizo célebre por el tango de Cacho Castaña, músico nacido en el barrio de Flores. Allí traza el fresco biográfico de una vida de juventud.