Galería de Arte se encuentra en el parque Joubert, a pocas cuadras de la estación de tren principal en Johannesburgo. El edificio fue diseñado por el arquitecto británico Sir Edwin Lachensom y consta de 15 salas de exposiciones, así como varias zonas de exposición al aire libre de esculturas de gran formato. Su archivo es una colección de pintura británica y holandesa de los siglos XVIII-XIX, una colección de pinturas europeas del siglo XIX, así como una gran colección de obras contemporáneas de artistas internacionales de Sudáfrica y.

Colector Dorothea Sarah Alexander Florence Phillips, esposa del magnate de la minería Lionel Phillips formó la primera colección de la galería, a expensas de los fondos aportados por su marido. Después de mudarse a Johannesburgo, comenzó a tomar fotografías con el objetivo de crear una galería de arte, que más tarde se convirtió en la Galería de Arte de Johannesburgo. Adquirió una colección de pinturas del artista británico y coleccionista Sir Hugh Lane, exhibido en Londres en 1910. Señora Phillips donó su colección de encajes y convenció a su marido para transmitir a los siete galería de pinturas y esculturas de Rodin.

La colección de la galería incluye obras de Auguste Rodin, Dante Gabriel Rossetti, Pablo Picasso, Camille Pissarro, Claude Monet, Edgar Degas, Herbert Ward y Henry Moore, así como el trabajo de los artistas sudafricanos - Gerard Sekot Walter Battissa, Alexis Preller, Maud Sumner, Sydney Kumalo y otros.

Johannesburg Art Gallery se abrió al público en 1910 en el campus de la Universidad de Witwatersrand. El arquitecto, Sir Edwin Lachens invitó Señora Phillips, llegó a Sudáfrica en 1910 para explorar la zona y comenzar la construcción del edificio de la galería. Pero el edificio no se completó de acuerdo con los bocetos del arquitecto. Cinco años más tarde, con el inicio de la construcción, el edificio abrió sus puertas al público sin ceremonia, justo después de la Primera Guerra Mundial.

Al final de la década de 1940, el edificio de la galería fue extendido de acuerdo con el diseño del arquitecto Lachensa - oeste construido y el ala este del edificio. El ala norte de la galería con una fachada moderna fue construida durante la última renovación del edificio en el año 1986-1987.