Très jeune, il apprend la peinture et fréquente François Marius GRANET. En 1849, à la mort de celui-ci, il se rend peu après à Paris pour parfaire son art. Là, il consolide les liens qui l’unissent à son ami d’enfance Paul CEZANNE. De retour à Aix, il devient à son tour professeur à l’école de dessin. Il est ensuite nommé peintre de la ville d’Aix. On lui demande de faire une copie des tableaux qui se trouvaient dans la salle de États de Provence de l’Hôtel de Ville détruits par des pillards le 22 août 1792. Près d’un siècle après cet évènement, il s’acquitte de sa tâche et peint, entre autres, les portraits de Jean-Baptiste VAN LOO et de François Marius GRANET. Mais c’est surtout la « Fondation d’Aix par SEXTIUS Calvinus » qu’il réalise en 1900 qui restera son œuvre maitresse.
Joseph VILLEVIEILLE meurt dans sa ville natale le 11 février 1916 à l’âge de 86 ans. Il repose au cimetière Saint-Pierre.