Joshua Tavenier begon zijn opleiding op vierjarige leeftijd bij Coosje Wijzenbeek in Hilversum en vervolgde zijn vioolstudie aan de Sweelinck Academie voor Jong Talent aan het Conservatorium van Amsterdam en bij Chris Duindam aan de Academie Muzikaal Talent in Utrecht. Recent rondde hij zijn bachelor af bij Marc Danel aan het Conservatoire National Supérieur in Lyon.
Van jongs af aan speelde Joshua bij het strijkersensemble de Fancy Fiddlers, waarmee hij optrad in binnen- en buitenland. Tegenwoordig is hij regelmatig zowel solo als in verschillende kamermuziekbezettingen te horen. Zo speelde hij met het strijkkwartet Quatuor Demian en Trio Animi bij de Opéra de Lyon, in het Auditorium National de Lyon en op het Festival Démesurés.
Hij won diverse prijzen, waaronder de Davina van Wely Prijs tijdens het Nederlands Vioolconcours in 2022, toen hij ook de prijs voor de beste uitvoering van het moderne werk (Riffs van Joey Roukens) won.
Joshua maakte deel uit van onder meer het Gustav Mahler Jugendorchester en in het Verbier Festival Orchestra.
Sinds 2024 speelt hij op een viool gebouwd door Riccardo Antoniazzi, in bruikleen van het Muziekinstrumentenfonds.