Joseph Rudolph Jones, Philly Joe Jones est né à Philadelphie le 15 juillet 1923. Sa mère, professeur de piano, lui enseigna les bases de la musique.

Pendant ses années d’étude, il apprend la batterie avec des batteurs qu’il admirait comme Cozy Cole et Charles Wilcoxon, tout en étant conseillé par Art Blakey et même le jeune Max Roach.

Il a lui-même choisi son pseudonyme, “Philly Joe” Jones, en hommage à sa ville natale, pour ne pas être confondu avec le batteur de Count Basie, Jo Jones. Et comme Jo Jones le fit dans les années 30 et 40, Philly Joe définit les règles de la section rythmique des années 50.

Il a commencé à jouer avec des groupes de rythm and blues dans les années 40, se faisant une place sur la scène jazz de New York.

Le premier groupe avec lequel Philly Jo Jones a enregistré était dirigé par le saxophoniste Johnny Griffin et le trompettiste Joe Morris, avec Matthew Gee au trombone; Elmo Hope au piano et Percy Heath à la contrebasse. Ils commencèrent par jouer des compositions de Thelonious Monk et Bud Powell, mais ils se remirent à jouer du blues, plus rémunérateur.

Philly, déçu par ce répertoire, se sépara du groupe pour rejoindre celui, déjà bien installé de Ben Webster, Lee Konitz, Zoot Sims, Tony Scott, et Tadd Dameron.

Il travailla également à Philadelphie pour des pointures comme Dexter Gordon et Fats Navarro.

Mobilisé pendant la guerre, il fut libéré en 1945 où il prit un job alimentaire de chauffeur de tramway. On raconte qu’il fut licencié lorsqu’il abandonna un tramway et ses passagers pour aller jouoer dans un des clubs devant lequel il passait.

Les deux périodes les plus marquantes dans la carrière de Philly Joe furent sa collaboration avec Tadd Dameron de la fin des années 40 à 1953 puis avec Miles Davis de 1952 à 1958.

Son travail avec Dameron lui apprit à jouer aussi bien dans un big band qu’en accompagnement d’un soliste.

Mais sa période la plus importante fut, sans aucun doute, sa collaboration avec le trompettiste Miles Davis. Tous les deux ont parcouru les Etats-Unis pour s’arrêter dans les villes pour jouer avec des groupes locaux.

Dans son autobiographie, Miles Davis raconte :

Philly Joe Jones et moi allions de ville en ville et jouions avec des musiciens locaux. Philly partait devant et recrutait des musiciens pour former un groupe avec qui nous pourrions jouer. Mais cela m’agaçait fortement parce que, très souvent, les musiciens ne connaissaient pas les arrangements et même, quelquefois découvraient les morceaux sur scène.

Le faible niveau des musiciens rencontrés faisait de ces concerts des « corvées » comme disait Philly et ça a duré de 1952 à 1955.

Enfin, pour préparer un concert dans un club de Baltimore en 1955, Philly Joe dénicha deux jeunes musiciens de tout juste 20 ans que Miles embaucha. Il s’agissait du pianiste Texan Red Garland et du bassiste virtuose Paul Chambers. John Coltrane, vint se joindre à eux pour un test sur un arrangement de Miles sur Two Bass Hit. Après le concert, Miles dit à Jones : « Je crois que c’est bon ».

Jones approuva en disant du groupe :

La première fois que nous avons joué ensemble…on s’est regardé en pensant ‘Hum, c’était bien ! il y a eu comme un phénomène télépathique entre nous. Cinq musiciens qui savaient à l’avance ce qui allait se passer entre eux dans la seconde qui suivait.

Ces cinq là, devinrent le fameux Miles Davis Quintet.

Chambers et Jones étaient devenus la section rythmique la plus demandée par des solistes Sonny Rollins et Art Pepper. Jones était sur de nombreux enregistrements Blue Note au point qu’il était « officieusement » devenu le batteur maison pour les labels Blue Note; Riverside et Prestige.

Son jeu a été défini comme « trop fort » ou « une vraie mitraillette ». Il suffisait cependant d’écouter attentivement pour apprécier la précision et l’énergie de son jeu. Le meilleur exemple du style de Jones est probablement l’album Blue Train de John Coltrane.

Jones sortit son premier album sous son nom en 1958 ; un LP pour le label Riverside. Sur cet album qui lui valut de se faire un nom dans le métier, on retrouvera des musiciens tels que : Nat Adderley, Julian Priester, Johnny Griffin et Tommy Flanagan. Les lecteurs du magazine Downbeat le désignèrent « Batteur Espoir » en 1957 et « Batteur de l’année » en 1962. Il fut également 2ème en 1961 derrière Max Roach.

En 1962, il y eut un creux dans la carrière de Jones. Il a été ignoré et presque oublié en raison de la popularité naissante d’Elvin Jones, le nouveau batteur du quartette de John Coltrane.