Johnny Griffin naît le 24 avril 1928 à Chicago, Illinois. Il commence à apprendre le piano à 6 ans, et deux ans plus tard, il commence les cours de guitare hawaïenne. A l'âge de 13 ans, il commence la clarinette. Lors de ses étude, Johnny Griffin joue dans de nombreux orchestres, des orchestres classique aux groupes scolaires de Jazz Dance, et s'initie au hautbois, au cor anglais et au saxophone. Au collège de DuSable, il joue sous la direction de Walter Henri Dyett, qui dirigea aussi Nat King Cole, Gene Jug Ammons et Benny Green, entre nombreux autres célèbres jazzmen. Ce dernier lui fait jouer du saxophone alto plutôt que du ténor, jugeant Johnny Griffin trop petit. Dès l'obtention de son diplôme en 1965, il rejoint l'orchestre de Lionel Hampton où il abandonne l'alto pour le ténor. Rapidement, Johnny Griffin devient un improvisateur confirmé, rivalisant continuellement de vélocité avec les autres solistes et acquiert rapidement le surnom de "fastest tenor in the West" (le ténor le plus rapide de l'ouest).
Il quitte l'orchestre deux ans plus tard avec le trompettiste John Morris pour former un sextet avec des musiciens de Chicago. En 1948, le sextet évolue vers un octet qui acceuille en son sein Elmo Hope, Philly Joe Jones, Percy Heath, Matthew Gee... En 1950, il joue dans le quartet de Jo Jones avec Elmo Hopes et Gene Ramey.En 1951, Johnny Griffin joue du baryton dans le septet d'Arnett Cobb jusqu'à être enrolé dans l'armée américaine où il joue avec l' orchestre de la 264 infanterie prendant 18 mois à Hawaï avant d'être dégagé des obligations militaires en 1953. Il retourne alors à Chicago où il se produit dans de nombreuses formations. En 1957, il rejoint le Art's Blakey's Jazz Messengers pour un semestre, avant de rejoindre, pour une durée de six mois également, le quartet de Theolonius Monk, où il remplace John Coltrane. En 1959, il joue en "free-lance" à travers les Etats Unis.
En 1962, il forme avec Eddie Lockjaw Davis un quintet qui se produira pendant deux années et demi, avant que Johnny Griffin ne quitte les Etat's Unis pour étudier en Europe (Paris, Stockholm, Londres, ... ) en mars 1962. Il retourne aux Etats Unis quelques temps avant de repartir vers l'Europe avec Babs Gonzalez, s'installant tout d'abord au Pays Bas avant de partir pour Paris où il reste 10 années pendant lesquelles il travaille avec d'autres expatriés (Kenny Drew, Bud Powell, Art Taylor, Kenny Clarke, Nathan Davis, Dexter Gordon...). De 1967 à 1969, il occupe la place de soliste dans le Clarke-Boland Big Band.
En 1973, Johnny Griffin quitte Paris pour s' installer près de Rotterdam et se produit comme soliste invité dans différent orchestre à travers l'Europe. En 1976, il part faire son premier tour du Japon, avec Arthur Taylor à la batterie, Horace Parlan au piano et Mad Winding à la basse.
En 1978, Johnny Griffin retourne aux Etats-Unis après une absence de 15 ans ; il y réalise un retour triomphant en se produisant avec Dexter Gordon notemment à Carnegie Hall, puis lors de la tournée à succès qui l' emmène lui est son quartet au quatre coins du monde. En 1980, il retourne s' installer en France où il continue à enregistrer de nombreux disques avec différents orchestres.
Johnny Griffin restera certainement à jamais célèbre pour ses solos rapides et lumineux, mené tambour battant et avec une technique quasi parfaite. C'est un des soxophonistes ténor phares du mouvement Hard Bop. Il continue aujourd' hui à éblouir de son talent, faisant régulièrement des tournées mondiales et se produisant régulièrement dans festivals et des Jazz Club. On peut y entendre le son chaud et rond qui lui est propre et qu'il sait magnifier aussi bien dans les ballades que sur des rythmes endiablés.