Harry Connick Jr est né le 11 Septembre 1967 à la Nouvelle Orléans, en Louisiane. Son père, Harry Connick Sr, était district attorney, et sa mère, Anita Connick, était juge. Ils possédaient aussi un magasin de disques, ce qui explique l'intérêt de Harry pour la musique dès son plus jeune âge. A 3 ans, il commence à jouer du piano et il se produit publiquement pour la première fois à l'âge de 6 ans. A 10 ans, il enregistre un disque avec un groupe de jazz professionnel. Il continue son éducation musicale au New Orleans Center For The Creative Arts, tout en se produisant dans des clubs et bars.
Alors qu'il n'a que 13 ans, sa mère décède d'un cancer, après plusieurs années de lutte contre la maladie.
A 18 ans, Harry s'installe à New York pour étudier, tout d'abord au Hunter College, puis à la Manhattan School of Music. Il rencontre alors George Butler, cadre chez Columbia, avec qui il signe un contrat. L'année suivante, en 1987 et à l'âge de 19 ans, Harry Connick Jr sort un album de standards musicaux, qui reçoit les critiques très enthousiastes des plus grands noms du jazz.
En 1988, il sort un nouvel album, "20", sur lequel il accompagne les morceaux musicaux de sa voix, contrairement au précédent.
Son premier véritable grand succès, il le trouve avec le réalisateur Rob Reiner, qui choisit plusieurs de ses chansons pour la bande originale de son nouveau film, "Quand Harry rencontre Sally", avec Billy Cristal et Meg Ryan. L'album devient rapidement double disque de platine. Harry Connick Jr réalise alors une tournée mondiale.
