Jerome Kern nació en la ciudad de Nueva York el 27 de enero de 1885. Creció en la atmósfera de la clase media al este de la calle 56 y fue a la escuela pública. Su primer profesor de música fue su madre, continuó sus estudios en el New York College of Music (1902-3) y completó su formación musical en Heidelberg, Alemania (1903-4).
Volvió a New York, y comenzó a trabajar como pianista para un editor musical, y pronto comenzó a contribuir con canciones para varios espectáculos musicales. Rápidamente se convirtió en un compositor de éxito, y en 1915 junto con el escritor Guy Bolton, comenzó con una serie de musicales íntimos para el teatro Princess de 299 butacas.
De entre las canciones de Kern hasta 1927 destacan "They Didn’t Believe Me”, que muchos consideran la primera balada moderna, escrita en 1914 con Herbert Reynolds; “Go Little Boat”, (1917, con P.G. Wodehouse); “Look For the Silver Lining” (1920, con letras de B.G. DeSylva).
In 1927, Kern se unió a Oscar Hammerstein II y ambos adaptaron la novela de Edna Ferberen uno de los mayores musicales de la historia americana: Show Boat. Show Boat fue pionera en el concepto del musical completamente integrado, con todos los aspectos del espectáculo trabajando juntos hacia una única unidad artística. De entre las canciones introducidas en el Show estaban "Old Man River", "Bill" (letra de P.G. Wodehouse, originalmente escrita por uno de los músicos del Teatro Princesa, y revisada por Oscar Hammerstein II), "Can't Help Lovin' Dat Man", "Make Believe", y "Why Do I Love You?".
En los años que siguieron a Show Boat, Kern conttinuó escribiendo para Boradway, produciendo canciones clásicas como "The Song Is You" (de Music in the Air, 1932, con Oscar Hammerstein II), "Let's Begin," "Smoke Gets In Your Eyes", y "Yesterdays" (todos de Roberta, 1933 con letras de Otto Harbach).
En 1935, Kern fue a Hollywood, donde desarrolló el resto de su carrera, escribiendo alguna de su mejor música. Para la película de 1935 de Roberta escribió "I Won't Dance" (originalmente escrita para la producción de Roberta en Londres, pero con nuevas letras de Dorothy Fields y Jimmy McHugh). Para Swing Time (1936) escribió "A Fine Romance" y "The Way You Look Tonight" (ambas con letras de Dorothy Fields).”The Way You Look Tonight” ganó el el oscar a la mejor canción en 1936.
Regresó a Broadway en 1939, donde ayudó a producir su último espectáculo: Very Warm for May. Mientras que el show no fue muy exitoso, la banda sonora introdujo uno de los que serían uno de los estándares Hammerstein-Kern, “All the Things You Are”.
Vuelta a Hollywood, para una película llamada You Were Never Lovelier en 1942, Kern escribió "I'm Old Fashioned" con letra de Johnny Mercer. Continuó escribiendo para películas musicales incluyendo High, Wide and Handsome (1937) y Cover Girl (1944).
En el transcurso de su carrera, el estilo de Kern mostró una destacable evolución hacia una mayor y mayor sofisticación y a más y más estilo americano. Fue de muchas formas el enlace entre la tradición de la opereta Europea y el estilo de los musicales de Broadway. Jerome murió en la ciudad de New York el 11 de Noviembre de 1945.