Nacido en York (norte de Inglaterra) el 3 de noviembre de 1933, Barry comenzó su carrera haciendo arreglos para big bands de jazz, para formar en 1957 el grupo de pop The John Barry Seven, que tendría varios éxitos, siendo el más notable Hit and Miss.
En 1962 fue contratado para hacer arreglos a la música que Monty Norman había compuesto para la primera película de James Bond, al que dio un sonido propio del surf rock entonces de moda. A partir de ahí fue contratado para hacer la música de once de las películas del legendario espía, entre las que destacan Desde Rusia con amor, Goldfinger y Sólo se vive dos veces.
Además de su trabajo con la serie de 007, John Barry fue especialmente conocido por sus bandas sonoras más melódicas y románticas, de las que destacan Nacida libre, Memorias de África y Bailando con lobos. Ganó el Oscar por todas ellas, además del obtenido por El León en invierno y por la canción de Nacida libre. También recibió un Bafta por toda su carrera en 2005. Su último trabajo fue en la película Enigma, una historia centrada en los esfuerzos británicos por descifrar los mensajes codificados de la Alemania nazi.