Saxofonista tenor y soprano, Oliver Nelson empezó a estudiar piano a los seis años y a los once, aun en edad escolar, tuvo su primer contrato profesional en la orquesta de Cottie Williams, donde su hermano también era saxofonista. Entre 1947 y 1948, trabajó con la orquesta de George Hudson, en 1949 con Nat Towles y al año siguiente entró a formar parte de la bigband de Louis Jordan, con quien trabajó hasta bien entrado el año 1951.

     Entre 1952 y 1954 cumplió el servicio militar en la Marina americana donde formó parte de su banda llegando a actuar en el lejano Japón. Cursó estudios en la "Lincoln University" para perfeccionar sus conocimientos musicales y en 1959 se trasladó a New York donde tocó con Erskine Hawkins, Wild Bill Davis y Louis Belson. En 1960 empezó a interesarse por la composición donde comenzó con un espléndido quinteto para instrumentos de viento exclusivamente. Al año siguiente compuso un ciclo de songs para saxo contralto y piano y en 1962 estreno la obra "Dirge" para orquesta de cámara. Quincy Jones lo llamó para que colaborara con él y su popularidad le dio la posibilidad de formar su propio grupo en el que pasaron, Miles Davis, Bill Evans y Eric Dolphy entre otros grandes músicos.

    A finales de los años sesenta se trasladó a California prosiguiendo allí su actividad de compositor, destacando su creatividad a la hora de improvisar. Probablemente su posición en la historia del jazz sería otra bien distinta, si un buen día de 1961 no hubiese grabado el disco que le encumbró a la cima de esta música. "The Blues and the Abstract Truth" (Impulse!), es un obra maestra difícil de encuadrar en una escuela concreta y por el que Oliver Nelson seguirá siendo recordado como el diseñador de ese monumento audaz y atemporal básico en el jazz.