"Oh By The Way" se presenta con un diseño de los CD en mini falso vinilo, para reproducir el original a tamaño reducido. De hecho, esta caja ha sido obra del que fuera diseñador de los álbumes de Pink Floyd durante mucho tiempo, Storm Thorgerson, que ha creado también un póster especial con 40 imágenes de la banda.

Los álbumes que se incluyen en esta caja son: The Piper At The Gates of Down (1967), A Saurceful of Secrets (1968), More (1969), Ummagumma (1969), Atom Mother Heart (1970), Meddle (1971), Obscured by Clouds (1972), The Dark Side of the Moon (1973), Wish You Were Here (1975), Animals (1977), The Wall (1979), The Final Cut (1983), A Momentary Lapse of Reason (1987) y Division Bell (1994).

Roger Waters y Syd Barret fundaron Pink Floyd en 1965, banda cuyo nombre nació en honor a sus discos favoritos, obra de dos músicos de "blues", Pink Anderson y Floyd Council y a la que luego se incorporó David Gilmour en sustitución de Barret.