La Familia Van Halen emigra de Nijmegen, Holanda hacia Pasadena, California en los años 1960’s. El padre de Eddie y Alex, Jan Van Halen, era un músico realizado y transmitió a sus hijos el amor a la música. Siendo los hermanos Van Halen unos niños, fueron entrenados como pianistas clásicos. Con el paso del tiempo, Eddie comenzó su aprendizaje con la guitarra, mientras que Alex tuvo interés en tocar la batería.
En su época de juventud, los hermanos Van Halen tocaron en varios grupos y realizando actuaciones en patios particulares, fiestas escolares, estacionamientos y pasaron por varios cambios de nombre como The Trojan Rubber Company, The Broken Combs, Rat Salad y Mammoth. David Lee Roth, un joven cantante que alquilaba a los hermanos Van Halen el equipo de sonido para voz, entra al grupo en 1974, ya que Eddie y Alex vieron que podrían ahorrarse ese dinero. Michael Anthony es invitado también a tocar en el grupo ese mismo año. El nombre de Mammoth tenía que ser cambiado ya que otro grupo lo estaba utilizando y entre los cuatro buscaron un nuevo nombre para el grupo y David Lee Roth sugirió el apellido de los hermanos Van Halen.
La banda se convirtió en todo un éxito en el circuito de clubes de Los Ángeles, California, en los años 70, tocando covers de bandas populares, especialmente de Aerosmith. En 1976, Gene Simmons (miembro de KISS) asiste a un show de Van Halen y rápidamente financia y graba una cinta demo sin poder convencer a su discográfica de que los firmara. Esta situación no afecta el ánimo del cuarteto y continúan ofreciendo espectáculos abarrotados. Mo Ostin, un ejecutivo de Warner Brothers asiste también a un show junto con Ted Templeman, y firma al grupo después de una pequeña junta de negocios al finalizar el show en el Club Starwood de Los Ángeles.