Die ersten Festivals fanden ab 1968 noch auf der Burg Herzberg, nahe dem hessischen Alsfeld, statt und waren die ersten Freiluft-Hippie-Festivals in Deutschland. Beim 1. Deutschen Undergroundfestival vom 1.–2. April 1970 spielten z. B. ausschließlich deutsche Bands wie Petards, Guru Guru, Amon Düül und Can. Ab 1973 gab es kein Festival mehr. Erst 1991 wurde das Festival von Kalle Becker auf der Burg wiederbelebt. Nach einigen Jahren (1997) wurde der Platz auf dem Burggelände wegen des steigenden Bekanntheitsgrades zu klein. Seitdem findet das gleichnamige Festival jährlich am Fuße des Berges statt. 2002 fand das letzte Festival von Kalle Becker statt. Im Jahr 2004 wurde das Herzbergfestival von einer Gruppe Fuldaer Musikliebhaber und Fans wiederbelebt und ist jetzt wieder das größte Festival seiner Art in Europa.

Umsonst und draußen ist seit den 1970er-Jahren ein feststehender Begriff für Musikveranstaltungen bei freiem Eintritt unter freiem Himmel.

Obwohl es das Festival seit 1970 gibt, wurden bis heute nur sieben Tonträger veröffentlicht:

Eine ganz spontan zusammengestellte Sendung