Die älteste urkundliche Erwähnung des Ortsteils datiert von 1290 . Diese Urkunde bezieht sich auf noch Urkunden. Somit wird angenommen dass die Dörfer zwischen 400 und 800 entstanden sind. Im Jahre 1290 war auch Baubeginn Burg Herzberg an der Handelsstraße "Kurze Hessen".
Im Januar 1972 schlossen sich die Gemeinden Breitenbach Hatterode Oberjossa freiwillig zusammen und gründeten die neue Breitenbach am Herzberg. Die Ortsteile Gehau und kamen etwas später hinzu.