Hijo mayor de Anna Margareta Schneider d'Elsterwerda y de August Graun, un clérigo sajón que se ocupaba de cobrar  impuestos como funcionario real. A pesar de sus actividades, se preocupó mucho por proveer a sus hijos de una sólida formación musical, de conformidad con las normas eclesiásticas respectivas, y parece haber sido el primer maestro de sus hijos. La compra de una casa en 1708 demuestra que tenía una buena situación económica. En las primeras lecciones de música de los tres niños participó decisivamente, el maestro David Cocler, experto en música, literatura y doctrina cristiana.

El registro parroquial de Wahrenbrück se perdió el 14 de octubre de 1714 en un incendio en la casa del ministro Benjamín Graun, un tío de los hermanos Graun. Así, las fechas de nacimiento exactas de los hermanos Graun no son posibles de verificar. Entre sus antepasados figura en 1575 un organista Wolfgang Graun en Plauen. August Friedrich se educó en la Kreuzschule de Dresde, donde cantó en el coro de Johann Zacharias Grundig.

August Friedrich es el que tuvo menor relieve en el mundo musical europeo entre los hermanos y su carrera transcurrió como Stadtkantor, maestro y organista de la catedral de Merseburg a partir de 1729. A pesar de sus controversias con los funcionarios de la escuela y con el consistorio de la iglesia, las pocas de sus obras que sobreviven no permiten afirmar paralelo alguno con Johann Sebastian Bach.