Desde 1658 Ebeling estudió teología en la Universidad de Helmstedt. En 1660  recibió un nombramiento en Hamburgo en el collegium musicum fundado por Matthias Weckmann en 1659 y apoyado por Johann Rist. En 1662, a la muerte de Johannes Crüger, lo sucedió como Kantor de la Nikolaikirche, Berlín, donde el poeta Paul Gerhardt había estado trabajando como diácono desde 1657. 

Edición discográfica con dos obras de Johann Georg Ebeling

A pesar de una exitosa postulación, arreglada en 1663 por su padre, para posicionarlo en Jacobi en Lüneburg, escogió permanecer en Berlín, donde se refirió así mismo como 'director de música en las iglesias principales'.

Cuando las políticas internas de la iglesia causaran que Gerhardt fuera despedido él también dejó Berlín, en 1667; se hizo maestro principal de música en el Gymnasium Carolinum, Stettin, donde permaneció hasta su muerte. El hecho de que también enseñó allí griego y  poesía muestra la amplitud  de sus conocimientos.

Ebeling es importante para la música y la himnología porque fue el primero en coleccionar himnos de Gerhardt. Su publicación "Pauli Gerhardi geistliche Andachten", que tiene indudables nexos con las publicaciones de canciones de Lüneburg, contiene 120 himnos y él proporcionó melodías para 112 de ellos, con armonizaciones simples de cuatro partes; las numerosas ediciones posteriores mantuvieron sólo la melodía y un bajo continuo  ‘para mayor conveniencia'.

Ebeling pensó su música para devociones domésticas en lugar de para el culto colectivo, y se usó de hecho frecuentemente más de esta manera. Tres de sus melodías todavía están en el repertorio básico de himnos protestantes. También escribió una de las primeras historias de la música, "Archaiologiae Orphicae/i.e. Musicae de Antiquitates" (Stettin, 1675).