En 1710 sucedió a su maestro como organista en la corte del Duque Christian I de Sajonia y en la Catedral de Merseburg. Posteriormente Kauffmann se convirtió en organista de la corte del Duque de Saxe-Merseburg y después fue promovido a Kapellmeister de la corte.

La música y reputación de Kauffmann se extendieron más allá de Merseburg pocos años después de su nombramiento en 1710. El amigo de Bach  J. G. Walther, que puede haber conocido a Kauffmann en Erfurt, copió su preludio coral "Herr Gott, dich loben alle wir" temprano en la segunda década del siglo, y el alumno de Walther J. T. Krebs copió la “Fantasía en Sol Mayor” de Kauffmann aproximadamente en el mismo momento. (Dos manuscritos posteriores de Walther contienen copias extensas de obras para órgano de Kauffmann).

En Leipzig, la universidad consideró pedir a Kauffmann que inspeccionara el órgano recientemente terminado de la Paulinerkirche en 1717, pero la invitación se hizo después a Bach; cinco años después, dos escribientes que trabajaron para Johann Kuhnau–uno de ellos su sobrino J.A. Kuhnau que después trabajó para Bach–coparon partes de la cantata solista de Kauffmann "Unverzagt, beklemmtes Herz", probablemente para una presentación el 16 de agosto de 1722, poco después de la muerte de Kuhnau.

Kauffmann puede haber debido sus contactos de Leipzig a J. P. Kunzen, el libretista de su oratorio "Die Himmelfahrt Christi". En Halle, el organista Gottfried Kirchhoff poseía cantatas de Kauffmann que probablemente usó para interpretarlas en la Marienkirche; ninguna de estas copias, sin embargo, existe ya.

En el otoño de 1722 Kauffmann fue a Leipzig para competir para el antiguo cargo de Kuhnau de Kantor en la Thomaskirche. Las minutas del concejo del pueblo de Leipzig  del 22 de noviembre de 1722 mencionan a Kauffmann, al que describen como ‘organista de la corte y director de música en Merseburg', como uno de siete oponentes. Según el Hollsteinischer Correspondent (Hamburgo) del 8 de diciembre, interpretó su pieza de prueba el 29 de noviembre, primer domingo de Adviento. Las minutas del concejo de diciembre informan que Kauffmann ‘pidió de nuevo ser admitido al examen'. El concejo accedió a la demanda puesto que se había permitido a J. S. Bach y a Graupner dos interpretaciones de cantata a cada uno. Permaneció entre los finalistas para el trabajo hasta que Bach lo recibió en abril de 1723. Bach y Kauffmann pueden haber tenido contactos indirectos por lo menos durante los años siguientes. Alrededor de 1727, cuando Wilhelm Friedemann Bach estaba estudiando en Merseburg con J. G. Graun, J. A. Kuhnau copió las partituras de dos cantatas de Kauffmann, "Komm, du freudenvoller Geist" y "Nicht uns, Herr"; copió una tercera, "Die Liebe Gottes ist ausgegossen", en una incierta fecha posterior. Las piezas probablemente sirvieron para tocarse en la Neue Kirche en Leipzig.

En “Critica musica” de 1725 de Mattheson aparece un anuncio sobre un tratado de Kauffmann, que se refiere a él en el prospecto como 'director de música de iglesia del Duque de Saxe-Merseburg'.
Ocho años más tarde Kauffmann empezó la publicación serial de su "Harmonische Seelenlust", la primera colección de preludios corales para órgano que apareció impresa desde la Tabulatura nova de Scheidt de 1624. Murió de tuberculosis antes de que apareciera la colección completa, pero su viuda supervisó la entrega del resto a través de la prensa.

Las obras vocales de Kauffmann, con su estructura de frases concisas y eliminación de complejidad polifónica, adhieren a las normas estilísticas de música sacra alemana de su generación. A pesar de la poca cantidad de su producción superviviente, Kauffmann está considerado entre los mejores contemporáneos alemanes de Johann Sebastian Bach.