En 1702 fue nombrado organista de la iglesia de Santo Tomás en Erfurt. En 1708, a los 23 años de edad, fue nombrado organista de Weimar, siendo el maestro de música del joven duque Johann Ernst von Sachsen-Weimar, al que le escribió un tratado musical titulado “Praecepta der musicalischen Composition” (Preceptos de la composición musical). Permaneció escrito a mano hasta la edición de Peter Benary (Leipzig, 1955).

Frontispicio de la primera edición de "Musicalisches Lexicon" de Johann Gottfried Walther - 1732

Walther era mejor conocido como el recopilador del "Musicalisches Lexicon" (Leipzig, 1732), un diccionario enorme de música y músicos. No sólo fue el primer diccionario de términos musicales escrito en idioma alemán, fue el primero en contener tanto términos como información biográfica sobre compositores e intérpretes de principios del siglo XVIII. En total, el Musicalisches Lexicon define más de 3,000 términos musicales; Walther utilizó evidentemente más de 250 fuentes separadas compilándolo, incluyendo tratados teóricos del temprano Barroco y del Renacimiento. La fuente aislada más importante para el trabajo fueron los escritos de Johann Mattheson, que son mencionados más de 200 veces.

Walter definía la “música poética” o “retórica musical” como:
"Musica Poetica o la composición musical es una ciencia matemática a través de la que se lleva al papel una armonía conforme y correcta de las notas para que puedan ser después cantadas o tocadas, moviendo de tal modo apropiadamente a los oyentes a la devoción Piadosa así como agradar y encantar la mente y el alma…. Se llama así porque el compositor no sólo debe entender el lenguaje como hace el poeta para no violar el metro del texto, sino porque él también escribe poesía, llamada melodía, mereciendo así el título de Melopoeta o Melopoeus".

Como compositor de órgano, Walther se hizo famoso por sus transcripciones para órgano de conciertos orquestales de italianos contemporáneos y maestros alemanes. Hizo 14 transcripciones de conciertos de Albinoni, Gentili, Meck, Taglietti, Giuseppe Torelli, Vivaldi y Telemann. Estos trabajos fueron los modelos que tuvo Bach para escribir sus famosas transcripciones de conciertos de Vivaldi y otros. Por otro lado, Walther como organista de la ciudad de Weimar escribió exactamente 132 preludios de órgano basados en melodías corales luteranas. Un poco de música de teclado libre también pertenece a su legado.