No existe seguridad sobre el lugar y año de su nacimiento. Era hijo del organista Caspar Conrad, que se estableció en Oettingen, un pequeño pueblo señorial al sur de Ansbach, no más allá de 1644. Probablemente su padre le enseñó música, y después se unió al coro de la capilla de la corte. En 1671 llegó a ser director de música en la corte de Oettingen-Oettingen, cargo que mantuvo hasta 1683, cuando fue nombrado Kapellmeister de la corte en Ansbach. Aquí, bajo el entusiasta patrocinio del Margrave Johann Friedrich, Conradi dirigió un rico establecimiento musical para el cual, según los registros del archivo, compuso por lo menos 85 obras sacras, todas las cuales están perdidas. Durante este periodo muchas de las óperas de Lully parecen haber sido representadas en la corte, lo que explicaría las fuertes características estilísticas francesas de las últimas óperas de Conradi. La muerte del margrave en marzo de 1686 llevó al licenciamiento de la orquesta de la corte, y Conradi se vio obligado a buscar un nuevo empleo.

Sólo a fines de marzo de 1687 logró convertirse en Kapellmeister en Römhild, la residencia del Duque Heinrich de Saxe-Gotha. Aquí formó una notable orquesta, aunque mayores detalles sobre su carrera durante este periodo son inciertos. Hacia mediados de 1690 dejó este cargo para ir a Hamburgo, donde casi inmediatamente se convirtió en director musical de la ópera. En menos de cuatro años sus óperas para el teatro de Hamburgo establecieron su reputación a lo largo de Alemania. En 1698 volvió a Oettingen como Kapellmeister. Después de su muerte su hijo lo sucedió en este puesto.

Edición discográfica de la ópera "Die schöne und getreueAriadne" de Johann Conradi

La música de Conradi comprende tres categorías: la música sacra para varias pequeñas  cortes protestantes donde trabajó, piezas ocasionales para ceremonias y festividades en las mismas cortes y las óperas de Hamburgo. Su música de iglesia está casi toda perdida. Quedan algunas arias sacras, de forma estrófica y la mayoría de ellas música sobre textos de himnos; sólo en una, sin embargo, hay una melodía coral incorporada en la línea vocal. Las arias son acompañadas por pequeños conjuntos instrumentales. Otras composiciones son conciertos sacros o cantatas, todos escritos para solistas, coro y orquesta. Son buenos ejemplos de música de la iglesia protestante de fines del siglo XVII, con contrastes estructurales típicos entre la polifonía vocal, los pasajes corales declamatorios homofónicos, los recitativos solos y arias, y los pasajes instrumentales que funcionan como ritornellos de unión y como interposiciones concertadas dentro de la escritura vocal. No existe nada de la música ceremonial y festiva, aunque algunos títulos pueden determinarse a través de los libretos supervivientes.

Se debe asumir, a pesar de la falta de fuentes, que Conradi escribió óperas antes de ir a Hamburgo; de otro modo difícilmente habría sido nombrado inmediatamente para el puesto de compositor y director musical del centro de ópera más importante de Alemania en ese momento. Los títulos de sus obras para Hamburgo son enumerados por Mattheson en "Der musicalische Patriot" (Hamburgo, 1728). Menciona nueve obras, todas con libretos de Christian Heinrich Postel; la música para ocho de éstos está perdida, salvo un aria transcrita para cithrinchen (un instrumento parecido al laúd, popular en Hamburgo a fines del siglo XVII). Sin embargo, existe la partitura de su primer éxito en el Theater am Gänsemarkt de Hamburgo, "Die schöne und getreue Ariadne" (1691), y permite una evaluación crítica de su contribución a la historia de la ópera en Hamburgo; este manuscrito es la partitura superviviente más antigua compuesta para la ópera de Hamburgo.

La música de "Ariadne" es una mezcla muy expresiva y cosmopolita de los estilos veneciano, alemán y francés, siendo dominantes las influencias francesas en todo excepto en los recitativos. La partitura demuestra concluyentemente que fue Conradi, y no su sucesor en Hamburgo, J. S. Kusser, quien introdujo las influencias operísticas francesas en Hamburgo. La página inicial de la obertura es francesa en cada detalle de su estilo ceremonial pomposo y en sus característicos ritmos punteados.