No existe información sobre sus estudios musicales. Fue nombrado organista de la corte en Römhild en 1692, donde, el mismo año, se casó con Anna María Sterzberg, viuda de su predecesor; permaneció allí hasta 1708 cuando asumió el cargo de Kapellmeister en la corte de Hildburghausen. En 1715 Käfer se mudó a Durlach como compositor de la corte del Margrave Carl Wilhelm de Baden-Durlach; seguidamente fue designado Kapellmeister de la corte. Compuso óperas exitosas para la escena de Durlach hasta 1718, cuando la corte se trasladó a Karlsruhe y le exigieron que produjera música sacra para la nueva capilla; escribió por lo menos tres ciclos de cantatas.

Edición discográfica de obras de Johann Phillip Käfer

Sus esfuerzos por ver sus óperas representadas en Karlsruhe fueron obstaculizados por el director de escena Philippe Scandalibene y el bajo cantante y sacerdote católico Natale Bettinardo. Sin esta fuente de ingreso adicional Käfer se encontró endeudado y en conmovedoras peticiones imploró al Margrave que mejorara su sueldo. Luego de muchos mal entendidos la situación hizo crisis y el 23 de agosto de 1722 fue despedido y sucedido por J. M. Molter. Käfer se estableció entonces en Pforzheim donde llevó una existencia modesta enseñando y dirigiendo representaciones de cantatas en las iglesias locales.

Poco puede decirse sobre las contribuciones musicales de Käfer como compositor de ópera, pues todas las partituras están aparentemente perdidas, pero la obertura, aria, coros y movimientos de danza de su "Musicalische Battaille" dan una idea de su estilo operístico. Su Sonata a 4 y cantatas habrían sido algo anticuadas en los años 1720 (un hecho que puede haber influido en el despido de Käfer), pero demuestran que fue un dotado contemporáneo de Kuhnau, Zachow y J. P. Krieger.

Su hijo Johann Käfer (Römhild, 18 de mayo de 1693; Karlsruhe, 24 de enero de 1725), que tocaba la flauta y el órgano y fue músico de la corte de Durlach, escribió una trilogía operística, "Die asiatische Banise". Estas óperas se realizaron en Coburgo en 1714 y después en Durlach (h. 1716), donde su ópera "Almire und Fernando" (sobre el mismo libreto de Almira de Haendel) se realizó en 1717 (música perdida). En 1718 escribió "Musicalische Seelen-Erbauung", un ciclo de cantatas de epístola (texto sólo, Durlach, 1719) para la capilla de Karlsruhe, donde permaneció con su madre hasta su muerte. Todas sus obras frecuentemente han sido equivocadamente atribuidas a su padre.