La fecha exacta de su nacimiento es desconocida. Su familia venía de Halle, donde vivía su abuelo Simon y nació su padre Basilius, que en 1599 viajó a Stuttgart y se convirtió en tenor en la capilla de la corte de Württemberg. Basilius se casó con Anna Schmid y tuvieron  once hijos, cuatro de los cuales se hicieron músicos (Johann Jakob, Johann Christoph, Johann Georg e Isaac; todos menos Johann Jakob sirvieron en la corte de Württemberg en Stuttgart), y es probable que Johann Jakob recibiera sus primeras lecciones de música de su padre. Cuando Johann Jakob nació, la carrera de su padre ya estaba floreciendo, y en 1621 Basilius se volvió Kapellmeister de la corte.

Aunque la Guerra de Treinta Años que empezó en 1618 indudablemente hizo algo más difícil la vida en Stuttgart, la vida musical de la ciudad era rica y variada, influenciado por músicos de toda Europa, de modo que desde el principio de su vida Froberger se debe de haber expuesto a una amplia variedad de tradiciones musicales. Poco se conoce sin embargo sobre su educación real. Sus maestros incluyen posiblemente a Johann Ulrich Steigleder, y puede haber conocido a Samuel Scheidt durante la visita de este último a Stuttgart en 1627; es posible que Froberger cantara en la capilla de la corte, pero no hay ninguna evidencia directa sobre esto; y los archivos de la corte indican que uno de los laudistas ingleses empleados por la corte, Andrew Borell, enseñó laúd a uno de los hijos de Basilius Froberger en 1621-22 - no se sabe si este hijo era Johann Jakob, pero en ese caso, explicaría su interés más tarde en la música francesa de laúd.

La biblioteca de música de Basilius Froberger probablemente también ayudó en la educación de Johann Jakob. Contenía más de cien volúmenes de música, incluso los trabajos de Josquin des Prez, Samuel Scheidt y Michael Praetorius, así como piezas de los menos conocidos Johann Staden, fundador de la escuela de Nuremberg, y Giovanni Valentini, el  entonces famoso Kappelmeister vienés que después le enseñó a Johann Caspar Kerll. La Hofkapelle de Stuttgart se disolvió en 1634 luego de la derrota de los protestantes en la Batalla de Nördlingen.

Manuscrito de la Cuarta Partita de Froberger

En 1637 Basilius Froberger, su esposa y una de sus hijas murieron a causa de la plaga. Johann Jakob y su hermano Isaac vendieron la biblioteca de música de su padre a la corte de Württemberg; el mismo año Johann Jakob se hizo organista de la corte de Viena, ayudando a Wolfgang Ebner. En junio se le concedió una licencia y un estipendio para ir a Roma a estudiar con Frescobaldi. Froberger pasó los tres años siguientes en Italia y, como muchos otros músicos que fueron a estudiar allí, al parecer se convirtió al catolicismo. Volvió a Viena en 1641 y sirvió como organista y músico de cámara hasta el otoño de 1645, cuando hizo un segundo viaje a Italia. Se pensó previamente que Froberger fue a estudiar con Giacomo Carissimi, pero recientes investigaciones muestran  que probablemente estudió con Athanasius Kircher en Roma. En ese caso, la intención de Froberger debe haber sido adquirir dominio de composición vocal de la prima pratica (Frescobaldi, que le enseñó escritura instrumental  murió en 1643). Algún día durante 1648-49 Froberger podría haber conocido a Johann Kaspar Kerll, quien posiblemente fue su alumno.

En 1649 Froberger regresó a Austria. En su viaje de regreso se detuvo en Florencia y Mantua para mostrar a algunos de los príncipes italianos el arca musurgica, un poderoso dispositivo composicional que Kircher le enseñó. En septiembre llegó a Viena y demostró el arca musurgica al Emperador Ferdinand III, un ávido músico aficionado; también le presentó el Libro Secondo, una colección de sus propias composiciones (el Libro Primo está perdido). También en septiembre, Froberger tocó ante William Swann, un diplomático inglés. A través de Swann llegó a conocer a Constantijn Huygens, que se convirtió en su amigo de toda la vida y presentó al compositor las obras de los maestros franceses contemporáneos: Jacques Champion de Chambonnières, Denis Gaultier y Ennemond Gaultier.

Edición discográfica de obras de Johann Jakob Froberger

Luego de la muerte de la emperatriz María Leopoldine en agosto, las actividades musicales de la corte fueron suspendidas. Froberger dejó la ciudad y viajó ampliamente durante los siguientes cuatro años, probablemente confiado por el Emperador con algunos deberes extra-musicales en los campos de la diplomacia y posiblemente el espionaje (como por ejemplo John Dowland y Peter Paul Rubens hicieron durante sus viajes). No se sabe mucho sobre estos viajes. Dresden fue probablemente una de las primeras ciudades que Froberger visitó: tocó ante la corte electoral de Juan Jorge I y se presentó ante el Elector con una colección de sus obras. También conoció a Matthias Weckmann mientras estaba en Dresden, y este encuentro se convirtió en otra amistad de toda la vida; los dos continuaron intercambiando cartas y Froberger incluso le enviaba alguna de su música a Weckmann para ilustrar su estilo. Según un alumno, después de Dresden Froberger visitó Colonia, Düsseldorf, Zeeland, Brabant y Amberes; sabemos que también visitó Bruselas por lo menos dos veces (en 1650 y 1652), Londres y, lo más importante, París (por lo menos una vez, en 1652).

En París Froberger probablemente se reunió con muchos grandes compositores franceses de la era, incluyendo a Chambonnières, Louis Couperin, Denis Gaultier y posiblemente François Dufaut. Los dos últimos eran famosos laudistas que escribían en el lenguaje francés característico de estilo brisé que influyó en las posteriores suites de clavicordio de Froberger. A su vez, Louis Couperin fue profundamente influenciado por el estilo de Froberger; uno de sus preludios incluso lleva el subtítulo "à l'imitation de Mr. Froberger".

En 1653 Froberger atravesó Heidelberg, Nuremberg y Regensburg antes de volver a Viena en abril. Permaneció con la corte vienesa durante los cuatro años siguientes, produciendo por lo menos una colección más de música, el Libro Quarto de 1656 (Libro Terzo está perdido). Al parecer Froberger se entristeció profundamente por la muerte del Emperador Ferdinand III el 2 de abril de 1657 y escribió un lamento dedicado a la memoria del Emperador. Su relación con el sucesor de Ferdinand, Leopold I, era tirante por varias razones políticas. Froberger dedicó, sin embargo, un nuevo volumen de sus trabajos a Leopold, y el 30 de junio de 1657 recibió su último sueldo como miembro de la capilla imperial.

De ahí en adelante vive retirado en el castillo de Héricourt, en Francia, como maestro de la princesa Sybilla de Wurtemberg-Montbéliard, donde muere de un ataque de apoplejía el 7 de mayo de 1667.

Su obra está cimentada en las composiciones para teclado, sobre todo suites y tocatas, que se ejecutan indistintamente al clave y al órgano, aunque se prefiere su interpretación con el primero de estos instrumentos. Froberger es el primer gran músico alemán que asimila tanto la escuela francesa como la italiana y desarrolla estos estilos llevándolos a un lenguaje muy personal, flexible y rico en matices. Su producción musical hoy conocida comprende casi exclusivamente música para teclado, indistintamente para órgano o clave.

Estaba entre los compositores más famosos de la época e influyó prácticamente en todos los grandes compositores de Europa desarrollando el género de suite para teclado y contribuyendo grandemente al intercambio de tradiciones musicales a través de sus muchos viajes. Sólo dos de las muchas composiciones de Froberger se publicaron durante su vida, pero su música fue ampliamente difundida en copias manuscritas y fue uno de los muy pocos compositores del siglo XVII nunca olvidados completamente.