Constanzi fue probablemente discípulo de Giovanni Lorenzo Lulier. En 1721 entró al servicio del cardenal Pietro Ottoboni, primero como ayuda de cámara.  Ottoboni era uno de los grandes patrocinadores de su generación. En Roma vivía en el Palazzo della Cancelleria, donde apoyaba a Arcangelo Corelli, el mejor violinista de su generación, en sus conciertos nocturnos de los Lunes llamados "las academias" y donde Corelli fue presentado a Haendel. Entre otros protegidos de Ottoboni estaban  Antonio Vivaldi y Antonio Caldara.  A continuación, desde 1737, Costanzi  sucedió a Arcangelo Corelli, como capo d’istrumenti. Cuando la ópera se prohibió en Roma, las actuaciones se retiraron a la Cancelleria de Ottoboni.

Edición discográfica de obras de Giovanni Battista Costanzi

En 1722, Costanzi fue nombrado en el puesto de violoncellista en San Luigi dei Francesi en Roma.  En 1727 debutó como operista con “L’amor generoso” en el Teatro Capranica de Roma, pero su primer gran éxito lo obtuvo con su ópera “Carlo Magno” en 1729, año a partir del cual fue nombrado, gracias siempre a las recomendaciones del cardenal Ottoboni, maestro de Capilla en las iglesias romanas más importantes: en 1729 en San Luis de los Franceses, en 1743 en San Marcos y Santa Maria en Vallicella y finalmente en 1755 se convirtió en director de la Cappella Giulia, en San Pedro. Al mismo tiempo, tenía una óptima reputación como músico, siendo elogiado con diversos honores, incluyendo la presidencia de la Congregación de Santa Cecilia en Roma en 1740, 1754 y 1769. Entre sus alumnos se recuerda al famoso Luigi Boccherini, que estudió con él en 1757.

Costanzi fue uno de los compositores más prolíficos del siglo XVIII, pero sólo una pequeña parte de sus obras sobreviven actualmente. Hasta 1740 compuso música vocal secular principalmente y, a continuación se centró en la música sacra. Sin embargo, su género compositivo históricamente más importante fue la música instrumental, sus obras para violonchelo estructuralmente siguen el patrón de la sonata da chiesa, pero a veces los movimientos están más cerca del esquema de la sonata da camera. Como declaró el compositor francés André-Ernest-Modeste Grétry, fue en Roma en su época el compositor más admirado de música sacra.

Se le recuerda no sólo por su habilidad como intérprete en el violonchelo sino por la actividad de la composición, que le distinguió entre sus contemporáneos por la gran cantidad de su producción artística, pero lamentablemente sólo una parte de su producción se ha conservado.

En 1721 entró al servicio del famoso cardenal Pietro Ottoboni, uno de los miembros más influyentes y patrono de los Arcadianos y mecenas de autores como Haendel y Corelli. En 1722 ocupa el puesto de violonchelista en San Luigi dei Francesi en Roma, mientras que en 1740 se incorpora al séquito del cardenal Trojano Acquaviva d'Aragona. Sabemos que ocupó el cargo de maestro de varias capillas en la Ciudad Eterna: Nuestra Señora de Loreto, en 1742, y en San Marcos y Santa Maria in Vallicella en el año siguiente.
Muerto el cardenal Acquaviva en 1752, pasó al servicio del cardenal Albani. En 1754 fue nombrado coadjutor de Bencini en S. Pedro, tomando el puesto luego de su muerte, que ocurrió el año siguiente. En 1760 fue, tal vez, el director de coro en el Collegio Germanico.