A una edad temprana fue nombrado organista en la iglesia de Santo Spirito en Sassia, donde permaneció durante tres años, desde 1688 a 1690. En 1692 obtuvo la misma posición en la iglesia de Santa Maria in Vallicella. Estos fueron los años en los que principalmente se dedicó a la composición de oratorios realizados en Roma, Florencia, Módena y en la Capilla Imperial de Viena. En 1700 publicó en Roma "Cantate da cammera a voce sola, Op. 1". El mismo año fue nombrado organista de la iglesia de Gesù, mientras que en 1705 se encontraba como cantante en la iglesia de San Marcelo.

Edición discográfica del Oratorio "La forza del divino amore" de Tomasso Bernardo Gaffi

Sus intereses, además de la composición y la ejecución del órgano, incluían también el campo de la teoría musical. Gaffi manifestó este aspecto de su actividad en 1720, cuando codificó su experiencia de instrumentista en el libro "Regole per sonare con la parte". No deja de sorprender que su música que ha llegado hasta nosotros no comprenda composiciones para órgano. Aunque no muy abundante, esta incluye, además de los oratorios, doce sonatas de cámara para voz solista y bajo continuo, así como arias y canciones. En este sentido hay que añadir que el foco de la actividad de un organista giraba en ese tiempo en torno a la composición organística.

Su reputación como organista fue finalmente confirmada al ser nombrado para suceder a Pasquini en Santa María Maggiore y, cuando este último murió el 22 de noviembre de 1710, cinco días después fue designado su sucesor en Santa María in Aracoeli con nombramiento de por vida; desde el 26 de marzo de 1739 hasta su muerte ocupó este puesto juntamente con Costantino Pieri. Ambos disfrutaban de una denominada 'regalia del sale', que ascendía a 225 escudos, mientras que Gaffi recibía un sueldo anual de 71,25 escudos. Junto con Giuseppe Ottavio Pitoni, fue maestro de Girolamo Michelangiolo Chiti. También era un excelente clavicordista y poseía muchos clavicordios muy valiosos  en el momento de su muerte. Había formado parte de la 'Arciconfraternita delle Ss. Stimmate' y fue enterrado en la iglesia homónima.

Gaffi escribió por lo menos siete oratorios que fueron bastante populares y se interpretaron en Florencia, Módena y Viena, así como en Roma. La 12 cantatas de cámara Op 1 están entre las muy pocas de tales obras en ser publicadas. Son similares a las cantatas publicadas de Francesco Gasparini, conteniendo varias arias con instrumentos obbligato, algo común en las obras dramáticas pero excepcional en las cantatas. Ambos compositores permitieron que las partes obbligato se tocaran en el clavicordio –un uso sin precedentes de este instrumento en cualquier tipo de música de cámara. El breve tratado "Regole per sonare con la parte" trata principalmente sobre teoría básica. Es principalmente interesante por su inusual clasificación detallada de las cadencias según el movimiento del bajo.