Se casó y tuvo seis hijos por lo menos. Existe un volumen de música para teclado y sonatas de violín al parecer de su mano, que contiene música de Haendel, Babell, Pepusch, Corelli y una copia de las Eight Suits of Lessons de Thomas Roseingrave (Londres, 1728). Gibbs parece haber vivido en Colchester hasta que se hizo organista de Dedham aproximadamente en 1744, y regularmente promovió conciertos en el área. Fue nombrado organista de St Mary-le-Tower en Ipswich en 1748, y el año siguiente la junta parroquial de la iglesia de allí se aseguraron que viniera desde Dedham ofreciendo subir su sueldo a £12 anuales ‘si viene a residir en el pueblo'; sin embargo continuó jugando un papel prominente en la vida musical de toda la región

Edición discográfica con "Sonatas" de Joseph Gibbs

Era amigo de Thomas Gainsborough que pintó su retrato, y ambos fueron miembros de la Ipswich Musical Society; un bosquejo  perdido de Gainsborough de una de sus reuniones al parecer lo mostraba entre el público, dormido. Según su anuncio de muerte en The Gentleman's Magazine, era ‘sumamente distinguido como compositor e intérprete', y ‘la suavidad, simplicidad e integridad de sus modales lo hicieron universalmente querido y respetado'. Tuvo un entierro cívico en St Mary-le-Tower el 18 de diciembre de 1788. Sus bienes, incluyendo música, instrumentos y dos pinturas de Gainsborough, se vendieron en Ipswich el 21 de marzo y el 27 de junio de 1789.

Gibbs es más conocido por sus Ocho Solos para Violín con un Contrapunto para clavicordio o violonchelo (Op 1; Londres, 1746), publicados por el autor con una lista de subscripciones que incluyeron a William Boyce y Maurice Greene así como muchas figuras musicales locales. Son inventivos, perfectos y a menudo técnicamente obras exigentes en un lenguaje fuertemente influenciado por Geminiani y M. C. Festing. Por contraste, sus Seis Quartettos para Dos Violines, un Tenor y Violoncelo o Clavicordio (Op 2; Londres, 1777) son a menudo torpes y aparentemente incompetentes, aunque es difícil decir si los solecismos son resultado de la vejez, corrección descuidada o un intento chapucero por modernizar algunas sonatas trío existentes. Sus ocho sonatas para violín publicadas en 1748 fueron dedicadas al banquero de Londres Sir Joseph Hankey, un hombre que era buen amigo del compositor Michael Festing. Esto indica casi con seguridad que Gibbs conoció, y posiblemente fue influenciado por Festing.