Era hijo de Vito Cesare y Antonia Ricca Caballone. Estudió con Gaetano Veneziano y Giuliano Perugino en el Conservatorio napolitano di Santa María di Loreto. En 1716 se casó con Teresa Muscettola cuya hermana Antonia se casó con el violinista Francesco Barbella y fue la madre del virtuoso del violín Emanuele Barbella; según Burney, el violinista famoso aprendió primero contrapunto con Caballone. El único de los hijos de Caballone que lo siguió como músico fue Gaspare, quien más tarde reemplazó su apellido por ‘Gabellone'. La vida y obras de Michele son a veces confundidas con las de su hijo; además algunas fuentes equivocadamente aseguran que fue maestro de la cantante Faustina Bordoni (futura esposa del famoso Johann Adolf Hasse), quien en realidad estudió con Michelangelo Gasparini. 

No se sabe que Caballone haya ocupado algún puesto regular como profesor, y murió en la pobreza. Hacia el final de su vida se volvió novicio en la cofradía de la Congregazione dei Musici en Nápoles, y a su muerte los hermanos de allí sufragaron los gastos de su funeral y entierro. Éstos fueron a la escala de miembro pleno, probablemente una indicación de la consideración profesional en que era tenido.

Entre 1716 y 1717 Caballone fue contratado para el Teatro dei Fiorentini, Nápoles, por el empresario Salvatore Toro, y durante sus últimos treinta años Caballone escribió varias óperas cómicas para el teatro. La producción de "Ammore vò speranza" dio lugar allí en 1729 a un notorio escándalo: las dos damas principales, Rosa Albertini y Francesca Grieco, pelearon tan violentamente debido a rivalidad en la escena y en amores que Grieco tuvo que retirarse con lesiones, y el Virrey de Nápoles se vio obligado a intervenir. Poco después la Albertini fue asesinada por un joven llamado Giulio Lerro. La dama no tenía ningún pariente mientras que los de Lerro estaban en altas posiciones, y la corte despidió a Lerro con sólo una multa.

Además de una cantidad de música de iglesia Caballone escribió un manual de contrapunto que fue muy admirado por su claridad de exposición; logró amplia circulación en manuscrito, incluso hasta 1760.