Puede haber sido alumno de Palestrina, aunque esto no se sostuvo hasta 1685. Su carrera en Roma está documentada desde 1583 hasta su muerte. Desde el 8 de agosto de 1583 hasta febrero de 1591 fue maestro di cappella de San Luigi dei Francesi. Él y Marenzio compusieron intermedi para la comedia de Cristoforo Castelletti "Le stravaganze d'Amore", realizada en el palacio de Giacomo Boncompagni, Duque de Sora, en marzo de 1585. Por un periodo desconocido que empezó en 1587 dirigió la música del Collegio Inglese en una base de jornada incompleta.

Desde 1591 (probablemente el 1 de abril) hasta el 12 de marzo de 1594 sirvió como maestro di cappella en el Collegio Germanico. Fue miembro de la Virtuosa Compagnia dei Musici di Roma que se fundó oficialmente en 1585. Estaba a cargo de la música para el Oratorio di SS Trinità dei Pellegrini en 1589, y en algún momento fue también maestro di cappella de la capilla privada del Duque Giovanni Angelo Altaemps. El 12 de marzo de 1594 sucedió a Palestrina como maestro di cappella de la Cappella Giulia en  San Pietro

Edición discográfica con una obra de Ruggiero Giovannelli

Recibió las órdenes sagradas el 24 de noviembre de 1595. El 7 de abril de 1599 se hizo cantante de la Cappella Sistina, y tres días después renunció a su puesto anterior en la Cappella Giulia. Desde 1598 a 1605 estuvo frecuentemente ausente de la capilla para servir a su patrón el cardenal Pietro Aldobrandini, a quien acompañó a Ferrara entre 1598 y 1599. En 1600 dirigió la música en la iglesia de Aldobrandini, San Nicola in Carcere. Sirvió como puntatore (secretario) de la Cappella Sistina en 1607, como camarlengo (tesorero) de 1610 a 1613, y como maestro di cappella en 1614. Aunque no fue reelegido a esta posición en 1615, completó el término de su sucesor, Paolo Facconio, que murió en el cargo ese año. Se retiró el 7 de abril de 1624. Sus obras lograron gran popularidad y frecuentemente se reimprimieron, tanto en Italia como afuera. 

Los madrigales de Giovannelli generalmente son menos serios y más influenciados por el estilo de la canzonetta que los de Luca Marenzio. Los poetas a cuyas obras puso música más frecuentemente son Tasso, Guarini y Sannazaro. Los primeros dos libros de madrigales para cinco voces se caracterizan por textos festivos, texturas claras, tessituras altas, motivos imitativos cortos y distintivos, acentos fuertes y frecuentes repeticiones seccionales. Los últimos madrigales para cinco son influenciados por el madrigal ferrarés de los años 1590. Son más cortos, menos simétricos, y menos dependientes de la fórmula del estilo canzonetta. Los dos libros de madrigales de cuatro voces contienen piezas de un tipo diferente. Salvo el cuasi-dramático "Caccia del lup" al final del segundo libro, los textos son todos de Arcadia de Sannazaro, principalmente los sdruccioli (líneas que acaban con dos sílabas no acentuadas). Giovannelli también escribió villanellas, canzonettas (seglares y espirituales) y laude en los estilos populares de su tiempo. 

Entre sus obras sacras, los más conservadores son los motetes para cinco voces; están escritos en el estilo de Palestrina, aunque hacen menos uso que este del canto como una fuente de material melódico y su lenguaje armónico es más moderno. Están principalmente en modos menores. Los motetes y misas para ocho y 12 voces, que constituyen más de la mitad de la música sacra de Giovannelli son de estilo más moderno. Giovannelli también escribió un número pequeño de piezas en el estilo moderno, incluyendo cinco motetes para dos o tres voces con bajo continuo y varias obras policorales con voces solas concertantes.