En 1706 estaba al servicio del Conde Karl III Philip del Palatinado, que por aquel entonces residía en Breslau. Entre 1710 y 1714 estuvo en Roma bajo la protección del príncipe polaco Aleksander Benedykt Sobieski, hijo de Juan III Sobieski. Allí entró en contacto con Alessandro Scarlatti y su hijo Domenico Scarlatti que estaban al servicio de la madre del Príncipe Aleksander, la reina en el exilio María Casimira.

Grabado de Sylvius Leopold Weiss por Bartolomeo Foli - 1766

El 23 de agosto de 1718 fue nombrado músico de cámara del Príncipe Elector de Sajonia Augusto. Allí permaneció gozando de una buena situación económica y profesional hasta su muerte.

Este puesto le dio la oportunidad de contactar con algunos de los mejores músicos de la época, entre ellos Juan Sebastián Bach, con quien interpretó obras de forma conjunta y llegó a gozar de gran amistad. También le obligaba a frecuentes viajes, como el que realizó entre finales de 1718 y principos de 1719 junto con otros doce músicos de la corte a Viena con motivo de la boda del Elector de Sajonia.

Edición discográfica de obras para laúd de Leopold Weiss

Fue uno de los más importantes y prolíficos compositores para laúd de la historia de la música, y destacó también por su técnica de interpretación. Escribió unas 600 piezas para laúd, la mayoría de ellas sonatas (no confundir con la forma sonata del periodo clásico), así como música de cámara y conciertos de los que solo conocemos hoy las partes solistas.

Parece ser que mostró poco interés en publicar sus obras. Al igual que otros virtuosos, como Paganini, las utilizaba probablemente para un uso personal exclusivo.

En los últimos años de su vida Weiss se hizo amigo de Wilhelm Friedemann Bach y conoció a Johann Sebastian Bach a través de él. Se dice que  J.S.Bach y Weiss compitieron en improvisación. Luego de su muerte su hijo Johann Adolph Faustinus Weiss lo sucedió como laudista de la corte de Sajonia.

Recientemente se ha identificado la Suite para violin y clavicordio en La Mayor BWV 1025 de Johann Sebastian Bach como un arreglo de una de las sonatas para laúd de Weiss.