A los 24 años, Guillemain estaba trabajando en Lyon, donde se estableció rápidamente como uno de los intérpretes más solicitados. En 1729 fue nombrado primer violinista de la Acadèmie de Musique de Lyon. Su opus 1, "Primer libro de sonatas para violín y bajo continuo", se publicó en Dijon en 1734.

Guillemain regresó más tarde a París, donde, en 1737, se convirtió en ‘musicien ordinaire’ del Rey. Su carrera progresó rápidamente, y a comienzos de los años 1740 el compositor estaba entre los músicos mejor pagados de la corte y tocaba regularmente en conciertos privados ante la pareja real. Continuó publicando su música, y sus obras se interpretaron frecuentemente en la corte entre los años 1740 y 1750.

El colega compositor Louis-Claude Daquin alabó a Guillemain en su 'Lettre sur les hommes célèbres' de 1752: “Cuando se habla de un hombre lleno de fuego, genio y vida, hay que pensar en Monsieur Guillemain, músico del rey; es quizás el violinista más extraordinario y diestro que uno puede oír tocar. No hay ninguna dificultad que pueda desafiarlo y puede componer piezas eruditas que a veces avergüenzan a sus rivales. Entre los grandes maestros, este celebrado artista es uno de los más productivos. Sus obras están llenas de belleza conmovedora.”

Sin embargo, la vida privada de Guillemain fue problemática. Era al parecer un gran bebedor, sobre todo en sus últimos años, y también estaba continuamente endeudado debido a su afición por hacer compras caras. Murió en Chaville, entonces una pequeña localidad cerca de París, en 1770; algunos relatos de la época describen su muerte como un suicidio sangriento, con el compositor apuñalándose catorce veces con un cuchillo.  Sin embargo, el hábito de la bebida y el hecho de que Guillemain fue enterrado, pueden indicar que murió de muerte natural.