Fue contratado como tenor empleado laico en la Capilla de St George, Windsor, en 1575. Se convirtió en Gentleman de la Capilla Real el 20 de agosto de 1598, y parece haber dejado Windsor alrededor de 1600. Cantó en la Capilla Real en el entierro de Elizabeth I, en la coronación de James I y en el entierro del Príncipe Henry. 

Baldwin fue el copista de varios importantes manuscritos de música. Conservó mucha música de iglesia inglesa de la pre reforma en partituras copiadas aproximadamente entre 1575 y 1581 con agregados posteriores (falta la parte del tenor). Su llamado "Commonplace Book", empezado aproximadamente  en 1586 y completado totalmente el 25 de julio de 1591 (con agregados después de 1606), contiene una amplia variedad de música.

Baldwin tuvo acceso a los "Madrigali a quattro, cinque e sei voci" de Luca Marenzio (1588) no más allá de 1591, instrumentando 13 obras de la colección; también copió varias secciones para tres voces de las antífonas de la pre-reforma así como la proporción compleja y ejercicios hexacordos, algunos de los cuales atribuyó al compositor del siglo XV Bedyngham y bien pueden ser auténticos. Baldwin completó "Mi Ladye Nevells Booke", una colección cuidadosamente arreglada de la música de teclado de Byrd, el 11 de septiembre de 1591, cuando era residente en Windsor y Byrd vivía en el cercano Harlington. El manuscrito probablemente fue copiado para Rachel, la esposa de Sir Edward Nevell, de Windsor en 1588-89; permanece en la familia Neville, en la colección del Marqués de Abergavenny. Baldwin también re-copió la sección final dañada de la Sexta  parte de las partituras de Forrest-Heyther y copió dos piezas en el libro de partituras de Robert Dow.

Las 23 composiciones de Baldwin son de calidad indiferente, aunque sus nueve ejercicios de proporción son de interés intelectual -uno presenta 28 signaturas proporcionales. Su consort music incluye dos "In Nomine" (uno canónico) y un "Browning", que presenta la melodía que empieza consecutivamente en Si, Fa, Do, Sol y Re (dos veces en canon). Su canción "In the merry month of May", fechado en 1591 en su "Commonplace Book", es probablemente ‘la canción agradable de Coridon y Phyllida, hecha en tres puntos de vista' para la visita de Elizabeth I al Conde de Hertford en Elvetham el 22 de septiembre de 1591.