Nada cierto se sabe sobre su educación musical, aunque puede haber estudiado con Franz Tunder (1614-1667), organista de la Iglesia de Santa Maria, Lübeck, o con su propio tío Matthias Weckmann (c.1616-1674), organista de la Iglesia de St Jacob, Hamburgo. Llegó a ser organista de la  Jacobi-und Georgikirche, Hannover, en 1667, sucediendo a Melchior Schildt. En 1685 asumió como organista de la Petrikirche, Hamburgo, donde consiguió conocer a Johann Adam Reincken y se casó con su única hija, Margaretha-María en 1686. El yerno de Kneller Johann Jacob Hencke se hizo su ayudante en 1717, y lo sucedió en 1723.

Kneller fue muy respetado como músico, y le pidieron a menudo que probara nuevos órganos y organistas; estaba entre los que examinaron a candidatos para el puesto de organista de la Jacobikirche, Hamburgo, en 1720, un puesto en el que Johann Sebastian Bach había mostrado interés inicialmente. Desde 1723 recibió una pensión.

Sus composiciones supervivientes consisten en unas obras para órgano, típicas de la forma de toccata barroca alemana del norte: pasajes libres que alternan con secciones de fuga; este estilo era descrito por Athanasius Kircher (1601-1680) como 'una forma libre de composición, no sujeta a ninguna limitación' y es por lo tanto una especie de stylus phantasticus. Éstos son preludios y fugas en Re menor, Sol Mayor y Fa menor, originalmente escritos en tablatura, en la iglesia de Mylau, Sajonia. Tres otros fragmentos de preludios también sobreviven.

Dos obras extensas, un preludio y fuga y un praeludium (ambos incompletos), firmados ‘A. Kn.' y ‘A.K.' respectivamente, probablemente son suyas. También escribió un partita con ocho variaciones sobre "Nun komm der Heiden Heiland" (Ven ahora, salvador de paganos), la cuarta y quinta de las cuales aparecen dos veces en otro manuscrito. Un "Te Deum" para órgano  en otra fuente a veces se ha atribuido a Kneller, pero el manuscrito se compiló entre 1657 y 1663 y es así casi seguro demasiado antiguo para ser suyo, pues aún era un niño. Se atribuye a ‘A. Kniller ', y Apel creía que era la única obra conocida de un Anton Kniller.