Scherer gilt als einer der einflussreichsten Germanisten am Ende des 19. Jahrhunderts. Als einer der letzten vertrat er alle Hauptgebiete der Germanistik in Forschung und Lehre. Scherer gründete in Straßburg und Berlin germanistische Seminare und beschäftigte sich als einer der ersten Universitätsgermanisten mit neuerer deutscher Literatur. Die von ihm begründete Scherer-Schule war in der Wissenschaftsgeschichte lange Zeit als Hort des literaturwissenschaftlichen Positivismus umstritten. Er veröffentlichte u.a.: Jacob Grimm (1865); Leben Willirams Abtes von Ebersberg in Baiern (1866); Zur Geschichte der deutschen Sprache (1868); Deutsche Studien, Bd. I.: Spervogel, Bd. II.: Die Anfänge des Minnesanges (1870); Geistliche Poeten der deutschen Kaiserzeit. Studien (1874), Geschichte der deutschen Dichtung im elften und zwölften Jahrhundert (1875); Anfänge des deutschen Prosaromans und Jörg Wickram von Colmar (1875); Aus Goethes Frühzeit (1879); Geschichte der deutschen Litteratur (1883); Poetik (1888).