Na Alemanha durante o século XIX existiam três variedades de cães de pastoreio na região da Suábia, Turíngia e Württemberg, respectivamente. Segundo relatos, estes cães seriam híbridos de lobos com cães trazidos a estas regiões. Especula-se ainda um possível parentesco com a raça Pastor-da-boêmia, que é bastante antiga, mas não há fatos que comprovem esta relação.Ao final do século XIX teve início, ainda que sutil, um movimento pela padronização dos cães alemães com a fundação da Phylax Society em 1891, que reuniu também as variedades de cães pastores com este mesmo fim. Porém a associação não teve sucesso, sendo dissolvida apenas três anos depois devido à discordância entre os criadores, já que alguns acreditavam que os cães deveriam ser selecionados pela funcionalidade, e outros acreditavam que deveria ser pela morfologia.Um ex-membro da Phylax Society, o ex-capitão da cavalaria alemã chamado Max von Stephanitz, também ex-estudante da Escola de Veterinária de Berlim, adquiriu um cão pastor da Turíngia chamado Hektor Linksrhein, que lhe cativou pelas ótimas habilidades para trabalho. Stephanitz mudou o nome de Hektor para Horand von Grafrath, e fundou em 1899 o clube do pastor alemão (Verein für Deutsche Schäferhunde) que existe até os dias de hoje. Horand von Grafrath foi o primeiro cão pastor alemão registrado e serviu como reprodutor principal e modelo para os cães pastores alemães. No início do século XX a raça começou sendo utilizada como cão policial e foi criado um teste conhecido como Schutzhund, para avaliar a qualidade dos cães para o serviço.Propagandeados como mensageiros, batedores e carregadores, os pastores alemães serviram ao exército alemão na Primeira Guerra Mundial, chamando a atenção dos exércitos inimigos, que levaram alguns exemplares consigo ao fim da guerra.
