Inició su formación en Karlsruhe en 1874, trasladándose a Berlín al año siguiente, siendo discípulo de Gussow y de
Böcklin. Su interés se centró en un primer momento en los grabados, publicando un total de trece series, siendo de gran interés para
De Chirico y los
surrealistas.
Su vinculación a la pintura surgió en 1882 cuando recibió el encargo de decorar la Villa Albers en Steglitz. Al año siguiente se trasladó a París para interesarse por las obras de
Puvis de Chavannes,
Goya y Gustavo Doré. En 1886 se trasladó a Roma donde empezó a interesarse por la escultura, sintiéndose atraído por el idealismo de Rodin para pasar al realismo de sus obras más conocidas, entre ellas el monumento a Beethoven que se exhibió en la exposición de la
Secession de Viena en 1902, donde
Klimt presentó su
Friso Beethoven. Klinger se estableció definitivamente en Grossjena, en las cercanías de Naumberg, donde falleció. Sus obras interesaron especialmente a
simbolistas y decadentes.