Oppenheim es el hijo de Juda Oppenheim (1824–1891), el rabino de la comunidad de la sinagoga de Warburg, y su esposa, Cäcilie, de soltera Steeg (1822–1898).
Estudió medicina en las universidades de Berlín , Gotinga y Bonn . Inició su carrera en la Charité- Hospital de Berlín como asistente de Karl Westphal (1833-1890). En 1891, Oppenheim abrió un exitoso hospital privado en Berlín.
En 1894, Oppenheim fue autor de un libro de texto sobre enfermedades nerviosas titulado Lehrbuch der Nervenkrankheiten für Ärzte und Studierende , un libro que pronto se convirtió en un estándar en su profesión. Se publicó en varias ediciones e idiomas, y se considera uno de los mejores libros de texto sobre neurología jamás escrito. También publicó importantes trabajos sobre tabes dorsalis , alcoholismo , poliomielitis anterior , sífilis , esclerosis múltiple y neurosis traumática . En el campo de la fisiología , publicó artículos sobre el metabolismo de la urea con la ayuda deNathan Zuntz (1847-1920).
En 1889 publicó un tratado sobre neurosis traumáticas que fue duramente criticado por eminentes médicos que incluían a Jean-Martin Charcot (1825-1893) y Max Nonne (1861-1959); la razón se debe a la afirmación de Oppenheim de que el trauma psicológico provocó cambios orgánicos que perpetuaron las neurosis psíquicas.
Su experiencia en enfermedades cerebrales condujo directamente a la primera extirpación exitosa de un tumor cerebral , una operación que fue realizada por un médico llamado R. Köhler. Con el cirujano Fedor Krause (1857-1937), informó sobre la primera extirpación exitosa de un tumor pineal .
Acuñó el término " distonía musculorum deformans " para un tipo de enfermedad de torsión infantil que describió, un trastorno que más tarde se conocería como "síndrome de Ziehen-Oppenheim" (nombrado junto con el psiquiatra alemán Theodor Ziehen 1862-1950). Además, otro nombre para la amiotonía congénita es "enfermedad de Oppenheim".