Halpern asistió a la Escuela Hackley en Tarrytown, Nueva York hasta 1963 y obtuvo una licenciatura en la Escuela Wharton de la Universidad de Pensilvania en 1967. Obtuvo su Doctorado en Jurisprudencia en la Facultad de Derecho de la Universidad de Pensilvania en 1972, seguido de un LL.M. en Tributación de la Facultad de Derecho de la Universidad de Nueva York en 1975, obtenido mientras trabajaba como asociado en el bufete de abogados de Mudge, Rose, Guthrie y Alexander en la ciudad de Nueva York .
Enseñó derecho en la Universidad de Washington and Lee, la Universidad de St. John y la Universidad de Nueva York hasta 1979, luego regresó brevemente a la práctica privada con Roberts y Holland en la ciudad de Nueva York antes de unirse al personal legal del Servicio de Impuestos Internos de 1980 a 1983.
Fue socio de Baker Hostetler en Washington, DC de 1983 a 1990, mientras también enseñaba de forma limitada en la Universidad George Washington .
Halpern fue designado por el presidente George HW Bush como juez del Tribunal Fiscal de los Estados Unidos el 3 de julio de 1990 para un mandato que finaliza el 2 de julio de 2005 y fue reelegido por George W. Bush el 2 de noviembre de 2005 para un mandato que finaliza 1 de noviembre de 2020. Se jubiló el 16 de octubre de 2015, pero continúa desempeñando funciones judiciales como Juez Superior en retiro.
Halpern está casado con la ex presidenta interina de la Comisión de Seguridad de Productos del Consumidor , Nancy Nord . Tiene un hijo y una hija.