Mailman nació en Utica, Nueva York , hijo de inmigrantes judíos y asistió a la Universidad de Syracuse . Junto con su hermano Abraham Mailman, Joseph fundó Utica Knife and Razor Company en 1920, que más tarde se incorporó a Mailman Corporation y fue uno de los primeros conglomerados que se formó. Él y su hermano fundaron la Persona Blade Company en 1928, la British Rubber Company en 1934 y fue presidente de Air Express International.
Además de su exitosa carrera empresarial, se dedicó a numerosas actividades filantrópicas, especialmente a causas relacionadas con la salud y la educación. Fue uno de los principales recaudadores de fondos de la Federación de Filantropías Judías . También ayudó a las familias a escapar de los horrores de la Alemania nazi. Con su hermano, estableció la Fundación Mailman en 1943, que continúa con su trabajo caritativo. En reconocimiento a una donación de 33 millones de dólares de la fundación, la Escuela de Salud Pública de la Universidad de Columbia fue nombrada Escuela de Salud Pública Mailman de la Universidad de Columbia en su honor. [2]