Ali fue abogado y político en Pakistán y Bangladesh. Nació en Chandbhorang (subdivisión de Biswanath), Sylhet en 1914 de M Musson Ali y Korful Nessa. Ali era el hijo mediano de tres hermanos. Recibió su educación inicial en Chandbhorang y recibió su diploma de escuela secundaria con honores en 1932. En 1936, Ali recibió su título de Licenciado en Artes de MC College , Sylhet, y en 1940 su título de abogado ( LLB ) de la Universidad de Dhaka . El mismo año, Ali se unió al Colegio de Abogados de Sylhet como abogado y se convirtió en el primer abogado musulmán de la subdivisión de Biswanath. En 1949 fue nombrado abogado del Tribunal Superior de Dhaka.. El mismo año, Ali se convirtió en vicepresidente de la junta local y secretario de la rama de la Liga Musulmana de North Sylhet.
Después de la aprobación de la Resolución de Lahore hasta la creación de Pakistán, Ali se mantuvo muy activo en el Movimiento de Pakistán . En 1952, se convirtió en secretario de la rama de la Liga Musulmana del distrito de All Sylhet. En 1970, fue nombrado vicepresidente de la Liga Musulmana del Consejo de Todo Pakistán. Durante ese tiempo también se convirtió en el presidente interino del partido cuando renunció el presidente original, Mian Mumtaz Muhammad Khan Daultana.
En 1969, Ali se convirtió en Fiscal General (PP) y el mismo año también se convirtió en Secretario del Colegio de Abogados de Sylhet. En 1975-76 y 1985 fue elegido Presidente del Colegio de Abogados.
En 1976, cuando se restableció la Liga Musulmana en Bangladesh, Ali se convirtió en vicepresidente. Después de eso, se convirtió en el presidente de la Liga Musulmana dividida. En 1986, se convirtió en uno de los vicepresidentes del Partido Nacionalista de Bangladesh (BNP) y presidente de la sucursal del distrito de Sylhet.
En 1992, Ali recibió la medalla de oro de la Asociación de Abogados de Sylhet por haber cumplido 50 años como abogado.
Ali se casó con Khairunnessa Moni, la hija del magistrado de Sylhet, Ahmadullah y la hermana menor de Altaf Husain , periodista y editor desde hace mucho tiempo del prestigioso periódico paquistaní Dawn . Ali crió tres hijas y dos hijos. Todos sus hijos están bien establecidos en la vida.