Ourry era el hijo mayor de Paul Henry Ourry y su esposa Charity Treby, hija de George Treby y nació el 6 de noviembre de 1758. Probablemente se educó en el Eton College de 1771 a 1774 y se matriculó en Christ Church, Oxford en 1775. [1 ]
Ourry fue devuelto como miembro del parlamento por Plympton Erle en las elecciones generales de 1784 . Renunció a su escaño en agosto seis meses después. [1]
Ourry se casó con Laetitia Anne Trelawny, hija de Sir William Trelawny, sexto baronet el 14 de junio de 1785. También cambió su nombre por escritura pública a Treby en 1785. [1]