Nacido en Kirkconnel , Dumfries y Galloway , Escocia , el sexto y el más joven hijo de James Anderson un cantero . Cuando tenía tres años, la familia se mudó a Crocketford en Kirkcudbrightshire . Asistió a la escuela local donde el maestro encontró que tenía una habilidad promedio. El área alrededor de Crocketford fue famosa por el martirio y Anderson parece haberse inspirado en sus paseos por las colinas en su poesía posterior. A los 16 estaba de regreso en su pueblo natal trabajando en una cantera; unos dos años más tarde (1862), se convirtió en un superviviente o plastista en el ferrocarril de Glasgow y el suroeste, y generalmente escribía con el nombre de Surfaceman .
Dedicó todo su tiempo libre a la cultura propia y dominó el alemán , el francés y el español lo suficiente como para leer las principales obras maestras en estos idiomas. Su vena poética, que era cierta aunque algo limitada en alcance, pronto se manifestó, y en 1870 comenzó a enviar versos al 'People's Friend' de Dundee, y posteriormente su primer libro 'A Song of Labor and other Poems', fue publicado en 1873 por el Dundee Advertiser en una tirada de 1000. Gracias al apoyo de The People's Friend, este número se agotó en quince días. También contó con el apoyo del reverendo George Gilfillan., crítico de poesía en Dundee. Gilfillan le escribió a Thomas Aird: "Te interesará mucho su manera y apariencia sencillas; un Burns intacto es en estos aspectos y no sin un poco de verdadero mens divinor . Por supuesto que conoces su poesía y su notable historia". y siguieron Two Angels (1875), Songs of the Rail (1878) y Ballads and Sonetos (1879). Al año siguiente fue nombrado asistente de bibliotecario en la Universidad de Edimburgo y, después de un intervalo como secretario de la Institución Filosófica de allí, regresó como Bibliotecario Jefe de la Universidad. A partir de entonces escribió poco. De carácter sencillo y amable, hizo muchos amigos, incluido elDuque de Argyll , Thomas Carlyle y Lord Houghton .