Fue al Vossius Gymnasium en Amsterdam y luego estudió física de 1945 a 1952 en la Universidad de Amsterdam .
En 1947, el Mathematisch Centrum holandés (que luego se convirtió en Centrum Wiskunde & Informatica ) le pidió que colaborara en la construcción de una calculadora automática con su amigo y compañero de estudios Bram Loopstra . Su primer sistema, el ARRA I no fue un éxito, pero su sucesor, el ARRA II , en el que también colaboró Gerrit Blaauw , sí lo fue.
En 1954 comenzó a trabajar en ARMAC , que construyó junto con Loopstra y Edsger Dijkstra , quien fue responsable del software y colaboró con Scholten durante más de 30 años. El ARMAC fue notable por su uso de transistores .
En 1958, Scholten comenzó a trabajar para Electrologica (más tarde Philips Electrologica), donde desarrolló la computadora Electrologica X1 con Loopstra; hasta 1964 se instalaron 40 modelos, principalmente en universidades. Permaneció en Philips Electrologica hasta 1979, cuando se cambió a Philips Natuurkundig Laboratorium , donde permaneció hasta 1985.