Tomlinson studerte ved Broadalbin Central School i nærheten Broadalbin i New York. Senere begynte han ved Rensselaer Polytechnic Institute i Troy i New York hvor han deltok i et program med IBM. Tomlinson ble tildelt en bachelor of science-grad i elektroteknikk fra Rensselaer Polytechnic Institute i 1963. Etter endt eksamen fra RPI, begynte Tomlinson ved Massachusetts Institute of Technology for å fortsette med utdannelsen til å bli ingeniør.