Siemens hadde ikke råd til et teknisk studium, da han etter sine foreldres tidlige død måtte forsørge sine yngre søsken. Han ble artillerioffiser, men var også virksom som oppfinner. Han oppfant en ny og forbedret telegraf og grunnla i 1847 sammen med Johann Georg Halske firmaet Telegraphenanstalt von Siemens & Halske AG i Berlin. Dette ble senere giganten Siemens AG. Mellom 1852 og 1855 bygget de det russiske telegrafnettet.