Men hans innsatser som politiker veier lett når man ser hva han avstedkom som diplomat. Han hadde stor betydning når det gjaldt forbindelsene med Storbritannia og senere også med Frankrike. I 1754 ledet han Pennsylvanias delegasjon ved Albanykongressen. Dette møte mellom flere av koloniene hadde blitt krevet av et kommerskollegium i England for å forbedre relasjonene mellom indianerne og å organisere forsvaret mot Frankrike. Franklin foreslo at koloniene skulle danne en union. Dette forslag ble ikke vedtatt, men deler av det ble innforlivet senere med den amerikanske konstitusjonen.