"I'm with You" foi enviada às rádios dos Estados Unidos em 18 de novembro de 2002, servindo como o terceiro "single" de "Let Go". Em termos musicais, trata-se de uma balada derivada de pop rock que incorpora elementos da música country. Liricamente, é sobre o sentimento de se sentir solitário ao ponto de estar disposto a encontrar alguém desconhecido para superar a solidão. Em geral, a obra recebeu elogios de críticos musicais, os quais a reconheceram como um dos destaques da carreira de Avril. Na 46.ª cerimônia anual do Grammy Awards, foi indicada para Canção do Ano e Melhor Performance Feminina Pop. No campo comercial, alcançou um desempenho positivo, repetindo o sucesso dos "singles" anteriores: ficou entre as cinco primeiras colocações nos Estados Unidos, Irlanda, Itália, Japão e Nova Zelândia. No Brasil, segundo a Associação Brasileira dos Produtores de Discos (ABPD), "I'm with You" foi a vigésima faixa mais tocada em rádios do país em 2003 e a única obra de um artista estrangeiro a entrar na listagem.