同じセグメント内のホスト同士の通信では、そのLANで使われているプロトコルを使って通信する。そのためIPの各実装では、そのLANで使われているプロトコルから完全に独立することはできない。
まず、送信先となるIPアドレスを持つホストにデータリンク層のデータとして送信するために必要な情報を収集しなければならない。例えばイーサネットであれば、送信先のIPアドレスを持つホストのインターフェースが持っているMACアドレスが対象となる。そのためにブロードキャストもしくはマルチキャストによってその特定のIPアドレスを持つホストに返答を要求する。そのIPアドレスを持っているホストはそれに対してMACアドレスを返答する。
一般にブロードキャストは負荷が高くLAN内の通信を阻害するため、こうして得られたMACアドレスは今後同じIPアドレスに送信するときには再度ブロードキャストせずに、キャッシュに控えておく。
異なるセグメント同士の相互通信.
セグメントとセグメントの間、あるいはセグメントとWANの間にはルーティングを行なうための特別なホストであるルータ設置される。ルータにはあらかじめ、自身が繋がれているそれぞれのセグメントにいるホストのIPアドレスを教えてある。これはルーティングテーブルと呼ばれる。ルータは、一方のセグメントのホストから他方のセグメントのホストにパケットが送られようとしているとき、いったん受信側のホストの代わりにパケットを前者のLANのプロトコルで受け取る。ルーティングテーブルを参照してどのセグメントに送ればいいかを選択し、そのパケットを後者のLANのプロトコルで後者のホストに送る。ルータはルーティングテーブルにより、どのIPアドレスに送るにはどのセグメントに送ればよいかを把握している。経路の一部が破壊されても、このルーティングテーブルを書き換えるだけで破壊箇所を迂回することが可能になる。
ルータと似ているが、ルーティングテーブルを持たず、異なるLANのプロトコルを変換して互いに中継するブリッジと呼ばれるものがある。しかしブリッジはIPより下位の層（OSI参照モデルのデータリンク層）の機器であり、IPとは関係なく動作する。