Dois fatores restringem o tamanho dos segmentos. Primeiro, cada um, incluindo o cabeçalho do TCP deve caber na carga útil do IP. Segundo, cada enlace tem uma unidade máxima de empacotamento ou MPU (maximum packing unit).

Entidades transmissoras e receptoras do TCP trocam dados na forma de segmentos.

Um segmento TCP consiste em um cabeçalho fixo de 20 bytes (além de uma parte opcional), seguidos por zero ou mais bytes de dados.

Um dos aspectos fundamentais do TCP, que domina o projeto do protocolo, é que cada byte em uma conexão TCP tem seu próprio número de sequência de 32 bits.