Na constituição do sistema, deve-se implantar uma arquitetura com base no ponto de referência do regime de colaboração entre a União, os estados, o Distrito Federal e os municípios, conforme disposto na Constituição Federal, efetuando repartição de responsabilidades entre os entes federativos.

O sistema deve ser um conjunto unificado que articula todos os aspectos da educação no país inteiro, com normas comuns válidas para todo o território nacional e com procedimentos também comuns para assegurar educação com o mesmo padrão de qualidade a toda a população.

A instância normativa e deliberativa do sistema deverá ser exercida por um órgão determinado, uma instância que exerce funções correspondentes ao legislativo e ao judiciário e que deverá gozar de autonomia financeira e administrativa, órgão que corresponde, hoje, ao Conselho Nacional de Educação.