Na architekturę sieci może składać się wiele różnych rzeczy. W niektórych przypadkach odnosi się do planowania, specyfikacji i rozmieszczenia fizycznych części systemu sieciowego, takiego jak sieć telefoniczna lub komputerowa. Inne zastosowania odnoszą się tylko do rzeczywistych fizycznych części tych systemów. Gdy sieć będzie używana przez dostawcę usług, architektura może zawierać również informacje o użytkowaniu i rozliczeniach. Wreszcie termin ten jest czasami używany do opisania specyfiki pojedynczej sieci, takiej jak liczba komputerów i możliwości łączności bezprzewodowej.
Pierwotne użycie terminu „architektura sieciowa” umieszczało go w szczególności w fazie planowania projektu. Chociaż plany te miały związek z obiektami fizycznymi, termin nie. Kiedy zaplanowano sieć połączonych urządzeń, takich jak telefony i komputery, powstał schemat architektury sieci. Rzeczywiste plany były na ogół bardzo proste; byłyby bardziej wskazówką niż cokolwiek innego.
Z czasem schemat architektury sieci zaczął zawierać dodatkowe materiały związane z siecią. Poszczególnym obiektom fizycznym przypisano pozycje na podstawie planu. Ponadto określone zostaną również pewne specyfikacje wewnętrzne. W końcu architektura zaczęła bardziej przypominać plan niż podstawowy układ.
W tym momencie termin zaczął mieć bardziej fizyczne znaczenie. Dostawcy usług zaczęli używać planów architektury sieci do wielu różnych rzeczy. Ułożyliby swoją fizyczną sieć na podstawie planu architektury sieci. Wykorzystaliby plan do zlokalizowania wąskich gardeł w swoim systemie, a także do określenia stawek i wykorzystania populacji.
To wtedy termin całkowicie przeszedł na fizyczny. Kiedy budynki są okablowane kanałami sieciowymi, zarówno plan utworzenia sieci, jak i sama sieć fizyczna będą nazywane architekturą sieciową. Proces, w którym firmy internetowe, konwencjonalne i komórkowe przesyłają informacje, również używa tego terminu. Tak szerokie użycie jednego terminu może powodować zamieszanie, zwłaszcza w przypadku nakładania się tych systemów.
Ostatnim głównym obszarem, w którym używa się tego terminu, jest opis specyfiki poszczególnych sieci. Obejmują one takie obszary, jak liczba komputerów w systemie oraz to, czy są one bezprzewodowe, czy przewodowe. Termin ten może również odnosić się do sieci wykorzystującej tylko sprzęt konkretnej firmy, taki jak Cisco® Network Architecture. W tym przypadku oznaczałoby to nie tylko, że system korzysta tylko z produktów Cisco®, ale także przestrzega ich określonych protokołów sieciowych.