Chociaż najpowszechniejszym typem pamięci komputera jest pamięć o dostępie swobodnym (RAM), istnieje wiele innych typów pamięci, których można używać w komputerze. Należą do nich pamięć podręczna, pamięć flash i przechowywanie plików. Architektura pamięci odnosi się do kombinacji różnych typów pamięci w celu zrównoważenia wydajności komputera bez obniżania niezawodności przechowywania lub obniżania kosztów komputera. Ogólnie rzecz biorąc, różne typy pamięci działają w hierarchii od szybkiej i drogiej do wolniejszej i mniej taniej. Architektura pamięci ma zapewnić, że komputer będzie miał mieszankę wszystkich typów pamięci, utrzymując sprzęt komputera tak zrównoważony i oszczędny, jak to tylko możliwe.
Pamięć różni się nie tylko pod względem kosztów i szybkości, ale także pod względem trwałości. Standardowa pamięć RAM w komputerze jest dynamiczną formą pamięci, co oznacza, że przechowuje informacje tylko tak długo, jak komputer jest włączony. Stanowi to oczywisty problem, jeśli chodzi o przechowywanie informacji na komputerze po cyklu wyłączania zasilania, ponieważ bez bardziej trwałej formy pamięci wszystkie informacje na komputerze zostałyby utracone w przypadku awarii zasilania. Pamięć do przechowywania plików w komputerze — najczęstszym tego przykładem jest dysk twardy — zapewnia stosunkowo powolną, ale stabilną metodę przechowywania informacji na komputerze po zamknięciu.
Rejestry procesora i pamięć podręczna są na ogół najszybsze i najdroższe. Dzięki umieszczeniu tego typu pamięci w układzie procesora fizycznego czas transferu i opóźnienie dla tego typu pamięci są niezwykle małe. Oznacza to, że informacje mogą przemieszczać się do i z tego typu pamięci w mgnieniu oka, dzięki czemu skutecznie przechowują informacje i zmienne, podczas gdy procesor aktywnie pracuje nad określonym problemem.
RAM jest na wyższym poziomie, zarówno tańszy, jak i wolniejszy niż rejestry procesora i pamięć podręczna. Jest on podłączony do procesora za pośrednictwem magistrali FSB, co oznacza, że opóźnienie wzrasta, a prędkość spada w porównaniu z rejestrem i pamięcią podręczną. Znacznie spada również koszt, dzięki czemu pamięć RAM jest najbardziej opłacalną formą dynamicznej pamięci masowej w architekturze pamięci.
Wreszcie, zarówno pamięć wirtualna, jak i lokalizacje przechowywania plików są zazwyczaj przechowywane na dysku twardym. Pamięć wirtualna to część dysku twardego, którą system operacyjny komputera traktuje jako pamięć RAM. Setki i setki gigabajtów pamięci masowej można kupić za tyle samo, co cztery do ośmiu gigabajtów pamięci RAM, co czyni ją najlepszą lokalizacją trwałej pamięci masowej w architekturze pamięci komputera.