Rośliny, które najlepiej rosną w ogrodach skalnych, są zwarte, zbite i wolno rosnące. Rośliny ogrodów skalnych rozwijają się w dobrze przepuszczalnej glebie, są odporne na suszę i tolerują pełne słońce do półcienia. Ponieważ ogrody skalne naśladują warunki panujące w górzystej, skalistej glebie, rośliny, które naturalnie występują na obszarach górskich, dobrze sobie radzą w ogrodach skalnych. Niektóre przykłady to sukulenty, rozchodnik, uszy baranka i orlik.
Przed zasadzeniem ogrodu skalnego najlepiej dokładnie zaplanować lokalizację i warunki. Drzewostan z rodzimymi drzewami i krzewami może służyć jako wysoki tył do ogrodu skalnego i nie sprawiać, by wyglądał sztucznie. Rośliny cenią schronienie przed wiatrem, ale potrzebują trochę światła słonecznego. Najlepiej unikać sadzenia pod gęstym listowiem dojrzałych drzew.
Rośliny w ogrodach skalnych powinny mieć mniej niż stopę (około 30 cm) wysokości i być odporne na temperaturę do -20 stopni Fahrenheita (-29 stopni Celsjusza). Odporne geranium, szarotka alpejska i płożące się floks to kochające słońce rośliny do ogrodu skalnego, które zapewniają ciekawe liście i kwiaty o różnych porach roku. Tymianek to zioło, które można uprawiać w szczelinach i szczelinach w ogrodach skalnych, na niegościnnych, pełnych słońcu terenach, gdzie inne rośliny nie będą rosły. Wiele odmian tymianku toleruje również lekki ruch pieszy. Oregano to kolejne zioło, które jest nieco wyższe niż tymianek i dobrze rośnie na skalistych, słonecznych stanowiskach tarasowych.
Inne opcje obejmują hostę z dużymi, szerokimi liśćmi i paproć z delikatnymi liśćmi; oba mogą dodać ładną teksturę do zacienionych obszarów. Na bardziej nasłonecznionych terenach rozchodnik oraz kury i pisklęta to dwie nisko rosnące rośliny do ogrodów skalnych, które również nadają ciekawą teksturę. Sukulenty są najbardziej atrakcyjne w połączeniu z wyższymi odmianami roślin, takimi jak trawiaste kępki oszczędności.
Grupy roślin o różnej wysokości mogą dodać wizualnego zainteresowania do ogrodu skalnego. Mieszanka niskich, rosnących roślin i kępek pionowych, posadzonych na tle niskich krzewów, może stworzyć naturalnie wyglądający ogród skalny. Pojedyncze próbki należy stosować oszczędnie. W naturze rośliny zwykle występują w grupach z sąsiednimi grupami zapewniającymi kontrastujące tekstury i kolory.
Popularność ogrodów skalnych początkowo wyrosła z fascynacji uprawą roślin alpejskich na początku XX wieku. Do tego czasu rośliny alpejskie były nieznane lub niedostępne w dużej części świata. Ich dostępność zainspirowała wielu ogrodników do prób wyhodowania egzotycznych, nowych okazów. Uproszczona wersja tych XX-wiecznych eksperymentalnych ogrodów skalnych pozostaje popularna, ponieważ naturalna forma ogrodów stanowi ciekawostkę dla nowoczesnych ogrodów. Ogrody skalne oferują również intrygujące możliwości radzenia sobie z pochyłymi i tarasowymi obszarami ogrodów.