Jeden starożytny rytuał opisany w Starym Testamencie dotyczył selekcji i ewentualnego wygnania kozła z reszty stada. Ta koza była często barwiona czerwonym pigmentem, reprezentującym zbiorowe grzechy i złe uczynki całej społeczności. Zgodnie z tradycją kozioł ten został wysłany na pustynię, aby spotkać Azazela, upadłego anioła podobnego do Szatana czy Lucyfera. Średniowieczne błędne tłumaczenie stworzyło współczesną legendę o koźle ofiarnym, który zbiegł.
Współcześnie kozłem ofiarnym jest często członek organizacji, który ponosi odpowiedzialność za wady lub niedociągnięcia całej grupy. Na przykład dyrektor finansowy upadłej firmy może zostać pociągnięty do odpowiedzialności za jej niedociągnięcia finansowe. Zhańbiony dyrektor może być obwiniany o ujawnione wykroczenia firmy, a polityk niskiego szczebla może być traktowany jako przedstawiciel szeroko zakrojonej rządowej korupcji.
Nie oznacza to, że kozioł ofiarny jest całkowicie niewinny zarzutów lub został niesprawiedliwie złożony w ofierze. Osoba uznana za winną korupcji publicznej podczas sprawowania urzędu może stać się symbolem dla innych, którzy popełnili podobne przestępstwa, ale nie zostali oskarżeni ani ukarani. Kiedy w świecie sportu wybuchł skandal związany z nielegalnym używaniem sterydów, niektórzy wierzyli, że garstka graczy, którzy przyznali się do zażywania narkotyków, stała się kozłami ofiarnymi dla całej ich organizacji. Ta osoba może być również postrzegana jako baranek ofiarny, który przyjmuje karę w celu ochrony innych.
Zdarzają się również sytuacje, w których kozła ofiarnego wybiera się z powodów politycznych lub strategicznych. Na przykład zrzucanie winy za błędy firmy na dyrektora niższego szczebla może odciągnąć uwagę prawną od wyższych rangą urzędników. Przyszłość kadry kierowniczej niskiego szczebla może nie być tak świetlana, ale przynajmniej organizacja jako całość przetrwałaby publiczną kontrolę poprzez ukaranie wyznaczonego sprawcy. Często rolą tej osoby jest upublicznienie wykroczeń lub korupcji i zaakceptowanie konsekwencji działań innych ludzi.
Kozła ofiarnego można również uznać za akt samozachowawczy. Na przykład, zamiast przyjąć zbiorową winę za stłuczone okno, grupa amatorskich baseballistów może wskazać pałkarza jako winnego. Chociaż do szkody przyczyniły się działania każdego gracza, przeniesienie całej odpowiedzialności na ostatniego gracza, który dotknął piłki, zwalniałoby resztę grupy z odpowiedzialności osobistej. Grupie często łatwiej jest wyznaczyć jedną osobę do wzięcia na siebie winy, niż przyjąć indywidualną odpowiedzialność za pewne wykroczenia.