Cea mai mică armă nucleară cunoscută publicului a fost W54, un cilindru de 10.6″x15.7″ (27.3 x 40 cm) care cântărea doar 51 lbs (23 kg). W54 a fost folosit atât în pușca fără recul Davy Crockett (un mortar nuclear pentru trupele terestre) cât și în Mk-54 SADM (Special Atomic Demolition Munition), o bombă nucleară cu ceas livrată manual pentru atacarea porturilor inamice. Prototipul pentru W54, testat în timpul Operațiunii Hardtack din 1954, a fost și mai mic, cu doar 10.6″x11.8″ (27 x 30 cm), aproape de ceea ce mulți oameni de știință nuclear cred că este cea mai mică armă nucleară teoretic. Davy Crockett a avut un randament de 10-20 de tone – menținut intenționat scăzut pentru a fi în siguranță pentru cei care îl trag – în timp ce SADM a avut un randament variabil între 10 tone și 1 kilotonă.
Pentru a crea o armă nucleară necesită o masă critică de material fisionabil și un șasiu pentru un declanșator de tip pistol sau lentile explozive. O masă critică de plutoniu este de aproximativ 10.5 kg (23 lb), 10.1 cm (4 inchi) în diametru. Acest lucru nu este suficient pentru a declanșa o reacție în lanț multiplicativă, dar produce suficientă radiație pentru a fi mortală dacă o țineți.
Pentru a produce o reacție în lanț necesită o creștere a plutoniului, doar puțin – doar 10% peste masa critică este suficient pentru a crea o armă nucleară cu un randament de 10-20 de tone, deja în raza focoasei Davy Crockett. 20% peste masa critica da un randament de 100 de tone, in timp ce 35% peste masa critica poate ajunge la 250 de tone. Cele mai mici arme nucleare ar avea un randament undeva în acest interval.
Publicul nu poate ști cu siguranță care este cea mai mică armă nucleară, pentru că probabil este clasificată. Uniunea Sovietică a lucrat la o varietate de arme nucleare care rămân complet secrete, iar SUA au făcut-o la fel, deși există mai multă transparență în acest din urmă caz. Un fost general sovietic, Alexander Lebed, a susținut existența unor „valize nucleare” într-un interviu de știri din septembrie 1997, declanșând un lanț de speculații despre dacă cea mai mică armă nucleară ar putea încăpea într-o valiză de 60 x 40 x 20 cm. Consensul general este că acesta ar fi suficient spațiu pentru a crea o armă nucleară, în special pentru o țară sofisticată din punct de vedere tehnologic. Cu toate acestea, există puține dovezi concrete pentru aceasta.