Το μικρότερο πυρηνικό όπλο που ήταν γνωστό στο κοινό ήταν το W54, ένας κύλινδρος 10.6 x 15.7″ (27.3 x 40 cm) που ζύγιζε μόνο 51 λίβρες (23 κιλά). Το W54 χρησιμοποιήθηκε τόσο στο χωρίς ανάκρουση τουφέκι Davy Crockett (πυρηνικό όλμο για στρατεύματα εδάφους) όσο και στο Mk-54 SADM (Special Atomic Demolition Munition), μια χειροποίητη πυρηνική ωρολογιακή βόμβα για επίθεση σε εχθρικά λιμάνια. Το πρωτότυπο για το W54, που δοκιμάστηκε κατά τη διάρκεια της Επιχείρησης Hardtack το 1954, ήταν ακόμη μικρότερο, σε μόλις 10.6 x 11.8″ (27 x 30 cm), κοντά σε αυτό που πολλοί πυρηνικοί επιστήμονες πιστεύουν ότι είναι το θεωρητικά μικρότερο πυρηνικό όπλο. Το Davy Crockett είχε απόδοση 10-20 τόνων – διατηρήθηκε σκόπιμα χαμηλά για να είναι ασφαλές για όσους το πυροβολούν – ενώ το SADM είχε μεταβλητή απόδοση μεταξύ 10 τόνων και 1 κιλοτόνου.
Για να δημιουργηθεί ένα πυρηνικό όπλο απαιτείται μια κρίσιμη μάζα σχάσιμου υλικού και ένα πλαίσιο για σκανδάλη τύπου όπλου ή εκρηκτικούς φακούς. Μια κρίσιμη μάζα πλουτωνίου είναι περίπου 10.5 kg (23 lb), πλάτος 10.1 cm (4 in). Αυτό δεν είναι αρκετό για να ξεκινήσει μια πολλαπλασιαστική αλυσιδωτή αντίδραση, αλλά παράγει αρκετή ακτινοβολία για να είναι θανατηφόρα αν την κρατούσατε.
Για να παραχθεί μια αλυσιδωτή αντίδραση απαιτείται αύξηση του πλουτωνίου, λίγο – μόνο 10% πάνω από την κρίσιμη μάζα είναι αρκετό για να δημιουργηθεί ένα πυρηνικό όπλο με απόδοση 10-20 τόνων, ήδη στην εμβέλεια της κεφαλής Davy Crockett. Το 20% πάνω από την κρίσιμη μάζα δίνει απόδοση 100 τόνων, ενώ το 35% πάνω από την κρίσιμη μάζα μπορεί να φτάσει τους 250 τόνους. Τα μικρότερα πυρηνικά όπλα θα είχαν απόδοση κάπου σε αυτό το εύρος.
Το κοινό δεν μπορεί να γνωρίζει με βεβαιότητα ποιο είναι το μικρότερο πυρηνικό όπλο, γιατί μάλλον είναι ταξινομημένο. Η Σοβιετική Ένωση εργάστηκε σε μια ποικιλία πυρηνικών όπλων που παραμένουν εντελώς μυστικά, όπως και οι ΗΠΑ, αν και υπάρχει μεγαλύτερη διαφάνεια στην τελευταία περίπτωση. Ένας πρώην σοβιετικός στρατηγός, ο Alexander Lebed, ισχυρίστηκε την ύπαρξη «πυρηνικών βαλιτσών» σε μια συνέντευξη ειδήσεων τον Σεπτέμβριο του 1997, πυροδοτώντας μια αλυσίδα εικασιών για το εάν το μικρότερο πυρηνικό όπλο θα μπορούσε να χωρέσει σε μια βαλίτσα 60 x 40 x 20 cm. Η γενική συναίνεση είναι ότι αυτό θα ήταν αρκετό περιθώριο για τη δημιουργία ενός πυρηνικού όπλου, ειδικά για μια τεχνολογικά εξελιγμένη χώρα. Ωστόσο, υπάρχουν λίγα συγκεκριμένα στοιχεία για αυτό.