Η χρήση οδοντόκρεμας εκτείνεται μέχρι το 5000 π.Χ. και έχει μεγαλύτερη ιστορία από τις οδοντόβουρτσες. Πολλοί αρχαίοι πολιτισμοί χρησιμοποιούσαν κάποιο είδος οδοντόκρεμας για να καθαρίσουν τα δόντια τους, αν και συχνά χρησιμοποιούνταν σε μορφή σκόνης και όχι ως πάστα. Η ιστορία της οδοντόκρεμας ποικίλλει σε κάθε χώρα, ωστόσο, και κάθε πολιτισμός είχε τις δικές του συνταγές και τελετουργίες για να διατηρεί τα δόντια καθαρά. Οι Αιγύπτιοι ήταν από τους πρώτους που χρησιμοποίησαν οδοντόκρεμα και συχνά ενσωμάτωσαν συστατικά όπως κάρβουνο και κελύφη αυγών σε αυτήν, και περίεργα συστατικά όπως το σαπούνι ήταν κοινά σε ορισμένες περιοχές για αιώνες. Πολλοί ειδικοί πιστεύουν ότι οι ινδικοί και οι κινεζικοί πολιτισμοί άρχισαν επίσης να τον χρησιμοποιούν τον 5ο αιώνα π.Χ.
Οι Αιγύπτιοι δημιούργησαν τις πρώτες οδοντόκρεμες με ποικιλία συστατικών. Ορισμένες αιγυπτιακές συνταγές οδοντόκρεμας μπορεί να περιλάμβαναν καμένα κελύφη αυγών, στάχτες από οπλές βοδιού, μύρο, ελαφρόπετρα και νερό αναμεμειγμένα μαζί. Ωστόσο, πολλές συνταγές χρησιμοποιήθηκαν πριν από την εφεύρεση της οδοντόβουρτσας, οπότε οι Αιγύπτιοι χρησιμοποίησαν τα άκρα των ραβδιών, που συχνά ονομάζονται μασουλάκια, για να εφαρμόσουν την οδοντόκρεμα τους.
Στην πρώιμη ιστορία της οδοντόκρεμας, πιστεύεται ότι οι αρχαίοι Έλληνες και Ρωμαίοι προτιμούσαν να προσθέσουν σκληρότερα αντικείμενα στις συνταγές της οδοντόκρεμας τους για να δημιουργήσουν μια τραχιά, λειαντική πάστα που θα καθαριζόταν καλά. Αυτό επιτεύχθηκε με άλεση κοχυλιών και οστών στρείδι. Ο ξυλάνθρακας και ο φλοιός προστέθηκαν επίσης στις συνταγές της ρωμαϊκής οδοντόκρεμας, όπως και τα αρωματικά για να φρεσκάρουν την αναπνοή.
Οι Κινέζοι είχαν επίσης μια ποικιλία συνταγών για οδοντόκρεμα και συχνά χρησιμοποιούσαν βότανα και αλάτι με την ελπίδα να καθαρίσουν τα δόντια τους. Για να φρεσκάρουν την ανάσα, οι Κινέζοι μασούσαν αρωματικά ραβδιά από δέντρα. Πολλοί ειδικοί στην ιστορία της οδοντόκρεμας πιστεύουν ότι οι Κινέζοι εφηύραν επίσης την πρώτη οδοντόβουρτσα κατά τον 15ο αιώνα π.Χ.
Από το 1800 μέχρι το 1945, πολλές συνταγές οδοντόκρεμας περιείχαν σαπούνι που παρείχε μια πιο λεία υφή. Μετά το 1945, ωστόσο, για το σκοπό αυτό χρησιμοποιήθηκαν συστατικά όπως το λαουρυλοθειικό νάτριο. Η υφή της πάστας με τα συστατικά λείανσης ήταν πολύ σαν τις οδοντόκρεμες που χρησιμοποιούνται στη σύγχρονη εποχή. Η κιμωλία ήταν επίσης ένα συνηθισμένο συστατικό σε οδοντόκρεμες στα μέσα έως τα τέλη του 1800 και το καρύδι μπετέλ συμπεριλαμβανόταν τακτικά στις συνήθεις συνταγές οδοντόκρεμας που χρησιμοποιούνται στην Αγγλία.
Κατά τη μεταγενέστερη ιστορία της οδοντόκρεμας, το προϊόν συνέχισε να εξελίσσεται. Δημιουργήθηκαν σύνθετοι τύποι λεύκανσης και προστέθηκε φθόριο, για παράδειγμα. Το φθόριο βρέθηκε ότι αποτρέπει τη φθορά των δοντιών και οι λευκαντικές φόρμουλες χρησιμοποιήθηκαν για να αποτρέψουν το κιτρίνισμα του σμάλτου των δοντιών. Οι εξειδικευμένες οδοντόκρεμες έγιναν επίσης συνηθισμένες, συμπεριλαμβανομένων των τύπων για εκείνους με δόντια ευαίσθητα στη θερμοκρασία, ευαίσθητα ούλα και συμπτώματα ξηροστομίας.