Επειδή οι γλώσσες δεν αφήνουν πίσω τους απολιθώματα, είναι δύσκολο να βάλουμε το δάχτυλό μας στην ακριβή στιγμή που ξεκίνησε η ανθρώπινη γλώσσα. Μερικοί επιστήμονες επιχειρούν αμφίβολα να μαντέψουν την πολυπλοκότητα της επικοινωνίας των πρωτευόντων με βάση την πολυπλοκότητα της βιομηχανίας εργαλείων εκείνη την εποχή. Μπορεί να μην μάθουμε ποτέ με βεβαιότητα πότε προήλθε η γλώσσα, έως ότου μπορέσουμε να χρησιμοποιήσουμε το διατηρημένο DNA από τα αρχαία ομοειδή για να τα αναδημιουργήσουμε και να παρατηρήσουμε τις γλωσσικές τους ικανότητες.
Αντί να εξελίσσεται απότομα, είναι πιθανό η γλώσσα όπως την ξέρουμε να αναπτύχθηκε για μεγάλο χρονικό διάστημα. Ορισμένοι μελετητές πιστεύουν ότι η εμφάνιση του διποδισμού πριν από 3.5 εκατομμύρια χρόνια έφερε ανατομικές αλλαγές, όπως μια φωνητική οδό σε σχήμα L, η οποία θα είχε διευρύνει το φάσμα των πιθανών ήχων. Δεν είναι γνωστό εάν τα πρωτεύοντα αυτή τη στιγμή χρησιμοποίησαν αυτή την ανατομία για να κάνουν πιο εξελιγμένους ήχους. Αυτοί οι «κρίκοι που λείπουν» έχουν πλέον εξαφανιστεί.
Έρευνα σε ομόμονα κρανία έχει βρει ότι πριν από περίπου 400,000 χρόνια, οι Νεάντερταλ είχαν ένα υπογλώσσιο κανάλι παρόμοιο σε μέγεθος με αυτό των σύγχρονων ανθρώπων. Ο υπογλωσσικός σωλήνας είναι ένας οστέινος δίαυλος που οδηγεί τις νευρικές ίνες που σχετίζονται με την παραγωγή ομιλίας, αν και ορισμένες μελέτες έχουν βρει μια αδιευκρίνιστη σχέση μεταξύ του μεγέθους αυτού του καναλιού και των δυνατοτήτων ομιλίας. Οι Νεάντερταλ διέθεταν μια βιομηχανία εργαλείων σημαντικά πιο εξελιγμένη από τα προηγούμενα ομοειδή και είχαν μεγάλο εγκέφαλο. Πολλοί μελετητές υποψιάζονται ότι οι Νεάντερταλ είχαν κάποια στοιχειώδη μορφή γλώσσας και βεβαίως πιστεύουν ότι η σύγχρονη γλώσσα ξεκίνησε πριν από περίπου 400,000 χρόνια.
Αν και η ακριβής χρονική στιγμή γέννησης της γλώσσας παραμένει άγνωστη, σίγουρα χρησιμοποιήθηκε πριν από 200,000 χρόνια, όταν οι σύγχρονοι άνθρωποι εξελίχθηκαν στην Αφρική. Αυτοί οι άνθρωποι ήταν σύγχρονοι ανατομικά, αλλά συμπεριφέρονταν παρόμοια με μερικά από τα απλούστερα ομοειδή που ήρθαν πριν από αυτούς μέχρι πριν από περίπου 100,000 χρόνια. Μετά από περίπου 50,000 χρόνια, μια μικρή ομάδα ανθρώπων έφυγε από την Αφρική. Μερικοί μελετητές υποστηρίζουν ότι αυτή η απόκλιση σημαίνει ότι οι άνθρωποι είχαν φτάσει σε κάποιο κατώφλι στην ικανότητά τους να επικοινωνούν, γεγονός που τους έκανε ικανούς να φύγουν, αν και αυτή η υπόθεση είναι αρκετά αμφίβολη.
Οι περισσότεροι επιστήμονες πιστεύουν ότι όλη η σύγχρονη γλώσσα προέρχεται από μια μόνο πηγή, αντί να έχει αναπτυχθεί ανεξάρτητα σε όλες τις ηπείρους. Αν ναι, πρέπει να προέρχεται από πηγή τουλάχιστον τόσο παλιά όσο ο κοινός πρόγονος όλων των ζωντανών ανθρώπων. Όλοι οι σύγχρονοι άνθρωποι είναι πρόγονοι της «Μιτοχονδριακής Εύας», μιας γυναίκας που έζησε στην Αφρική πριν από περίπου 150,000 χρόνια. Η σύγχρονη γλώσσα μπορεί να χρονολογείται από αυτήν την εποχή ή μπορεί να είναι πιο πρόσφατη. Πριν από περίπου 70,000 χρόνια, το ανθρώπινο είδος αντιμετώπισε μια σοβαρή πληθυσμιακή συμφόρηση όταν ο συνολικός αριθμός των ατόμων μπορεί να έφτανε τα 2,000. Η παγκόσμια γλώσσα μπορεί επίσης να χρονολογείται από αυτήν την περίοδο.