Το ποιος επινόησε ακριβώς το τηλεσκόπιο είναι μια κάπως θολή ερώτηση. Από πριν από την καταγεγραμμένη ιστορία, οι άνθρωποι έπαιζαν με απλούς φακούς κατασκευασμένους από κρύσταλλο βράχου (χαλαζίας) και φαίνεται ότι η βασική ιδέα ενός τηλεσκοπίου αναγνωρίστηκε το 1230 ή νωρίτερα. Στα τέλη του 13ου αιώνα ανακαλύφθηκε η εφεύρεση των κυρτών φακών για τη διόρθωση της μακροόρασης, ενώ οι κοίλοι φακοί για την μυωπία επινοήθηκαν το 1451 από τον Νικόλαο της Κούσας. Δεδομένου ότι ένα βασικό τηλεσκόπιο είναι απλώς ένας συνδυασμός ενός κυρτού και κοίλου φακού σε έναν σωλήνα στήριξης, η βασική δυνατότητα υπήρχε. Στην πραγματικότητα, διάφορα γραπτά από τα τέλη του 16ου αιώνα στην Αγγλία υπαινίσσονται ότι τα τηλεσκόπια μπορεί να έχουν αναπτυχθεί και χρησιμοποιηθεί εκεί από τουλάχιστον μερικά άτομα.
Ωστόσο, μόλις το 1608 στην Ολλανδία τα τηλεσκόπια απογειώθηκαν πραγματικά. Τα εύσημα για την εφεύρεση του τηλεσκοπίου παραδοσιακά ανήκουν σε τρία άτομα: τον Hans Lippershey και τον Zacharias Janssen, θεαματοποιούς που εργάζονται μαζί στην πόλη Middleburg και τον Jacob Metius του Alkmaar. Αμέσως μετά, άρχισαν να παράγονται τηλεσκόπια σε μεγαλύτερους αριθμούς και να εξαπλώνονται σε όλη την Ευρώπη ως καινοτόμα είδη. Έτσι το 1608 είναι το επίσημα αναγνωρισμένο έτος για το τηλεσκόπιο που εφευρέθηκε. Αυτά τα πρώιμα τηλεσκόπια μεγέθυναν μόνο μακρινά αντικείμενα κατά έναν παράγοντα περίπου τριών.
Όταν τα τηλεσκόπια ήταν ακόμα εξαιρετικά νέα, το 1609, ο σύντομα διάσημος Ιταλός αστρονόμος και φυσικός, Γαλιλαίος Γκαλιλέι, άκουσε για τη βασική ιδέα λειτουργίας πίσω από το τηλεσκόπιο επισκεπτόμενος την πόλη της Βενετίας. Μόλις επέστρεψε στο σπίτι στην Πάντοβα, κατασκεύασε αμέσως έναν, απλώς βάζοντας έναν κυρτό και κοίλο φακό μαζί σε ένα σωλήνα. Έκανε μια βελτιωμένη έκδοση, και την έδειξε στον άρχοντα της Βενετίας, Λεονάρντο Ντονάτο, ο οποίος εντυπωσιάστηκε πολύ. Στη συνέχεια, ο Γαλιλαίος εγκαταστάθηκε για ισόβια στη σχολή του και ο μισθός του διπλασιάστηκε.
Ο Galileo βελτίωσε το τηλεσκόπιο έως ότου είχε μεγεθυντική ισχύ τριάντα τριών διαμέτρων. Στη συνέχεια χρησιμοποίησε το τηλεσκόπιό του για να ανακαλύψει τα φεγγάρια του Δία, τις κηλίδες στον Ήλιο, τις φάσεις της Αφροδίτης και τους λόφους και τις κοιλάδες της Σελήνης. Αυτές οι ανακαλύψεις τον έκαναν διάσημο μέχρι σήμερα, και έτσι τα τηλεσκόπια αυτού του σχεδίου εξακολουθούν να ονομάζονται τηλεσκόπια του Γαλιλαίου.
Ο άλλος σημαντικός τύπος τηλεσκοπίου, το ανακλαστικό τηλεσκόπιο, εφευρέθηκε από τον Άγγλο τοπογράφο Leonard Digges στα μέσα του 16ου αιώνα, αλλά ήταν σχετικά ανέφικτο και δεν έγινε ποτέ ευρέως διαδεδομένο στην εποχή του. Έμεινε στον Ισαάκ Νεύτωνα, τον μεγάλο φυσικό, ο οποίος το 1669 κατασκεύασε το πρώτο πρακτικό ανακλαστικό τηλεσκόπιο.