Το φαινόμενο εμφανίζεται όταν οι ακτίνες του ήλιου πέφτουν πάνω σε σταγονίδια βροχής στην ατμόσφαιρα της Γης και αποτελεί ένα παράδειγμα διάθλασης, μετά από ανάκλαση. Το κάθε χρώμα (δηλαδή κάθε μήκος κύματος) διαθλάται υπό διαφορετική γωνία μέσα στα σταγονίδια (που δρουν σαν μικρά πρίσματα), παθαίνει διαφορετική εκτροπή κι έτσι το ορατό λευκό φως αναλύεται στα διάφορα χρώματα που το συνθέτουν, δηλαδή στο φάσμα του. Έτσι εμφανίζεται το φάσμα του ηλιακού φωτός ως ένα πολύχρωμο τόξο, με το κόκκινο χρώμα να κυριαρχεί στην εξωτερική του πλευρά, και το ιώδες στην εσωτερική. Η διαφορετικότητα της γωνίας του κάθε μήκους κύματος (χρώματος) και του σχήματος των σταγονιδίων εξηγεί και το τοξοειδές σχήμα του φαινομένου και όχι κάποιο άλλο.
Για να γίνει αντιληπτό το ουράνιο τόξο από παρατηρητή θα πρέπει να έχει στραμμένα τα νώτα του στον Ήλιο.
Στα 578 π.χ., ο Αναξιμένης, Έλληνας φιλόσοφος, παρατήρησε τη σχέση μεταξύ του Ουράνιου Τόξου και του Ήλιου. Αντί να αποδώσει το Τόξο σε ουράνιες δυνάμεις, πρότεινε ότι τα σύννεφα αλλάζουν την πορεία του ηλιακού φωτός και παράγουν το Τόξο των χρωμάτων.
Πρώτος ο Αριστοτέλης συνέλαβε την ιδέα ότι το ουράνιο τόξο δεν είναι υλικό αντικείμενο που κρέμεται από τον ουρανό, αλλά ένα φυσικό φαινόμενο. Χρησιμοποίησε προσεκτικά την τότε γεωμετρία, αλλά λάθος νόμους ανάκλασης, για να εξάγει το κυκλικό σχήμα του Τόξου.
