Η Όλυμπος είναι χτισμένη σε υψόμετρο 250 μέτρων, κατά μήκος του αυχένα που συνδέει δύο βουνοκορφές της βόρειας Καρπάθου. Η δυτική πλευρά της Ολύμπου είναι απόκρημνη και στέκεται πάνω από γκρεμό που καταλήγει στην θάλασσα ενώ η ανατολική της πλευρά είναι πιο ομαλή και της προσφέρει πρόσβαση στο επίνειό της, το Διαφάνι.
Η Όλυμπος αποτελούσε ξεχωριστή κοινότητα από το 1948 εώς και το 2010 που ενσωματώνεται στον ενιαίο Καλλικρατικό Δήμο Καρπάθου και αποτελεί τοπική κοινότητα . Η συνολική έκταση της κοινότητας είναι 104.876 km2 και στα όριά της περιλαμβάνεται το βόρειο τμήμα της Καρπάθου και το νησί Σαρία. Η κοινότητα Ολύμπου έχει πληθυσμό 761 κατοίκους και περιλαμβάνει επίσης τους οικισμούς Διαφάνι, Αυλώνα .
Στην αρχαιότητα οι κυριότερες πόλεις της βόρειας Καρπάθου ήταν η Βρυκούς ( πρωτεύουσα του νησιού ) και η Νίσυρος ( σημερινή ονομασία Παλάτια ) που ήταν χτισμένες στην ακτή γύρω από το στενό μεταξύ Καρπάθου και Σαρίας. Τον 7ο αιώνα μ.Χ. λόγω των πειρατικών επιδρομών (κυρίως Σαρακηνοί ), οι κάτοικοι των αρχαίων πόλεων εγκατέλειψαν τις αρχικές τους εστίες και αναζήτησαν καταφύγιο σε ορεινότερα και πιο δυσπρόσιτα σημεία του νησιού με αποτέλεσμα να ιδρύσουν τον σημερινό οικισμό. Ο οικισμός χτίστηκε ακολουθώντας την αρχιτεκτονική των μεσαιωνικών νησιωτικών οικισμών και την εικόνα αυτή διατηρεί σχεδόν αναλλοίωτη μέχρι σήμερα. Την ονομασία Όλυμπος την οφείλει στο παλαιότερο όνομα του βουνού στο οποίο χτίστηκε, το οποίο σήμερα ονομάζεται προφήτης Ηλίας.
Η Όλυμπος παρέμεινε απομονωμένη από τις υπόλοιπες περιοχές της Ελλάδας, ακόμα και από την υπόλοιπη Κάρπαθο με αποτέλεσμα να αναπτύξει ξεχωριστή παράδοση πολλά στοιχεία της οποίας διατηρεί ακόμα. Χαρακτηριστική είναι η παραδοσιακή φορεσιά της περιοχής που φοριέται ακόμα και σήμερα από τις γυναίκες της Ολύμπου.
Η Όλυμπος ανακηρύχτηκε Πρωτεύουσα του Λαϊκού πολιτισμού της Δωδεκανήσου καθώς επίσης ορίστηκε ως Ιστορική έδρα του νέου δήμου Καρπάθου που συστάθηκε με το πρόγραμμα Καλλικράτης.
Η βελτίωση - ασφαλτόστρωση του οδικού δικτύου που συνδέει τους οικισμούς με το υπόλοιπο νησί βοήθησε πολύ την τουριστική ανάπτυξη της περιοχής η οποία ήταν ραγδαία μετά το 1990. Η επικοινωνία των οικισμών γίνεται και δια θαλάσσης από το λιμάνι του Διαφανίου.
Αν και η Όλυμπος είναι πολυσύχναστη, με αρκετά καφενεία και εστιατόρια, δεν έχει ακόμα παραδοθεί στον μαζικό τουρισμό και έτσι μπορείτε να ανακαλύψετε μικρές ερημικές παραλίες όπου θα είστε πραγματικά μόνοι σας.
