A régi időben a föníciaiaknál, sőt még később is, e célra nagy kődarabokat (kőtömböket) vagy súlyos vasdarabokat használtak, melyek kötelekre kötve és a vízbe dobva a tengerfenékhez való súrlódásuk által akadályozták meg a hajó eltereltetését a helyéről. Később az ilyen vasdarabot egy magát a tengerfenékbe vájó kampóval látták el (egykarú horgony a régi görögöknél és később az uszoroknak a kikötőkben való lehorgonyozásánál voltak használatosak), végül két, egymással szemben kifelé álló kampóval (karral, ággal). Ezeknél a régi horgonyoknál a horgonytest súlya tartotta a hajót. Csak a horgony további tökéletesítésénél váltak mérvadóvá e tekintetben a kampók.
A kovácsolt vasból készült horgonynak – abban az alakjában, amelyben Nagy Sándor idejétől egész mostanáig jellemző – a következő részei vannak:
A horgonyrúd (nyél, szár), ami egy a horgony középső részét képező súlyos vasrúd, melynek egyik végén a horgonylánc megerősítésére szolgáló horgonykarika, a másik végén pedig két, kissé görbített, egymás ellen és kifelé álló horgonyág vagy horgonykar van.
A horgonyágak vége, a horgonysaru vagy kapa lapos D alakú, ezzel vájja be magát a horgony a földbe, vagyis tengerészeti nyelven a horgonyfenékbe.
Azért, hogy a vízbe vetett horgony két ágával ne dőlhessen laposan a tenger fenekére, a horgony nyakán - a horgonyrúd felső vékonyabbik része - az úgynevezett horgonydúc vagy horgonyfa található. Ez egy négyszögletes, két végén gömbölyűre faragott fa, melyet az ágak összekötő tengelyére függőlegesen erősítenek a horgonynyakhoz. A húzás, melyet a szél vagy áramlat befolyása alatt álló hajó gyakorol a horgonylánc által a horgonyra, ezt csak úgy fektetheti, hogy a horgonyfa laposan a mederfenékre fekszik és a horgonykarok, illetve ezek sarui a földbe nyomódnak.
