První zmínka o potřebě vybudovat most přes řeku Manzanares pochází už z let 1345 a 1346, kdy král Alfonso XI. Kastilský pověřil městskou radu shromážděním potřebných finančních prostředků na stavbu spojnice mezi Madridem a komunikací na sever od města. Stavět se ale začalo až o více než dvě století později, v roce 1582, když král Filip II. svěřil akci svému oblíbenému architektovi Juanu de Herrera, autora kláštera El Escorial a královského paláce v Aranjuezu. Rozpočet činil 200 tisíc dukátů. Od té doby Segovský most existuje, i když ne ve své původní podobě a z původní stavby dnes můžeme vidět jen pozůstatky v podobě vlnolamu a dvou oblouků, a to dokonce 95 metrů severně od toho současného.

V průběhu staletí prošel mnohými úpravami, a v polovině 17. století dokonce získal zdobenou bránu navrženou Teodorem Ardemansem. Jako důležitá přístupová cesta neodolal občanské válce – v listopadu 1936 ho republikáni nechali vyhodit do povětří, aby zabránili příchodu Frankových vojáků do města. Rekonstrukci a úpravám se nevyhnul ani v šedesátých letech 20. století, kdy se v Madridu stavěla důležitá dopravní tepna M-30. Současná podoba a provedení ze žulových bloků pochází z roku 2007.