PPylos heeft een lange geschiedenis en is bewoond sinds de neolithische tijd. Het was een belangrijk koninkrijk in Myceens Griekenland, met overblijfselen van het zogenaamde "Paleis van Nestor" dat in de buurt werd opgegraven, genoemd naar Nestor, de koning van Pylos in de Ilias van Homerus.

In de klassieke oudheid was de plaats onbewoond, maar in 425 v. Chr. werd er tijdens de Peloponnesische oorlog de slag bij Pylos geleverd. Pylos wordt daarna nauwelijks meer genoemd tot de 13e eeuw, toen het deel ging uitmaken van het Frankische vorstendom Achaea. Het werd steeds bekender onder de Franse naam Port-de-Jonc of de Italiaanse naam Navarino, en in de jaren 1280 bouwden de Franken op deze plaats het oude kasteel van Navarino. Pylos kwam onder de controle van de Republiek Venetië van 1417 tot 1500, toen het werd veroverd door het Ottomaanse Rijk. De Ottomanen gebruikten Pylos en zijn baai als marinebasis, en bouwden er het Nieuwe Navarino fort. Het gebied bleef onder Ottomaans bestuur, met uitzondering van een korte periode van hernieuwde Venetiaanse overheersing in 1685-1715 en een Russische bezetting in 1770-71, tot het uitbreken van de Griekse Onafhankelijkheidsoorlog in 1821. Ibrahim Pasja van Egypte herstelde het voor de Osmanen in 1825, maar de nederlaag van de Turks-Egyptische vloot in de Slag bij Navarino in 1827 dwong Ibrahim zich terug te trekken uit de Peloponnesos en bevestigde de Griekse onafhankelijkheid.

In de haven van Pylos maken watertaxi's een rondrit door de Navarino-baai met haltes bij de houten Russische kerk en de gedenktekens van de Franse, Britse en Russische admiraals.