No dia 6 de fevereiro de 1995 era lançado Down by the Water, single do álbum To Bring You My Love de PJ Harvey. Você confere essa e outras faixas de PJ Harvey na programação da FWR.
A música diverge significativamente da antiga influência indie rock e punk blues de Harvey, optando por usar instrumentos eletrônicos, como um órgão sintetizado e um conjunto orquestral.
Down by the Water foi o grande avanço de Harvey nos Estados Unidos, onde a canção alcançou o segundo lugar na parada de rock moderno da Billboard e recebeu ampla rotação na MTV e em estações de rádio universitárias. A canção recebeu aclamação da crítica após seu lançamento, fazendo sucesso no Canadá, Irlanda, Reino Unido e Estados Unidos.
A letra da música conta a história de uma mulher que comete filicídio. A mulher afoga a filha "na água" e "não vai mais vê-la". A parte final traz Harvey sussurrando as falas: "little fish, big fish swimming in the water/come back here, man, gimme my daughter". O refrão foi baseado na interpretação de Lead Belly da tradicional canção folk americana Salty Dog Blues.
Em 2005, Harvey usou a letra da canção em uma entrevista à Spin como exemplo para demonstrar que suas canções não eram autobiográficas: "Alguns críticos levaram minha escrita tão literalmente a ponto de ouvir Down by the Water e acreditar que na verdade, eu dei à luz uma criança e a afoguei".