Das raças mais antigas que se tem noticia e embora a sua origem seja uma questão obscura, existe a hipótese que ela tenha surgido como cão pastor na Ásia Central e que tenha sido trazida para a Península Ibérica pelos bárbaros.
Achados arqueológicos permitem afirmar a existência de cães de gado que teriam originado, por cruzamentos consanguíneos, um tipo semelhante ao Cão de Água. Sabemos seguramente que em toda a bacia mediterrânica, o cão de tipo mais ou menos idêntico ao atual era usado pelos pescadores e originou diferentes raças de Cães de Água hoje existentes.
A história de Portugal é rica em invasões e descobertas, e sendo um povo de navegadores, é aceitável que os levassem como auxiliares na suas deambulações marítimas e os tivessem difundido pelas várias regiões. Daí há quem defenda que o Cão de Água é o ascendente do cão da Terranova, Chesapeake Bay, Retriever do labrador, Poodle e até o Cão de Água Irlandês. Em 1588, 130 navios da Invencível Armada partiram de Lisboa, levando cães a bordo. Ao largo da Irlanda, não só devido a grandes tempestades como á derrota perante os ingleses, muitos navios afundaram e apenas metade dos barcos regressaram. Crê-se que muitos dos cães tenham sobrevivido e se misturado com raças locais, dando origem o Cão de Água Irlandês.
Com a evolução das técnicas de pesca, as suas aptidões deixaram de ser apreciadas e desnecessárias. No inicio do sec. XX, o cão de água começou a ter o seu posto de trabalho ameaçado, e o seu número diminuiu, acabando por prevalecer quase e apenas na Costa Algarvia. Pelos anos 30 os cães começaram a ser cada vez menos vistos a bordo dos barcos.
Era cães de pobres e como eles nasciam, viviam e morriam, sem história. Como reflexo, os tratadistas cinológicos ao descreverem as raças estrangeiras, ignoravam-na. Nunca tinham sido vistos nem apresentados em exposições caninas. Em 1934, na Exposição Internacional de Lisboa, dois cães desta raça foram expostos. Frederico Pinto Soares, fundador da Secção Canina do Clube Português de Caçadores (mais tarde Clube Português de Canicultura), natural de Sesimbra, tinha descoberto estes 2 cães na referida vila a bordo de um barco. Depois de muita relutância, os donos destes animais, concordaram que os mesmos fossem apresentados na referida exposição. E pela primeira vez, dois Cães de Água foram apresentados em ringue, com o corte de leão e inscritos como “barbedos”. A presença destes dois animais chamou atenção e despertou o interesse de Vasco Bensaúde, açoriano de origem hebraica, bastante abastado, com empresas na área da navegação e comercio. Ele próprio secretário geral do Clube de Caçadores, canicultor e criador de Clumber e Cocker Spaniel.
Com ele, nasceu a história moderna do Cão de Água Português, a sua seleção e o padrão oficial da raça de autoria dos médicos veterinários Drs. Frederico Pinto Soares e Manuel Fernandes Marques, em 1938.
Entretanto em 1954, outra pessoa entrou na história dos Cães de Água. Era o Dr. António Cabral, veterinário da Câmara Municipal de Lisboa, e mais tarde presidente do Clube Português de Canicultura. Não lhe agradava o monopólio da raça pela parte de Bensaúde. O Dr. Cabral cruzou o Silves com a fêmea de origem Algarbiorum, Farrusca, tendo ficado com uma cadela de nome Galé. Foram estes os dois cães fundadores da linha de Alvalade, tenho nascido a primeira ninhada em 1958, composta por um macho, Lagos, filho de SILVES e Galé. Até 1979, o Dr. António Cabral registou 17 ninhadas, num total de 76 cachorros.
A primeira ninhada de Cãe de Água Portuguese nasceu nos Estados Unidos em 1971, teve como progenitores a cadela Renascença do AL-Gharb (comprada em 1968) e Anzol do Al-Gharb (comprado em 1970). O American Kennel Club (AKC) qualificou os cães para na classe de “variados” – uma espécie de pre seleção para as raças que aguardam o reconhecimento pleno. Em 1983, o AKC reconheceu o Portie como uma raça distinta.