Le Landseer trouve ses origines aux Pays-Bas, en Suisse et en Allemagne, et est d'ailleurs considéré officiellement comme étant originaire de ces deux derniers pays. Son histoire est toutefois indissociable de celle du Terre-Neuve.
Originaire de l’île éponyme située au nord-est du Canada, celui-ci y accompagna les pêcheurs pendant des siècles, aussi bien sur l’eau que sur terre. Vers la fin du 18ème siècle, des premiers spécimens furent importés en Angleterre, où ils connurent rapidement un succès fulgurant.
Différents programmes d’élevage de Terre-Neuve furent alors mis sur pied dans plusieurs pays d'Europe au cours du 19ème siècle. Toutefois, du fait de croisements avec des races locales, les lignées européennes ainsi créées divergèrent progressivement de celles originaires du Canada. Les individus leur appartenant étaient plus grands et élancés que leurs cousins canadiens, qui avaient une constitution courte et massive.
En outre, la robe noire et blanc était privilégiée, alors qu'au Canada le Terre-Neuve était de préférence noir. Cela est lié notamment à l'influence de différents artistes qui choisirent pour représenter ce chien des sujets arborant un tel pelage bicolore. Ce fut en particulier le cas du Britannique Edwin Landseer (1802-1873), qui en 1838 peignit A Distinguished Member of the Human Society, un tableau qui représente un Terre-Neuve noir et blanc se reposant sur une digue en béton au bord de l’eau. Il fut l'auteur d'autres peintures de Terre-Neuves, mais cette oeuvre en particulier eut une grande influence, et explique d'ailleurs le nom qui fut donné par la suite à la race.
À la fin du 19ème siècle, certains éleveurs hollandais, suisses et allemands décidèrent de pousser encore plus loin la différenciation du Terre-Neuve européen. Leurs motivations ne sont pas connues avec certitude : certains spécialistes affirment que l’objectif était de redonner à ce chien son aspect passé, tandis que d’autres pensent exactement le contraire et soutiennent que le but était bien de créer une race distincte.
Quoi qu'il en soit, les différences s’accentuèrent, aussi bien au niveau physique qu’en termes de caractère. En 1881, un premier standard de race fut rédigé, qui établit une distinction claire entre le Terre-Neuve et le Landseer. Ceci encouragea définitivement le développement de ce dernier.
Il souffrit durement pendant la Première Guerre mondiale, notamment parce que nourrir un chien d'un tel gabarit était loin d'être une priorité en période de pénurie : beaucoup périrent. Toutefois, dans les années 1930, des éleveurs allemands, hollandais et suisses lui permirent de reprendre des couleurs ; sans eux, il n'aurait peut-être pas survécu à la Seconde Guerre mondiale, qui fit également des ravages dans ses rangs.
Sa popularité crut de nouveau une fois les hostilités terminées. Constatant que ces chiens représentaient une population assez homogène d'individus aux caractéristiques physiques assez différenciées de leur cousin canadien, la Fédération Cynologique Internationale (FCI) finit par considérer qu'il constituaient une race à part entière, bien distincte du Terre-Neuve. Il la reconnut en 1960, six ans après ce dernier.
Le Landseer est reconnu depuis 1960 comme une race à part entière par la Fédération Cynologique Internationale (FCI), et donc par la centaine d'organismes nationaux qui en sont membres. C'est le cas notamment de ceux de France, de Belgique et de Suisse - respectivement la Société Centrale Canine (SCC), la Société Royale Saint-Hubert (SRSH) et la Société Cynologique Suisse (SCS).
La FCI n’a toutefois pas fait beaucoup d’émules auprès des autres organismes de référence qui n'en sont pas membres, en particulier dans le monde anglo-saxon. En particulier, ni l’American Kennel Club (AKC) et l’United Kennel Club (UKC) aux États-Unis, ni le Club Canin Canadien (CCC), ne reconnaissent la race. Pour ces organismes, l’appellation Landseer désigne seulement un Terre-Neuve blanc et noir. Pas membre non plus de la FCI, le prestigieux et influent Kennel Club (KC) britannique est sur la même longueur d'onde.
Il existe donc une certaine confusion dans le monde cynophile, car selon le pays où on se trouve un même terme est employé pour désigner des chiens différents, qui n'ont pas les mêmes caractéristiques physiques.
