Hamnett Kirkes Pinhey, grand et riche propriétaire foncier anglais et marchand prospère ayant combattu lors des guerres napoléoniennes, a émigré au Haut-Canada en 1820 avec en main une petite fortune qu'il comptait utiliser pour créer un domaine dans une région encore inexploitée. En contrepartie des services qu'il avait rendus à la Couronne, Pinhey a obtenu, dans le comté de March, une concession militaire de 1 000 acres (405 hectares), située le long de la rivière des Outaouais. Il a rapidement construit une maison en rondins. Dès 1830, on trouvait sur le domaine une grande demeure, une ferme, une scierie et un moulin à broyer le grain.

Le domaine se trouve sur la pointe Pinhey, sur les rives de la rivière des Outaouais. Pinhey lui a donné le nom d'Horaceville en l'honneur de son fils. En 1827, Pinhey a aussi contribué des fonds pour la construction de l'église St. Mary sur un terrain dont il avait fait don à la congrégation et il a aussi construit la première école de la région. Pinhey appartenait au groupe des notables du comté et du district et a été membre du conseil législatif en 1847, préfet du district de Dalhousie et premier préfet du comté de Carleton. À sa mort, en 1857, sa fille et son fils se sont partagé la maison. Peu de temps après, Horace a acheté la part de sa sœur. Le domaine est demeuré dans la famille Pinhey jusqu'en 1971 lorsque les descendants de Mlle Ruth Pinhey l'ont vendu au canton de March. En 1980, la Fondation de la pointe Pinhey a été créée. La maison et le domaine Pinhey de 88 acres (36 hectares) sont exploités comme aire récréative passive et comme lieu historique.

La maison de deux étages et demi à maçonnerie en briques de style géorgien renferme une maison en rondins datant de 1822, une aile en pierre contenant le salon datant de 1825, une aile comportant un hall central/cuisine datant de 1841‑1842 et une aile sud construite entre 1847 et 1849. La maison en rondins originale, qui se trouvait du côté du pignon ouest et qui était reliée à la cuisine d'été originale, s'est effondrée au début des années 1970 et la cuisine d'été a été démolie peu de temps après. Sur la façade nord, les murs extérieurs présentent des pierres de taille équarries; les autres murs sont faits de moellons. À une certaine époque, les murs, à l'exception de ceux de la façade nord, étaient au moins partiellement recouverts de stucco. Dix des 23 bâtiments et des ruines que l'on trouve répartis sur le domaine datent d'avant 1840. L'écurie a été construite en 1822 et les murs entourant la terrasse en pierre derrière la maison, en 1829. La terrasse fortifiée sur laquelle on a installé un canon, l'écurie et le premier poulailler ont été construits en 1830. Le magasin pour la poudre a été construit en 1832 et le fumoir, en 1835. En 1988, la Fiducie du patrimoine ontarien a établi une servitude protectrice du patrimoine dans le but de préserver le bâtiment. La Ville d'Ottawa l'a désigné comme bâtiment à valeur patrimoniale aux termes de la Loi sur le patrimoine de l'Ontario.