Schoubyes Sø opstod, da man i årene op til 1960 anlagde [[Nordre Ringvej]] og stod manglede fyldjord til konstruktion af viadukten over den daværende [[Langåbanen|Langåbane]] og til broen over [[Gudenåen]], hvor denne forlader [[Silkeborg Langsø]].
Der blev derfor rettet henvendelse til skovrider Schoubye, om det var muligt at hente fyldet i en bakke i Nordskoven tæt ved [[ÅrhusvejenÅrhusvej]]. Skovrideren kunne dog ikke acceptere, at et af skovens gode udsigtspunter forsvandt. Til gengæld kunne han tilbyde, at man kunne skaffe jord ved at grave en sø i [[Hårup Sande]].
Aftalen blev truffet i februar 1958 og arbejdet gik derefter i gang i løbet af foråret. Skovrideren havde også tænkt på detaljerne. Der skulle ved udgravningen stå nogle småøer tilbage, så jordrugende fugle kunne være i fred for rævene – det er forklaringen på søens tre små øer.