Чтобы чужая собака перестала метить вашу территорию, надо, чтобы эта территория была помечена кем-нибудь более сильным и главным, чем эта собака. Если у вас есть своя собака, то все просто. Тщательно убираете все метки чужака, протираете эти места лимонным соком и затем наносите туда и по периметру территории метки вашей собаки (соберите, как вы собираете анализ мочи и разбрызгайте, накапайте на столбики вокруг вашего участка.) Только не на обычную собачью высоту, а повыше, типа ОГРОМНАЯ собака здесь теперь живет! Если у вас нет своей собаки - можно воспользоваться вашими вещами - носками после дня носки, майкой после тренировки.... Знаю случай когда на дачу повадился выгуливаться здоровенный кавказец от соседей и избавились только после того, как хозяин дачи (правда в присутствии собаки) самолично ...обписал все столбики, стараясь попасть повыше. Попробуйте! Было бы проще, если бы вы все-таки смогли застать эту собаку. Тогда бы вам просто понадобилось доказать, что вы сильнее и главнее и отныне вы будете метить здесь, это ваша территория. Как это сделать - писать не буду, все зависит от ситуации и от личности собаки.
Можно попробовать натянуть по периметру вашего участка леску и к ней прикрепить баночки (жестяные) из-под напитков с камешками внутри и с заклеенным отверстием. Как только собака заденет леску - баночки резко загремят, собаки этих звуков очень не любят. Опять же раз рядом никого нет, а противный звук раздается каждый раз при приближении к этому месту - значит это естественное последствие приближения - лучше не ходить! И вы, услышав грохот, успеете выскочить и прогнать....