안녕하세요?
표준국어대사전에서는 '거부'를 '요구나 제의 따위를 받아들이지 않고 물리침.'으로, '거절'을 '상대편의 요구, 제안, 선물, 부탁 따위를 받아들이지 않고 물리침.'으로 뜻풀이를 하고 있습니다. 그리고 '거부'와 '거절'을 비슷한 말로 제시하고 있습니다.
다만, 질문하신 것과 같이 실제 쓰임에 있어서는 맥락에 따라 차이를 보일 수 있는데요.
이는 의미, 화용, 어휘 등의 전문가 연구 영역으로 보입니다.
따라서 관련 전문 분야의 서적이나 논문 등을 찾아보시기를 권해 드립니다.
감사합니다.