GDI함수중에 Region관련 함수가 있습니다.
CreateEllipticRgn, CreatePolygonRgn, CombineRgn, CreateRoundRectRgn 등으로
검출하기를 원하는 모양의 Region을 만든후 PtInRegion 함수를 사용 해서 해당 영역안에 포함되는
좌표인지 알수있을것 같습니다. 복잡한 영역은 이런 방법으로 구현 하는것으로 보입니다.

unitas 님이 쓰신 글 :
: 첨부한 그림처럼 원에서 1 ~ 6 번 까지 6개의 Sector(부채꼴 모양)가 있다고 할때
:
: 마우스로 클릭했을때 몇번 Sector 에 클릭했는지 알 수 있습니까?
:
: 참고로 각도는 모두 60도로 동일합니다.
: 원 중심점과 각 부채꼴 모양의 꼭지점(적색으로 표시한 조그마한 원)의 좌표는 알고 있습니다.