DLL 에서 메인 쪽으로 메시지를 보내시려면.. 일단 메인의 핸들값을 알아야 겠죠..
DLL을 로드 하실때 메인의 핸들값을 DLL로 보내세요..
간단히 DLL에서 메인의 핸들값을 알면 메시지를 보낼 수 있겠죠..

좀더 자세한 내용은 검색해 보세요.. 비슷한 내용이 있으니까요..

[짧은 예제]
dll.h
extern "C" __declspec(dllexport) void dll_init(HWND hWnd);

dll.c
dll_init(HWND hWnd)
{
    ::SendMessage(hWnd, WM_CLOSE, (WPARAM)0, (LPARAM)0);
}

main.c
dllInstance = LoadLibrary("test.dll");

if(dllInstance)
{
   dllinit = (void (__stdcall *)(HWND)) GetProcAddress(dllInstance, "dll_init");
   dllinit(frm_main->Handle);
}

도움이 되실런지.. ^^ 그럼..