탐색기의 보기 -> 폴더옵션 -> 파일형식을 보면
각 파일 형식마다 지정된 프로그램들이 있고
각 파일 형식의 '편집'을 보면 '명령'을 줄 수 있습니다.
이 '명령'을 ShellExecute의 두번째 파라미터로 줄 수 있죠.

어쨌든,
예를 들어 C:\\Test에 있는 "noname.xls"를 실행하려면

ShellExecute(Handle, "open", "C:\\test\\noname.xls", NULL, NULL, SW_SHOW);

또는

ShellExecute(Handle, "open", "noname.xls", NULL, "C:\\test\\", SW_SHOW);

하시면 됩니다.