Chaituu - eu não sou certo mim compreendo 100% a edição, mas minha recomendação baseada em sua descrição é criar a janela emergente diretamente dentro do flash. Supor que seu componente instantâneo já cobre a área que você quer ter a janela emergente dentro, esta é uma maneira melhor de ir, evita erros potenciais do navegador, conserva-o que tem que tratar o Flash ExternalInterface e Javascript, e faz simples criar uma janela chromeless.
Você pode igualmente então fazer coisas frescas como o borrão para fora o fundo ou põr uma folha de prova transparente sobre elementos inativos.
Naturalmente, isto exigiria um pouco da programação no flash - Im que supor o têm aqueles recursos já porque você está indo provocar estes popups dentro do flash.
Se você precisa mais ajuda, afixar por favor alguns específicos sobre como você quer o emergente trabalhar.
Considerações,
Tom