COM только работает для 32 систем бита оперативных или бита 64 в совместимом режиме. Он не может побежать в 64ом-разрядн родном режиме.
Вам нужно использовать 2 setup проекта (одного для бита 32 и другого одного для 64 битов) и составлять ваше rpogram для anyCpu.