Não, tem que ser não um DLL mas exe. Você não pode associar a extensão de lima com um DLL.
> Como você recomendaria para segurar este?
Este exe novo toma a comando-linha parâmetro
nome de arquivo de /open
ou
nome de arquivo de /edit
e chamadas o exe secundário, um daqueles dois que você já tem.
Ou, em vez da chamada secundário, exe você pôde transferir seu código para cada exe neste exe novo como a sub-rotina, a seguir há somente um exe.
Ou, você muda cada um dos dois projetos existentes do exe ao DLL, e seu exe novo chama aqueles DLL.
Assim, em cada caso há o exe novo que toma o parâmetro /edit ou /open, e chama então o exe separado, ou o DLL, ou sua própria sub-rotina interna.