CodeDom gera os conjuntos, e você pode gerá-los na memória, ou ao disco. A classe de CompilerParameters tem as propriedades de GenerateInMemory e de GenerateExecutable, que podem controlar como e onde o código é gerado.
Exemplo:
Calculadora de CodeDom - expressões de avaliação da matemática de C# dinâmicamente
http://www.c-sharpcorner.com/uploadfile/mgold/codedomcalculator08082005003253am/codedomcalculator.aspx