Consigo saber se um ponto está dentro ou não do cilindro determinado pelo lasso:
Se fn(x,y,z) <= 0  o ponto xyz está dentro do cilindro com base determinada pelo lasso. Senão está fora.

Com isso já posso manipular a imagem. Pra cada ponto na imagem procuro saber se ele está dentro ou fora da imagem. Se estiver dentro mantêm a cor se estiver fora perde a cor, ficando transparente (dá pra fazer isso na vtk? - teria que mudar o valor dele pra um valor maluco e fazer a cor desse valor maluco ser transparente.).

O código se encontra em _TesteMyFiltroDeTeste.h