Você pode impedir que o menu de contexto padrão apareça
manipulando o evento ContextMenuOpening
e configurando
ContextMenuEventArgs.Handled
para true.
Quanto à barra de ferramentas, não tenho certeza - talvez você
poderia de alguma forma alterar o estilo padrão do DocumentView
para não incluir a barra de ferramentas? Eu nunca fiz muito com
estilos, mas é provavelmente onde eu começaria a procurar.