Vejo vários problemas prováveis aqui:

1. Você usa as cores “primárias” erradas
2. A qualidade das suas tintas pode ser baixa
3. Você tenta replicar um certo pigmento sem realmente usar este pigmento

Vejamos este problema de baixo para cima (de curto para longo):

Pigmento errado

Burnt umber é um certo pigmento. É feito de terra marrom real (acho que contém muita ferrugem, mas não tenho certeza sobre isso). A maneira mais fácil de o obter seria comprar um tubo de tinta com o pigmento correcto nele.

Replicar a mesma cor com pigmentos diferentes é possível, mas difícil. Nossa percepção da cor depende do comprimento de onda de luz que uma substância reflete. Se as propriedades físicas de 2 tintas refletem comprimentos de onda menores ou diferentes, a cor parece baça ou tem uma tonalidade diferente. Em geral, as tintas mistas tendem a ser menos brilhantes do que as tintas puras. Se você quiser um guarda-chuva queimado, você não pode ficar mais puro do que usar um guarda-chuva queimado real.

Tintas de baixa qualidade

Se você tiver uma dessas caixas padrão de tinta escolar, a qualidade de cada tinta é provavelmente baixa (para manter os custos baixos). Uma cor pode ser composta por vários pigmentos diferentes, por isso misturá-los resulta muitas vezes em cores lamacentas ou calcárias.

Se você tiver tintas de “estúdio”, “faculdade” ou “artista”, a qualidade deve ser melhor. Muitas vezes têm apenas um tipo de pigmento na tinta, uma maior quantidade de pigmentos e os pigmentos são muito mais finos do que nas tintas de baixa qualidade.

Mas mesmo as tintas de maior qualidade não agem exactamente como mostradas na roda de cor, porque contêm aditivos e ligantes que ligam o pigmento perdido numa tinta utilizável. Especialmente cores claras como o amarelo muitas vezes contêm aditivos para torná-las mais opacas. Os pigmentos em si são partículas de pó coloridas, por isso, misturar um pó com outro pó não vai produzir uma cor perfeitamente brilhante. Você sempre perde algum brilho ao misturar tintas, então usar tintas puras na tonalidade desejada é geralmente considerada a melhor opção.

O único meio puro o suficiente para misturar todas as cores da roda de cor é a tinta (dado que você tem as cores primárias certas…), porque não contém aditivos para torná-la opaca. Mesmo a mais alta qualidade de tinta é, por definição, demasiado baixa para misturar todas as cores de uma forma pura e brilhante.

Cor “primária” errada

Este é um erro muito típico, não só para principiantes. Na escola os professores nos dizem que as cores primárias são vermelho, azul e amarelo. As caixas de pintura contêm vermelho, azul e amarelo. As cores primárias reais ao usar tintas são Magenta, Cyan e Yellow.

A luz branca é uma composição de todas as cores visíveis. Se brilhar uma luz vermelha em um ponto, então adicione uma luz azul e finalmente uma luz verde, o centro onde todas as cores se somam, é o branco. Isto é chamado de cor aditiva. Isto aplica-se a todas as telas de TV ou computador e em qualquer lugar onde a cor é feita misturando luz.

Se misturar tinta vermelha, azul e verde em um papel, você acaba com o preto, no entanto. As suas tintas não funcionam da mesma forma que a luz. Você precisa tirar a cor (subtrair da mistura) para acabar com o branco. Isto é chamado de cor subtrativa. Isto aplica-se a todas as impressoras ou tintas e em qualquer lugar onde a cor é feita pela mistura de substâncias.

As cores principais das cores aditivas são: vermelho, verde, azul. (RGB)
As cores primárias das cores subtrativas são: ciano, magenta, amarelo. (CYM ou CYMK)

(Fonte da imagem e informações mais detalhadas)

E aqui está outro exemplo de roda de cor CYM que mostra como as cores adjactivas se misturam:

Vemos o castanho no centro da roda, a meio caminho entre o magenta e o vermelho. Você precisa ter em mente que o verdadeiro ponto central do rebolo é preto, mas não foi exibido aqui. Então, como se chega ao castanho?

• Comece com o magenta e adicione um pouco de amarelo para o deslocar para o vermelho. Este deslocamento irá acontecer na margem exterior da roda, porque mistura as cores adjacentes.
• Adicionar na cor complementar (cyan) para o deslocar para o centro da roda. Quanto mais ciano você adicionar, mais você desloca a cor para o centro, que é preto.

Pode parecer trivial e você pode não entender porque o magenta é tão importante se tudo o que fizemos foi basicamente misturar verde e vermelho para ficar marrom, mas o vermelho “puro” já contém muito amarelo e adicionar verde coloca ainda mais amarelo na mistura. Se vermelho é sua cor “primária”, você não pode misturá-lo com nada para remover o amarelo da mistura. Adicionando mais azul “puro” à mistura, ele se desloca ainda mais para o centro preto da roda. Você não tem chance de atingir o ponto doce de um marrom quente porque esta porção da roda de cor entre vermelho e azul não está disponível para você.

Essa também é a razão pela qual você não pode misturar o violeta do vermelho com o azul. O vermelho contém um pouco de amarelo, que é exatamente o oposto do azul. Ao misturar ambos juntos você desloca a tonalidade para o centro preto e acaba com uma violeta feia e lamacenta em vez da muito brilhante mostrada a meio caminho entre o magenta e o azul. Você precisa de magenta pura sem um toque de amarelo para obter uma bela violeta sem um toque de marrom lamacento ou cinza.

Dê uma olhada neste vídeo do Youtube (desculpe, é só em alemão e sua voz é meio irritante, mas ela mostra a diferença entre as cores primárias errada e certa em ação).
Em 10:00 minutos, ela faz uma roda de cores com vermelho, azul e amarelo e mostra como as cores parecem lamacentas e feias.
Em 12:00 minutos, ela repete o mesmo processo com magenta, ciano e amarelo. Vejam a diferença!