Всего 80 самоцветов.
яшмы 17 
кварца в 6 раз больше малахита 

Решить задачу уравнением ничего не пойму десятки лезут.
Как решить?

Пусть малахита х, тогда кварца 6х. По условию задачи яшмы было 17, а всего самоцветов 80.
Составим и решим уравнение:
6х+х+17=80
7х=63
х=9
9- малахит
6*9=54- кварц

Как-то так..

80–17=63
х+х*6=63
9+9*6=63
малахита 9,кварца 54.