Родился 2 июля 1943 года в Саратове в семье ученых-геологов во время эвакуации их семьи с блокадного Ленинграда на Саратов. После окончания геологического факультета ЛГУ, работал в геологической экспедиции. Художественного образования у Рухина не было, но в 1964–1965 годах он был вольнослушателем московского Высшего художественно-промышленного училища, и в то же время увлекся изучением русской иконы.
Рухин начинает самостоятельные поиски в живописи, и раннем его творчестве прослеживается влияние Оскара Рабина и Владимира Немухина, с которыми он дружил.
В его работах можно увидеть эволюцию от абстракционизма и сюрреализма до коллажа и поп-арта. С конца 60-х творчество Рухина становится полностью нонконформистским. Несмотря на короткую жизнь Евгению Рухину удалось стать одним из ведущих мастеров этого течения.