Евгений Маргулис родился 25 декабря 1955 года в Москве. Отец — Шулим Залманович Маргулис (1918—1990) — инженер. Мать — Бронислава Марковна Маргулис (1918—2003) — учительница русского языка и литературы. Старший брат — Марк Маргулис (р. 1953).
Из-за того, что родители то расставались, то сходились, мальчик жил у бабушки Беллы Баруховны. В детстве Женя мечтал стать космонавтом или танкистом.
Будущий музыкант окончил школу, техникум, музыкальное училище, а затем — медицинское училище. А вот учебу в мединституте он забросил — ради карьеры музыканта.
В 1975 году 19-летний Маргулис был принят бас-гитаристом в группу «Машина времени».
В 1979 году Маргулис вместе с Сергеем Кавагоэ ушёл от Андрея Макаревича в группу «Воскресение», а с с 1980 года стал бас-гитаристом «Аракса».
В 1993 году вместе с Андреем Макаревичем участвовал в создании программы «Смак» на 1-м канале Останкино.
С ноября 2015 по январь 2017 года вёл авторскую телепередачу «Квартирник у Маргулиса» на канале «Че».
С 9 сентября 2017 года это программа выходит на НТВ.
Жена — Анна Борисовна Маргулис (дев. Торбан), семейный психотерапевт (поженились 11 сентября 1984 года)
Сын — Даниил Маргулис (род. 21 января 1986 года)
Заслуженный артист Российской Федерации (22 ноября 1999 года) — за заслуги в области искусства
Орден Почета (24 июня 1999 года) — за заслуги в развитии музыкального искусства