Во времена Екатерины II, в 1787 году, его сын Алексей Иванович основал собственное чайное дело, начав оптовую закупку чая в забайкальской Кяхте у китайских поставщиков и его розничную продажу мелкими партиями в чайных лавках Москвы. Смекалистый купец продавал товар дешевле своих конкурентов и в количествах «потребных покупателю» — хоть на копейку. Снизить цены позволил отказ от услуг посредников и открытие в Кяхте собственной конторы по закупке чая и сахара у китайцев. И в том, что к чаю пристрастился простой обыватель, а Первопрестольная со временем превратилась в чайную столицу, — немалая заслуга купцов Перловых.
В 1807 году за безупречную деятельность в популяризации чая распоряжением Сената Алексею Ивановичу было позволено принять фамильное прозвище Перлов (от слова «перл» — жемчуг) в качестве официальной фамилии. Согласно семейной легенде, когда-то на дне чистой тогда реки Яузы в районе Рогожской слободы, где проживал Иван Михайлович, находили раковины-жемчужницы. Предположительно предки Перловых занимались добычей жемчуга, отсюда и пошла фамилия чайных королей.
Внуку Ивана Михайловича Василию Алексеевичу удалось завоевать уже не только российский чайный рынок, но и покорить Европу. В 1860 году он основал Торговый дом «Василий Перлов с сыновьями», который к концу века имел уже восемьдесят восемь магазинов в России, а также в Берлине, Вене, Париже, Гельсингфорсе, Варшаве и Ревеле. При этом в качестве товара никто не сомневался. Всем было известно, что Василий Алексеевич возит китайский лист по суше караванными путями, к тому же фасует его по сортам. Оттого его чай никогда не горчил, был ароматным и вкусным.
После смерти Василия Перлова в 1869 году чайная империя, годовой оборот которой составлял шестнадцать миллионов, отошла двум его сыновьям — Семену и Сергею. Первому достался фамильный дом на 1-й Мещанской улице, второй получил отцовскую усадьбу на Мясницкой, 19. Спустя десять лет старший из братьев Семен Васильевич умер и его долю в семейном предприятии унаследовали сыновья — Василий, Иван и Николай. Но Василий ненадолго пережил отца, Иван, увлекшись сельским хозяйством, отошел от дел, и фирмой управлял практически единовластно младший Перлов — Николай Семенович.