С первой половины 1870-х годов С.М. Третьяков собирал в основном произведения западноевропейской живописи, пользуясь советами И.С. Тургенева и художника А.П. Боголюбова. Ядро коллекции составили картины французских художников: Ж.Л. Давида, К. Коро, Э. Делакруа, Н.В. Диаза, Ш.Ф. Добиньи, Ж. Дюпре, К. Труайона, Г. Курбе, Ж. Бастьен-Лепажа, Э. Месонье, Ж.П. Лоранса, Л.Ж.Ф. Бонна. Третьяков приобретал произведения и других школ: немецкую живопись в его коллекции представляли А. фон Менцель, О. Ашенбах, Л. Кнаус, голландскую — Й. Исраэлс и др., испанскую — М. Фортуни и др. К концу 1880-х гг. в собрании Третьякова насчитывалось 84 полотна западноевропейских художников.
С 1851 братья Третьяковы жили в Лаврушинском переулке, 10, в особняке, который они вместе приобрели. В 1868 году С.М. Третьяков переехал на Мясницкую улицу. В 1871 приобрёл, в 1872—75 по проекту архитектора А.С. Каминского перестроил особняк на Пречистенском бульваре (ныне Гоголевский бульвар, 6). Здесь с самого начала размещалась художественная коллекция С.М. Третьякова, бывали представители московской интеллигенции, художники и музыканты, в том числе П.И. Чайковский, Рубинштейн, И.Е. Репин, однако для свободного посещения собрание было почти недоступно, поскольку С.М. Третьяков подолгу бывал за границей, а с 1889 жил в Петербурге.
По завещанию С.М. Третьякова его коллекция перешла в распоряжение брата. По описи в 1892 в ней значилось 75 картин западноевропейских художников, 8 рисунков, а также несколько картин и скульптур русской школы. Она была перевезена в Лаврушинский переулок и первоначально размещалась в одном из залов, а в 1898 выставлена в двух специально для неё пристроенных залах. В 1925 картины в основном были переданы в Музей изящных искусств, несколько — в Эрмитаж.
Скончался в 1892 году в Петергофе, похоронен в Москве на Даниловском кладбище, в родовом некрополе; в 1948 году — перезахоронен на Новодевичье кладбище в Москве.
