Открытие Ростовского областного музея изобразительных искусств официально состоялось в 1938 году, однако формирование собрания имеет более давнюю историю. Еще в начале ХХ века в Ростове-на-Дону было создано Ростово-Нахичеванское общество изящных искусств, на выставках которого экспонировались произведения художников из разных городов России, вошедшие затем в частные коллекции местных меценатов, а после революции поступившие в музей. В 1959 году музей переехал в историческое здание на улицу Пушкинскую, 115.

В 2009 году музей был открыт на проспекте Чехова, 60. Во втором по счету здании РОМИИ были сформированы залы западноевропейского искусства, зал для сменных выставок современного искусства и залы, посвященные искусству Востока (Китай, Япония). На первом этаже здания расположилась детская художественная галерея. Весь четвертый этаж заняли отдел хранения и реставрационная мастерская.

Зарубежное собрание отражает основные процессы развития искусства XVII–XIX веков в странах Западной Европы. В его фондах представлены все основные европейские школы этого периода: итальянская, голландская, фламандская, французская и немецкая. Среди них произведения караваджиста Маттиа Претти «Игра в кости», венецианца Джулио Карпионе «Вакханалия», скульптура Антонио Кановы «Пишущий мальчик» и многое другое. Доминантой коллекции Западной Европы является полотно мастерской Питера Пауля Рубенса «Сусанна и старцы».

Интересны произведения французских художников XVII веков: Жана Франсуа де Труа «Пейзаж со стадом», Пьера Андрие «Геракл находит Фиало и Эхмагора» и других. Гордость музея – работы французского скульптора Клодиона (Клода Мишеля) «Помона», «Сатир и вакханка», «Пьяный Силен».

Частью зарубежного собрания являются произведения искусства народов Востока. Среди них наиболее ярки фарфор, резная кость, табакерки Китая XVIII века, несколько редких лубков и японские нэцкэ. Украшением восточной коллекции служат две каменные скульптуры близнецов небожителей «Братья Хе-Хе», датируемые XII столетием.

В настоящее время музей активно занимается научно-просветительской деятельностью, организовывает циклы тематических лекций по искусству «Городской лекторий». Детская художественная галерея ежедневно проводит творческие мастер-классы с ведущими преподавателями живописи. Музей регулярно привлекает музыкальные коллективы для организации совместных концертов. Для современных художников музей предоставляет возможность выставочной деятельности в своих залах.