Первая экспозиция была открыта в 1845 г. в части дома, принадлежавшего самому Ивану Айвазовскому. По завещанию художника галерея была передана родному городу после его смерти в 1900 г. С 1922 г. стала государственным музеем. В коллекции музея около 12 тыс. произведений морской тематики, в том числе самая большая в мире коллекция произведений Айвазовского.