Перша експозиція з 49 робіт була відкрита в 1845 році в частині великого будинку, що належав самому Івану Айвазовському.
Галерея стала першим на території Російської імперії музеєм одного художника, і ще за життя мариніста користувалася великою популярністю. Збори картин в ній постійно змінювалося, так як роботи художника відправлялися на виставки і вже не поверталися. Їх місце займали нові, щойно написані.
Тут же, на спеціально для цього побудованій сцені, виступали багато музикантів і серед них були знаменитий піаніст А. Рубінштейн і композитор А. Спендіаров, актори Маріїнського і Олександрійського театрів Санкт-Петербурга М. і Н. Фігнер і К. Варламов, вірменський артіст- трагік Петрос Адамян і скрипаль Ованес Налбандян.
Уже в той час галерея Айвазовського була центром художнього, музичного та театрального мистецтва в місті. Ці традиції живуть і донині.
Після смерті художника в 1900 році галерея за його заповітом була передана рідному місту художника. «... Моє щире бажання, щоб будинок моєї картинної галереї та місті Феодосії з усіма в ній картинами, статуями й іншими творами мистецтва, що знаходяться в цій галереї, складали повну власність міста Феодосії, і в пам'ять про мене, Айвазовського, заповідаю галерею місту Феодосії, моєму рідному місту ... »- говорить духовний заповіт Айвазовського.
З 1922 року галерея стала державним музеєм.
Експозиція галереї знайомить з творчістю Івана Айвазовського, історією його родини, історією самої галереї. У кімнаті-сейфі експонуються цінні речі родини Айвазовського.
У галереї знаходиться збори з близько 12 тисяч творів морської тематики, в тому числі належить найбільша в світі колекція творів І. К. Айвазовського (417 робіт).
Найбільш відомі серед виставлених робіт - «Бриг" Меркурій ", атакований двома турецькими кораблями», «Севастопольський рейд», «Корабель" Марія "на Північному морі», «Георгіївський монастир», «Море. Коктебель », а також найбільше живописне полотно Айвазовського« Серед хвиль », що має розмір 282 на 425 см.
У сусідній будівлі - будинку сестри художника зібрані картини Айвазовського на міфологічну і біблійну теми, роботи іноземних мариністів XVIII-XIX століть, сучасників великого художника - М. Волошина, Л. Лагоріо, К.Богаєвського, учнів Айвазовського - М. Латрі, А. Фесслера , А. Куїнджі, твори радянських художників.
У 1930 році перед галерей був встановлений пам'ятник Айвазовському роботи скульптора І. Я. Гинцбурга з написом «Феодосія - Айвазовському».