A Jósa András Múzeum képzőművészeti gyűjteményét az intézmény egykori igazgatója, Kiss Lajos alapította. A neves néprajzkutató azon törekvése, hogy a már meglévő régészeti és néprajzi gyűjtemények mellett egy képtárat hozzon létre, valószínűleg hódmezővásárhelyi élményeinek hatására születhetett. Kiss Lajos kapcsolatban állt Tornyai Jánossal, Endre Bélával, Várady Gyulával és baráti viszonyok fűzték Rudnay Gyulához is. Az ő segítségükkel kezdett a képtár megalapításához még 1921-ben. Jelentős Tornyai, Rudnay, Hegedűs László és Endre Béla alkotások kerültek a múzeum gyűjteményébe ily módon még az adott évben.

Az első évtized gyűjtése nehézkesen ment és 1933-ra is csupán 53 tétel szerepelt a képzőművészeti anyagot nyilvántartó leltárban. A háborús évek sem kedveztek a műtárgygyarapításnak, a II. világháború végére a képzőművészeti gyűjtemény állománya mindössze 150 darabot számlált.

A múzeumnak új épületbe (egykori Pénzügyigazgatóság) való átköltözése után, Dr. Németh Péter címzetes megyei múzeumigazgató és a múzeum akkori művészettörténésze, Koroknay Gyula új stratégiát dolgoztak ki a képzőművészeti gyűjtemény gyarapítására. A stratégia lényege abban állt, hogy elsősorban a Nyíregyházán és Szabolcs-Szatmár megyében élő és dolgozó, illetve az innen elszármazott művészek alkotásaival igyekeztek gazdagítani a múzeum gyűjteményét. (Ez a gyarapítási koncepció mindmáig érvényben van.)

A legjelentősebb gyarapodások 1970-1998 között történtek. A gyűjtemény nagy részét ezért is a kortársművészeti alkotások teszik ki. Olyan rangos, helyi művészek alkotásai találhatók meg múzeumunkban mint: Barzó Endre, Berecz András, Diószegi Balázs, Huszár István, Kádas István, Ősz Dénes, Pál Gyula, Sebestyén Sándor, Schubert Ernő, Szikora Tamás, Váci András és még sorolhatnánk.

A kortársművészeti alkotások gyűjtése mellett, a múzeum mindig is nagy gondot fordított, a már meglévő kollekciók bővítésére, a helyi jelentőségű, régebbi korok művészetét dicsérő alkotások gyűjtésére.

A mintegy 46 darabot számláló Benczúr gyűjtemény, melyet a festő özvegye (Ürmössy Boldizsár Kata Piroska) 1921-ben adományozott Nyíregyházának, 1950-ben került múzeumunk nyilvántartásába, és azóta is folyamatosan gazdagodik.

Képzőművészeti gyűjteményünkben található többek között a XVIII. század végén keletkezett, Wrabetz Franz nevéhez köthető ún. „Vármegyei-ősgaléria”, de a gyűjteményünkhöz tartoznak a Vay család tagjairól készült XVIII-XIX. századi portrék is. A festmények és grafikák mellett különleges egységet alkotnak a képzőművészeti gyűjtemény keretén belül Petrikovics László, egykori orvos, múzeumalapító és műgyűjtő emlékérmei, plakettjei, melyek száma elérte a 180-at.

Ugyancsak külön kollekciót képeznek a gyűjteményen belül Schubert Ernő  alkotásai, melyek 1971-ben, mint a Magyar Nemzeti Galéria ajándéka kerültek a múzeumba, valamint a berlini származású Büttner Helén rajzai, vázlatai és festményei. A 97 darabból álló Büttner anyag egy része minden bizonnyal Anarcson, a Czóbel kastély körül születhetett, ahol Büttner Helén éveken át szívesen látott vendége volt Czóbel Minkának.

Mindezek mellet 2007 óta kortárs fotógráfia gyűjtésével is foglalkozunk, mely korábban nem volt gyakorlatban a Jósa András Múzeumban.