Józef Graczyński początkowo uczył się malarstwa w Poznaniu na kursach Jaroczyńskiego i Krajewskiego. W 1889 roku przebywał kilka miesięcy w Berlinie, Monachium, w Dreźnie i w Krakowie. W 1901 roku został współzałożycielem Stowarzyszenia Artystów Malarzy. Malował akwarelą i olejno, podejmował najchętniej temat portretu i pejzażu. Najczęściej były to motywy krajobrazowe Wielkopolski. Działał i wystawiał przede wszystkim w Poznaniu, ale również brał udział w wystawach odbywających się w Krakowie, Warszawie, Berlinie i Paryżu. W 1944 roku zaprezentowano jego dzieła na wystawie malarstwa polskiego w Nowym Jorku. Dzisiaj jego dzieła przechowywane są między innymi w zbiorach Muzeum im. L. Wyczółkowskiego w Bydgoszczy i w Muzeum w Lesznie.