Klubo ištakos siekia 1921 m. O dabartinis klubas įkurtas 1965 m., kai IF Drott nutraukė savo veiklą.
Tuomet futbolo sirgaliai, dirbantys Oy Jakobstads Rostfria Ab, pradėjo diskutuoti apie naujo futbolo klubo steigimą. „Oy JA-RO Ab“, kuri buvo keletos steigėjų darbdavys, pažadėjo būti pagrindiniu rėmėju. FF Jaro buvo pirmasis klubas šalyje, pasivadinęs pagrindinio rėmėjo vardu. Oficialiai įkurtas 1965 m.gruodžio 18 d. kaip specialus futbolo klubas, o Larsas Gammelgårdas buvo pirmasis klubo prezidentas.
Pastaba: neįskaitomi 1940, 1942 ir 1945–1947 m. sezonai kai nebuvo vieningos lygos, taip pat 1979–1983, 1993 ir 2002 m. į tarpinę lygą iš II diviziono patekę klubai.