El Partido Republicano Federal se constituyó en la época de la Restauración alrededor de la figura de Francisco Pi y Margall, uno de los presidentes de la I República y el principal impulsor del federalismo en España.

Ideológicamente, eran partidarios de la República federal pactista, de la autonomía de provincias y municipios, de la armonía entre las clases sociales y de la justicia social, mientras que en el tema foral se mostraban dispuestos a extender los beneficios de la autonomía foral vasca y Navarra al resto de provincias españolas. Entendían, por tanto, el sistema foral como una muy amplia autonomía compatible con el sistema republicano federal pactista.

En Bilbao, los federales comenzaron su andadura en 1879 integrados en la Unión Democrática, el partido creado por Cosme Echevarrieta y Gaspar Leguina para agrupar a todo el republicanismo bilbaíno. Hasta su constitución formal como partido, los federales se presentaron a las elecciones municipales de 1879 y 1881 en las listas de la Unión Democrática, consiguiendo un acta concejil en la persona de Eduardo Delmas Sagasti.

Tras la ruptura con la Unión, acaecida a finales de 1881, los federales eligieron su primer comité en mayo de 1882. En el manifiesto fundacional del partido afirmaban que se proponían recabar las libertades municipales, los derechos de Vizcaya y los del país Euskaro, y exaltaban la federación de todas las tierras de España. Su órgano de expresión fue el semanario Euscaldun-Leguia, aparecido el 18 de junio de ese mismo año 1882.

Los federales fueron el tercer grupo republicano en importancia en Bilbao en la década de los 80 del siglo XIX. En la década de los 90 su actividad fue menor. Bascularon entre la participación electoral junto al resto de republicanos hasta 1893 y el retraimiento electoral a partir de entonces.