Brimnes var tidligere en fergeterminal. Fra 1934 gikk det ferger over Hardangerfjorden her – først til Ulvik, senere til Bruravik på nordsiden. Overfarten tok omtrent 12 minutter, og fergene gikk hvert 20. minutt om sommeren.
Alt dette tok slutt 17. august 2013, da Hardangerbroen åpnet. Den gamle fergekai er fremdeles synlig.