Rossi était né à Venise. Après avoir obtenu son doctorat à l'université de Bologne, il commença sa carrière en 1928 comme assistant à l'institut de physique de l'université de Florence où il fit ses premières découvertes sur la nature des rayons cosmiques. En 1932, il fut appelé par l'université de Padoue comme professeur de physique expérimentale. Là, en plus de l'enseignement et de la recherche, Rossi conçut le nouvel institut de physique de l'université et supervisa sa construction. A l'automne 1938, il fut démis de son poste suite à des décrets raciaux du régime fasciste. Rossi et sa femme, Nora, quittèrent l'Italie et se rendirent en Amérique après de brèves haltes à Copenhague au Danemark et à Manchester au Royaume-Uni.