II Museo ha sede in un edificio del XV secolo, che fu già Granaio della Serenissima, in campo San Biagio , vicino all'Arsenale, il cui complesso è, in parte, tuttora, sotto la giurisdizione della Marina Militare Italiana. 
Il Museo è il più importante nel suo genere in Italia. Oltre l'edificio principale, la cui area espositiva si sviluppa su cinque livelli per un totale di 42 sale espositive, fanno parte del museo il Padiglione delle Navi, situato nell'antica officina remi dell'Arsenale, e la chiesa di San Biagio (XI secolo, ristrutturata nel XVIII secolo), antica chiesa della Marineria della Serenissima prima e poi di quella Austriaca, restituita oggi al culto per funzioni religiose nell'ambito della Marina Militare Italiana, ed anche area espositiva del museo stesso.
II pianterreno dell'edificio principale del Museo ed i primi due piani, sono prevalentemente dedicati alle imprese, ai personaggi e alle attrezzature della Serenissima e della Marina Militare Italiana; testimonianze di altre antiche repubbliche marinare italiane trovano anche spazio nel secondo piano.
In quest'ultimo, una sala è dedicata al Bucintoro, l'imbarcazione da cerimonia del Doge da cui ogni anno, nel giorno dell'Ascensione, il Doge stesso gettava in laguna un anello in segno simbolico dello 'sposalizio' di Venezia con il mare. 

II terzo piano presenta sopratutto modelli e oggetti di imbarcazioni da pesca e imbarcazioni tipiche della laguna veneta; una sala è poi dedicata alle gondole, tra le quali spicca la gondola di Peggy Guggenheim donata al Museo dopo la sua morte; un'altra sala è allestita con preziosi modelli di giunche orientali ed altri cimeli provenienti dalla Cina. 
La Sala Svedese, al quarto piano, è dedicata ai legami tra Venezia e la Svezia e tra la Marina italiana e quella svedese.
Chiude la visita al Museo una nota gentile di omaggio al mare: la preziosa e ricca collezione di conchiglie donata da Roberta di Camerino. Nel Padiglione delle Navi, sono conservate dal vero imbarcazioni tipiche veneziane, imbarcazioni militari, ed una parte della sala macchine del panfilo Elettra di Guglielmo Marconi. Nella Chiesa di San Biagio è conservato, oltre il corpo dell'Ammiraglio Angelo Emo, il 'cuore' di S.A.I. Arciduca Francesco Federico D'Asburgo che alla sua morte ha voluto donarlo a Venezia.