清光緒九年(1883年),清廷創辦北洋海軍,辟大連灣、旅順口、威海衛、膠州灣為屯泊口岸,選擇了威海衛劉公島為基地。其後,“設提督一員統領全軍操防事宜,歸北洋大臣節制調遣,設威海行營以為提督辦公之所”(見光緒《文登縣誌·關隘》。
海軍公所舊影整個建築畫棟雕梁,精描彩繪,朱紅圓柱,青瓦飛檐,為古典宮廳式建築。建築為磚木舉架結構形式,是抬梁式和穿斗式相結合的構造方式。整座建築分前、中、後三進院落,每進有中廳、東西側廳和東西廂房。各廳、廂、院落,畫棟雕梁,渾然一體。院內東南角建有演武廳,建築風格中西合璧,空間寬闊,內有挑檐式舞台一座,1891年李鴻章巡閱北洋海軍,曾在此廳觀禮,並在廳前檢閱艦隊操演。
海軍公所1977年12月列為山東省重點文物保護單位。1978年進行整修。內設甲午戰爭展覽廳、蠟像館等八個展廳,陳列中日甲午戰爭的歷史文物和史料。1988年列為國家重點文物保護單位,屬劉公島甲午戰爭紀念地保護範圍的主要部分。
“海軍公所”四字為李鴻章所題