Nơi đây vốn là trại Kim Mã, thuộc vùng Thập tam trại, nằm ở phía tây nam kinh đô Thăng Long. Xưa kia, đây từng là pháp trường và nghĩa địa. Vì vậy, người dân đã lập ra một am nhỏ để cúng vong linh. Vào năm 1789, khi Vua Quang Trung đưa quân về thành Thăng Long và đại chiến với quân Mãn Thanh ở Đống Đa, hàng nghìn liệt sĩ Tây Sơn tử trận đã được quy tập về thôn Mã Trại, tạo thành một nghĩa trang...

Chùa Kim Sơn có kết cấu kiểu “nội công ngoại quốc” với phong cách nghệ thuật cuối thời Nguyễn. Khách vào chùa theo ngũ môn quan rộng 50m. Qua cửa là con đường dẫn vào chính điện, đi qua hai nhà tả - hữu mạc nằm ở hai bên một khu vườn. Giữa vườn là pho tượng Bồ Tát đứng trên hồ bán nguyệt. Phía sau là bức bình phong, hai bên có các tháp mộ cổ.

Ngoài ra, đền thờ Mẫu nằm ở bên trái tòa Tam Bảo, phần hậu cung nằm ở phía trong cùng, cũng đặt nhiều khám thờ. Phía sau cùng các tòa Tam Bảo, Vạn Linh.. có khu nhà Hậu để thờ các vị sư trụ trì chùa Kim Sơn đã viên tịch.

Hiện nay, vào ngày mùng 5 Tết âm lịch, Chùa cùng nhân dân cả nước tổ chức lễ hội nhằm mục đích ghi nhớ công ơn của các chiến sĩ đã ngã xuống vì đất nước.

Có thể nói, chùa Kim Sơn có một bề dày lịch sử quan trọng đối với đất nước, dân tộc và cả lịch sử của Phật giáo, góp phần to lớn về mặt lịch sử, văn hóa và tinh thần có giá trị vô cùng thiêng liêng, to lớn.

Bên cạnh đó, Chùa còn có nhiều pho tượng gỗ có giá trị kiến trúc, nghệ thuật rất cao. Hiện nay, chùa đã được Bộ Văn hoá công nhận là Di tích lịch sử - Văn hóa Quốc gia.