Theo sử sách, Miếu được hình thành từ thời vua Gia Long cách đây hơn 300 năm, trên một cồn đất nhỏ hình chữ nhật khoảng chừng trăm mét vuông. Thuở đó, một bến Miếu là là bến đò, phía bên kia là vùng chuyên canh cây ăn trái của bà con An Phú Đông (quận 12).
Theo các cụ già sống gần khu vực Miếu cổ, thời điểm ấy, có một ngư dân lúc đánh bắt cá đã vớt được một pho tượng mà bà con cho là tượng của bà Thủy Tề. Từ đó người dân cho lập một ngôi miếu thờ bà Thủy Tề tại cồn đất bỏ hoang. Mỗi khi tàu thuyền qua lại nơi này thường ghé miếu cúng viếng để cầu cho mưa thuận gió hòa, buôn may bán đắt.
Trước năm 1975, đây là điểm hành hương nổi tiếng của người dân Sài Gòn nhưng sau đó gần như bị bỏ hoang. Đến năm 1989, một người Hoa tên Lục Câu bỏ tiền sửa sang, khôi phục lại miếu.
Sau nhiều lần trùng tu Phù Châu miếu đã trở nên khang trang và lối kiến trúc đặc sắc pha lẫn nét văn hóa Việt – Hoa.
Với địa thế độc đáo bởi hơn 100 con rồng lớn nhỏ được đặt khắp nơi, ngôi Miếu thu hút hàng nghìn lượt ghé thăm mỗi ngày.
Những ngày đầu năm mới, mọi người thường đến Miếu để cầu an.
Những lời cầu nguyện được viết và gắn lên nhang vòng.
Ngoài cầu an, mọi người còn đưa chim sẻ và cá đến thả tại Miếu.
Tuy nhiên, quãng đường để đến Miếu không mấy đơn giản. Để sang được miếu, khách phải đi đò với giá 10.000 đồng/chuyến. Và cũng do địa thế đặc biệt giữa lòng sông nên miếu thường được người dân gọi là Miếu Nổi.
Du khách đi đò để qua Miếu.
Ngôi Miếu nằm giữa lòng sông.