Ngày xưa, rất xưa, ở kinh đô Kyoto, người ta truyền tai nhau một chuyện khiến ai nghe cũng lạnh gáy. Họ bảo cứ lúc chạng vạng, có một con quỷ hiện ra ở cổng Rashomon, gặp ai đi ngang qua là chộp lấy mang đi. Những người mất tích không bao giờ trở về, nên dân chúng thì thào rằng con quỷ ấy ăn thịt người. Từ đó, cả kinh đô lẫn các làng quanh đấy đều sợ hãi. Hễ mặt trời vừa lặn, không một ai dám bén mảng tới gần cổng Rashomon nữa.
Thời ấy, ở Kyoto có vị tướng tên là Raiko, lừng danh khắp nước vì lòng can đảm. Trước đó ít lâu, ông đã đánh lên núi Oeyama, dẹp tan cả một bầy quỷ dữ và chém đầu tên quỷ đầu sỏ của chúng. Bên ông luôn có một đoàn hiệp sĩ trung thành, trong đó nổi bật nhất là năm người. Một tối, năm hiệp sĩ ngồi cùng mâm, rót rượu sake vào bát, gắp cá sống, cá kho, cá nướng, nâng chén chúc nhau. Đang vui, hiệp sĩ thứ nhất là Hojo hạ giọng hỏi: Các anh đã nghe đồn chưa? Chiều nào cũng có một con quỷ ra cổng Rashomon bắt người qua đường đấy.
Hiệp sĩ thứ hai là Watanabe gạt đi: Đừng nói chuyện vớ vẩn! Chủ tướng Raiko của chúng ta đã diệt sạch bọn quỷ ở Oeyama rồi. Dù có con nào sót lại, nó cũng chẳng dám ló mặt vào kinh thành này. Hojo hỏi lại: Vậy anh cho rằng tôi nói dối sao? Watanabe đáp: Tôi không bảo anh nói dối, chỉ là anh nghe chuyện của mấy bà già, chẳng đáng tin đâu. Hojo bèn nói: Thế thì cách tốt nhất là anh tự đến đó mà xem thật hay không. Watanabe không chịu được ý nghĩ bạn mình tưởng mình sợ, liền đáp ngay: Được, tôi đi ngay bây giờ!
Watanabe lập tức sửa soạn. Chàng đeo thanh gươm dài, khoác áo giáp, buộc chiếc mũ trụ lớn lên đầu. Trước khi đi, chàng bảo các bạn: Hãy đưa ta một vật gì để làm chứng là ta đã tới đó. Một người lấy cuộn giấy, nghiên mực và bút lông, rồi cả bốn người cùng ký tên lên một tờ giấy. Watanabe cầm lấy mà rằng: Ta sẽ dán tờ này lên cổng Rashomon. Sáng mai các anh cứ ra đó mà xem. Biết đâu đến lúc ấy ta đã tóm được một hai con quỷ rồi cũng nên! Nói xong, chàng nhảy lên ngựa, phóng đi rất hiên ngang.
Đêm ấy tối đen như mực, không trăng cũng chẳng có lấy một vì sao. Rồi giông bão kéo tới, mưa trút xối xả, gió rú lên như bầy sói trên núi. Người thường hẳn đã run sợ chẳng dám bước chân ra khỏi cửa, nhưng Watanabe là kẻ gan dạ, danh dự và lời hứa của chàng đang bị đem ra thử, nên chàng cứ thế lao vào màn đêm. Ở nhà, bốn người bạn lắng nghe tiếng vó ngựa xa dần rồi tắt hẳn. Họ kéo kín cửa, ngồi quây quanh lò than, ai cũng thầm hỏi không biết bạn mình có gặp phải con quỷ hay không.
Cuối cùng Watanabe tới cổng Rashomon. Chàng căng mắt nhìn vào bóng tối mà chẳng thấy bóng dáng con quỷ nào. Chàng nghĩ bụng: Đúng như ta đoán, làm gì có quỷ, chỉ là chuyện của mấy bà già. Ta dán tờ giấy lên cổng cho bọn họ sáng mai ra xem, rồi về nhà cười vào mặt họ. Chàng dán tờ giấy có chữ ký lên cổng, rồi quay đầu ngựa. Đúng lúc ấy, chàng thấy có ai đó sau lưng, một giọng nói gọi chàng đứng lại, rồi chiếc mũ trụ bị túm chặt từ phía sau. Watanabe không chút run sợ, hỏi: Kẻ nào đó? Chàng đưa tay sờ ra sau và chạm vào một thứ giống cánh tay, phủ đầy lông, to như thân cây. Biết ngay đó là tay quỷ, chàng rút gươm chém một nhát thật mạnh.
Một tiếng gào đau đớn vang lên, rồi con quỷ nhảy ra chắn trước mặt người hiệp sĩ. Watanabe trợn tròn mắt kinh ngạc. Con quỷ cao hơn cả cổng thành, đôi mắt loé lên như gương phản ánh nắng, cái miệng khổng lồ há rộng, mỗi lần thở lại phun ra những lưỡi lửa. Nó định làm chàng khiếp vía, nhưng Watanabe không hề nao núng. Chàng xông vào đánh bằng hết sức mình, hai bên quần nhau rất lâu. Thấy không doạ được, cũng không thắng nổi, sợ mình sẽ thua, con quỷ quay đầu bỏ chạy. Watanabe thúc ngựa đuổi theo, nhưng con quỷ chạy nhanh hơn ngựa, chẳng mấy chốc đã khuất dạng trong đêm.
Watanabe quay lại chỗ vừa giao chiến, xuống ngựa, thì vấp phải một vật nằm trên mặt đất. Cúi xuống nhặt lên, chàng thấy đó chính là một cánh tay khổng lồ của con quỷ, bị chàng chém đứt trong lúc đánh nhau. Chàng mừng lắm, vì đây là bằng chứng không ai cãi được. Chàng mang nó về nhà. Bạn bè thấy vậy đều tôn chàng là người anh hùng của cả nhóm và mở tiệc lớn mừng chàng. Chẳng mấy chốc tin ấy lan khắp Kyoto, người gần người xa kéo nhau tới xem cánh tay quỷ.
Nhưng rồi Watanabe bắt đầu lo. Chàng biết con quỷ vẫn còn sống, và sớm muộn gì, khi hết sợ, nó sẽ quay lại đòi cánh tay của mình. Vì vậy chàng cho đóng một chiếc hòm bằng thứ gỗ chắc nhất, đai sắt quanh mình. Chàng đặt cánh tay vào đó, niêm phong nắp hòm nặng trịch và không mở cho bất cứ ai xem. Chàng để chiếc hòm ngay trong phòng mình, tự tay canh giữ, không lúc nào rời mắt.
Một đêm, có tiếng gõ cửa. Người hầu ra xem thì chỉ thấy một bà cụ, dáng vẻ đứng đắn. Bà mỉm cười nói mình từng là vú nuôi của chủ nhà khi ông còn bé, xin được gặp mặt. Watanabe thấy lạ vì bà tới vào giờ khuya khoắt, nhưng nghĩ tới người vú già từng thương mình như mẹ, lâu lắm chưa gặp, lòng chàng chợt mềm lại, bèn cho mời vào. Chào hỏi xong, bà cụ nói: Chuyện cậu đánh nhau với quỷ ở cổng Rashomon lan tới tận tai vú. Có thật cậu chém đứt tay nó không? Trước khi nhắm mắt, vú chỉ mong được nhìn cánh tay ấy một lần. Watanabe đáp: Con xin lỗi, nhưng không được. Quỷ là giống thù dai, mở hòm ra thì biết đâu nó hiện tới cướp lại.
Bà cụ gật gù: Cậu cẩn thận như thế là phải. Nhưng vú là vú nuôi của cậu, chẳng lẽ cậu cũng không cho vú xem? Vú vừa nghe tin đã không đợi được tới sáng mà tìm đến ngay. Watanabe khổ sở lắm, nhưng vẫn lắc đầu. Bà cụ hỏi: Hay cậu ngờ vú là tay sai của con quỷ? Chàng vội nói: Không, vú là người nuôi con, con nào dám ngờ. Bà liền tiếp: Vậy thì cậu chẳng còn cớ gì mà từ chối nữa. Đời vú chỉ ước được thấy tay quỷ một lần thôi. Watanabe không cứng lòng được nữa, đành nói: Thôi được, vú đã muốn đến thế thì con cho vú xem. Vú theo con.
Vào phòng, Watanabe đóng cửa cẩn thận, tới góc phòng nhấc chiếc nắp nặng của hòm lên và gọi bà cụ lại gần. Bà cụ vui mừng nói: Nó trông thế nào? Cho vú nhìn kỹ một chút. Bà rón rén bước tới như sợ hãi, cho tới khi đứng sát mép hòm. Bỗng bà thọc tay vào hòm, chộp lấy cánh tay, gào lên một tiếng làm rung cả gian phòng: Ha! Ta lấy lại được tay ta rồi! Trong chớp mắt, bà lão biến thành con quỷ khổng lồ ghê rợn. Watanabe sững người một lúc, rồi nhận ra chính con quỷ ở cổng Rashomon, chàng rút gươm nhanh như chớp chém tới. Nhưng con quỷ đã nhảy vọt lên trần, phá thủng mái nhà, biến vào mây mù.
Thế là con quỷ mang được cánh tay của nó đi. Watanabe nghiến răng tiếc hận, nhưng chẳng làm gì hơn được nữa. Chàng kiên nhẫn chờ một dịp khác để diệt trừ nó. Thế nhưng con quỷ đã khiếp sợ sức mạnh và lòng gan dạ của người hiệp sĩ, từ đó không bao giờ dám quấy nhiễu Kyoto nữa. Dân kinh thành lại thong thả đi lại, kể cả lúc đêm khuya, không còn sợ hãi gì. Còn chiến công của Watanabe ở cổng Rashomon thì người ta kể mãi, cho tới tận hôm nay.