开封大相国寺素有五百罗汉之说，《东京梦华录》载：“寺三门阁上并资圣门，各有金铜铸罗汉五百尊、佛牙等……”孟元老在东京生活几十年，对大相国寺是非常熟悉的，靖康之难后“避地江左”，“暗想当年”、“仆今追念”，所载按理不会有假。如此推论，当时大相国寺绝非五百罗汉，应有千尊。近读宋人笔记，心中疑团才得以消除。
据《石林诗话》载，元丰年间，久旱无雨，宋神宗在宫中祈祷多次。梦有一僧骑马飞驰空中，口吐云雾，化为倾盆大雨。第二天，宋神宗命人寻梦中之人，在大相国寺三门五百罗汉中第十三尊找到那僧。《苕溪渔隐丛话》载：“相国寺罗汉，本江南李氏财物，在庐山东林寺。曹翰下江南，尽取其城中金帛宝货，连舟百余，私盗以归，无以为名，乃取罗汉每舟载十许尊献之，诏因赐相国寺，当时谓之押纲罗汉。”
以上可以看出，大相国寺在宋神宗时从庐山东林寺运来了五百罗汉，安放在三门。这是一次。
另一次往大相国寺运送罗汉是在宋真宗年间。明李濂《汴京遗迹志》载：“宋真宗咸平四年１００１年，增建翼廊、三门、前楼，迎取颖川郡铜罗汉五百尊置于阁注：资圣阁上。”《大相国寺碑铭》中也言：“前楼众圣，即颖川所迎五百罗汉也。”
可见，北宋时期，大相国寺共安置了两批五百罗汉，共计千尊。
金开兴元年１２３２年腊月，蒙古遣使商议夹攻金人，于次年抵汴京。邹伸之《使北日录》记载：“次日往相国寺，寺门成劫灰……后一阁参云，凡三级，榜曰资圣之阁，上有铜罗汉五百尊。”可以看出金末汴京被蒙古攻陷后大相国寺遭劫，而五百罗汉犹在。另五百罗汉可能在兵火中被毁。
《汴京遗迹志·艺文志》卷二十三中载元人陈孚《登相国寺资圣阁》诗云：“大相国寺天下雄，天梯缥缈凌虚空。三千歌吹灯火上，五百缨缦烟火中……”从此诗可看出，元初时，大相国寺，尤其是资圣阁，还相当雄伟，并且宋代安置在资圣阁上的五百铜罗汉还依然完整。
到了清代，重修大相国寺，寺内新建了八角罗汉殿，常茂徕在《相国寺纪略》中记载：“……迂回周折，左右五百罗汉尊，形态如生。”清人笔记中也有“相国寺有罗汉亭，内外周围五百尊，塑像各别，一无重复”的记载。１９２８年，相国寺八角殿改为河南美术馆，殿中罗汉像，绝大部分被毁坏，仅有少数铜像移至博物馆。
开封博物馆现存有大相国寺罗汉像１２尊，但绝非宋代五百罗汉中的１２尊，何以为证﹖因馆藏罗汉像底座皆有“明崇祯年间总兵陈永福及夫人铸造”字样。由此可以推断，清人常茂徕当时看到的五百罗汉已非宋代之物了。北宋五百罗汉的消失年代从以上史料中可以推测：从元朝中后期至明朝前中期。是毁于兵火，还是人为破坏，或者散落民间，长埋地下﹖已无从考证，不得而知，宋代五百罗汉下落成了汴京之谜。