五百罗汉有多种说法。据《十诵律》卷四所记：在释迦生时，随他听法传道的五百弟子称五百罗汉。在《法华经·五百弟子授记品》中亦记有佛为五百罗汉授记事。西晋竺法护译《佛五百弟子自说本起经》中记载佛灭度之次年，迦叶尊者与五百罗汉（五百比丘）初结集编纂佛教经典。据传五百罗汉还有第四次的“结集”。并有多处佛经中记载五百罗汉的传说。
五百罗汉的塑造，最初见于《五代名画补遗》“塑门”条记载：盛唐时杨惠之在河南府广爱寺塑五百罗汉。至宋，李公麟也画有五百罗汉。现存木雕五百罗汉可能以曲江南华寺发现的为最早，但都未记名号。1949年以后广西宜山县会仙山白龙洞摩崖发现北宋元符元年（1098年）《供养释迦如来住世十六尊者五百大阿罗汉圣号》碑，此后又有南宋绍兴四年（1134年）十二月立的《江阴军乾明院罗汉尊号石刻》碑文。清代寺庙罗汉堂中五百罗汉的名号大多沿用乾明院五百罗汉的名号。如北京西山碧云寺罗汉堂、苏州西园戒幢律寺罗汉堂、四川新都宝光寺和云南昆明筇竹寺等罗汉堂五百罗汉的名号。