उंडावल्ली की गुफाएं विजयवाड़ा से 6 किमी दक्षिण-पश्चिम में स्थित है। इस गुफा को बलुआ पत्थर के पहाड़ को काट कर बनाया गया है। इन गुफाओं का अस्तित्व चौथी और पांचवीं शताब्दी से मिलता है। यह गुफा चार तल्ला है और इसमें भगवान विष्णु की एक प्रतिमा भी रखी हुई है।
इसे ग्रेनाइट चट्टान के सिर्फ एक खंड से बनाया गया है। इस स्थान पर दूसरे भगवान को समर्पित और भी कई गुफाएं हैं। इन गुफाओं का निर्माण बौद्ध मठों के तौर पर भी किया गया है। बरसात के समय में साधू इसका इस्तेमाल आराम के लिए करते हैं। गुफा का सामने वाला हिस्सा कृष्णा नदी की ओर है।