Сохранился отзыв об отце Алексии Гнеушеве преподобного Серафима Саровского. В книге «Житие старца Серафима, Саровской обители иеромонаха, пустынножителя и затворника», изданной в Москве в 1884 году, отмечено, что Саровский старец, не будучи знаком с отцом Алексием лично, знал его благодаря своему дару прозорливости и неоднократно отзывался о нем так: «Сей человек своими молитвами за души христианские подобен свече, возженной пред престолом Божиим. Вот труженик, который, не имея обетов монашеских, стоит выше многих монахов. Он как звезда горит на христианском горизонте». Тех же, кто приезжал к нему из Симбирской губернии, преподобный Серафим отсылал к отцу Алексию.
...С наступлением 1848 года силы начали покидать Бортсурманского старца. Служить он уже не мог, но родные ежедневно водили его в храм. Тем не менее каждого приходящего к нему он по-прежнему принимал и выслушивал. На Страстной неделе состояние старца сильно ухудшилось. К Великому четвергу он перестал принимать пищу и уже не мог вставать... Но тех, кто сокрушался о нем, он просил не печалиться, говорил:
- Тех, кто будет меня помнить, того и я не забуду.
Статский советник Николай Дмитриевич Пазухин, которому в 1848 году было восемь лет, со временем записал свои воспоминания, связанные с последними днями отца Алексия. В 1896 году они были опубликованы в «Симбирских епархиальных ведомостях»:
«Как сейчас помню то тревожное время, когда стали говорить, что отец Алексей умирает. Все мои домашние: отец, мать, прислуга, стали ходить к умирающему. Когда о. Алексей сильно ослабел, его перевели в дом к священнику, в угольную комнату с окнами, которые приходились против церкви и нашего дома. Так как о. Алексей не мог, по болезни своей, лежать, то он был посажен в кресла, лицом к находившимся в углу образам, от которых на обе стороны шли окна.
Был май месяц (на самом деле - апрель. - В. Б.) 1848 года. Дни стояли чудные. Все окна были открыты. Народ, окружавший дом священника, не расходился и день и ночь: он стоял безмолвно и только крестился и кланялся умирающему, который в течение трех суток, как мне помнится, был в одном положении. Памяти о. Алексей не терял и сидел, опустив голову от слабости. От времени до времени он поднимал голову на иконы, благоговейно молился и благословлял то в ту, то в другую сторону стоящий кругом дома народ. Одежда на о. Алексее была белая - полотняный подрясник, сам он был седой, скорее белый. Пред иконами горели лампадки, свечи и, мне помнится, свечей горело очень много, так как всякий приносил свечу и желал поставить ее к образам, творя молитву, кто какую знал, с пожеланием старцу кончины мирной, тихой и безболезненной. На лицах не только простого народа, но и всех вообще, как бы отпечатлевалось, что умирает не простой человек, а Богу угодный. Хотя мне тогда было только 8 лет, но когда меня привела мать к умирающему под благословение, и когда я увидал то благоговение, с которым относится мать моя, все родственники мои, и всё присутствующее, и народы к старцу, о. Алексею, - и как он с кротостью, терпением переносит переход земной жизни в вечную, не переставая при этом молиться и благословлять народ, - мне тогда казалось, что я стою у одра праведника; так, разумеется, думали и все стоявшие у гроба незабвенного о. Алексея».
В теплый ясный день 21 апреля 1848 года, в Великую пятницу, отец Алексий Гнеушев тихо скончался в 10 часов утра на 86-м году жизни. «Кончина его тиха и славна и успение со Святыми, - писал муж его внучки, настоятель Успенского храма отец Павел Вигилянский, - грустно было расстаться с благодетелем и Отцом, но грусть сия облегчается тою мыслию, что Ему за труды и болезни, понесенные в сей жизни, в уделе назначены те истинные блага: их же око не виде, ухо не слыша и на сердце человека не взыдоша, Ему уготовано Царство Небесное».
На погребении, прошедшем 24 апреля, на второй день Пасхи, присутствовало огромное множество народа. Горе мешалось со светлой пасхальной радостью, слова утешения - с вечным «Христос воскресе!..». Похоронили отца Алексия в церковной ограде, против алтаря.