"за вечность хотя бы одна такая ошибка случится."
тепловая смерть вселенной)
или из другой галактики супер ИИ прилетит, причём из галактики, которую мы не видим, потому что он её уже переработал и на полпути сюда))

я не спорю, что фатальная ошибка не возможна, возможна, но при при благоприятном начале, она может оттянуться на очень нетривиальное время.