у "облачного сервера" можно легко поменять конфигурацию в пару кликов: докинуть памяти и ядер, существенно увеличить объем диска или вовсе подключить несколько разных типов диска.
у железного же сервера, как правило, конфигурация статична. конечно же, можно извлечь сервер из стойки, докинуть туда пару плашек оперативки, но вот с процессорами и дисками могут быть ограничения.
это один из вариантов.
можно так же "закидывать железом", как делает тот же VK