Пока мне не известно, какая конфигурация будет быстрее работать с LLM. Считается, что чем больше памяти на борту, тем лучше. Но надо тестировать, поскольку производительность 4х выше, чем 2х по FP16. Во многих deep learning тестах показывали 4 карты с примерно одинаковым уровнем fp16 и по 24 Гб лучше 2-х RTX по 48 Гб. На 17 ноября 2023, мне известно, что 4 карты работают по скорости как 1 карта в инференсе LLM, при это доступно в 4 раза больше памяти.