Сервер відповідає сам — мовна модель на 26 мільярдів параметрів крутиться на відеокарті під столом. Два питання на добу з однієї адреси, бо GPU в нас один і він теж хоче відпочити.
Питання не зберігаються. Модель не має доступу до інтернету, файлів чи команд сервера — лише до власної памʼяті, тож може помилятися. Спроби переписати їй роль вона чемно ігнорує.