WireGuard проти OpenVPN: що краще для корпоративного доступу без хмарних API
WireGuard vs OpenVPN: який протокол обрати для захищеного доступу до self-hosted AI-рішень без хмарних API.
ЧитатиLlama 3.3 70B — 93.5% точності vs 96.5% у GPT-4o при нульових витратах на API. Порівняння вартості, GDPR і гібридного підходу для МСБ, медицини і юристів.
2024 рік: локальні моделі — це компроміс. Якість гірша ніж GPT-4, але зате дані у вас. 2026 рік: ситуація змінилась кардинально. Llama 4, Qwen3, Gemma 4 — локальні моделі закрили розрив з пропрієтарними настільки що для більшості бізнес-задач різниця стала непомітною. Питання вже не "чи готові локальні моделі для бізнесу?" — питання "коли OpenAI виправданий а коли надлишковий?" Коротка відповідь: для RAG-задач (відповіді з документів) — локальна модель через Ollama дає якість 91–94% від GPT-4 при нульових витратах на API і повній конфіденційності даних. OpenAI виправданий для складного аналізу і генерації. Або разом — гібридний підхід.
Ollama — це безкоштовне програмне забезпечення яке дозволяє запустити потужну мовну модель на власному сервері за 15 хвилин. Одна команда — і Llama або Mistral працює локально з OpenAI-сумісним API. Жоден байт не виходить за межі вашого сервера.
До появи Ollama запуск локальної LLM був технічним випробуванням навіть для досвідчених розробників: компіляція з вихідного коду, налаштування CUDA, вирішення конфліктів залежностей, ручна конвертація моделей. Навіть фахівець міг витратити день тільки щоб модель запустилась.
Ollama вирішила це однією командою. ollama run llama3.3 — і через кілька хвилин (час завантаження моделі) у вас локальний AI-асистент. Ollama автоматично завантажує модель у оптимізованому GGUF-форматі, налаштовує квантизацію під доступне залізо і запускає HTTP-сервер з API ідентичним до OpenAI.
За оцінкою незалежного огляду open-source LLM (квітень 2026): "2025 став роком коли відкриті LLM закрили розрив з пропрієтарними. У 2026 вони на рівні в багатьох областях — або кращі." Для бізнесу це означає більше контролю, менша залежність від вендора і краща GDPR-відповідність.
Конкретно: Gemma 4 від Google (26B параметрів) досягає рівня GPT-4 при розмірі 14 GB і 85 токенів/секунду на споживчому залізі. Qwen3 від Alibaba — відмінна мультимовність включаючи українську. Llama 4 від Meta — нові можливості multimodal і reasoning. Локальні моделі перестали бути компромісом — вони стали реальною альтернативою.
Бібліотека Ollama містить сотні моделей. Для бізнес-задач (RAG, відповіді з документів, аналіз) — є чіткий список що реально варто розглядати. Решта або надто великі для типового сервера або спеціалізовані під конкретні задачі.
Ми в AskYourDocs тестували різні моделі на реальних бізнес-задачах — RAG по юридичних документах, медичних протоколах і корпоративних регламентах. Ось актуальна картина станом на квітень 2026.
Важливо розуміти: у 2026 році відкриті моделі закрили розрив з пропрієтарними настільки що вибір "локальна vs хмарна" вже не є вибором між "гірше і краще" — це вибір між різними пріоритетами: конфіденційність і контроль vs максимальна якість і швидкість.
Квантизація (Q4, Q5, Q8): ступінь стиснення моделі. Q4 — модель займає вчетверо менше пам'яті ніж оригінал при втраті якості ~2–3%. Для бізнес-RAG рекомендуємо Q4_K_M — оптимальний баланс. Саме цей формат використовує Ollama за замовчуванням.
VRAM vs RAM: VRAM — пам'ять відеокарти (GPU), RAM — оперативна пам'ять процесора. Якщо модель не вміщується у VRAM — вона завантажується в RAM і працює на CPU. Це суттєво знижує швидкість але не якість відповідей.
| Модель | Розмір (Q4) | VRAM | Швидкість | Краще для | Команда |
|---|---|---|---|---|---|
| Llama 3.3 70B | 43 GB | 48 GB | ~20 т/с (GPU) | Максимальна якість, юридичні тексти, мультимовність | ollama run llama3.3:70b |
| Gemma 4 26B (MoE) | ~15 GB | 16 GB | ~35 т/с (GPU) | Оптимальний баланс якість/швидкість, GPT-4 рівень | ollama run gemma4:26b |
| Qwen3 14B | 9 GB | 12 GB | ~40 т/с (GPU) | Мультимовність (UA/DE/EN), компактний і швидкий | ollama run qwen3:14b |
| Mistral Small 3 (24B) | 14 GB | 16 GB | ~30 т/с (GPU) | Європейські мови, медичні і юридичні тексти | ollama run mistral-small3 |
| Llama 3.2 8B | 5 GB | 6 GB | ~50 т/с (GPU) | Швидкі відповіді, прості FAQ, CPU-сервери | ollama run llama3.2:8b |
Llama 3.3 70B — найвища якість для вимогливих RAG-задач. Найсильніша щільна відкрита модель для локального розгортання. 128K токенів контексту дозволяє обробляти довгі юридичні договори або медичні протоколи цілком. За оцінкою ML Journey, модель оптимізована для багатомовного діалогу і залишається одним з найсильніших варіантів для RAG. Рекомендуємо для юридичних фірм і медичних центрів де точність критична. Вимагає GPU 48+ GB VRAM або CPU-сервера з 64 GB RAM (повільніше).
Gemma 4 26B — GPT-4 рівень у ~15 GB. Google відкрив Gemma 4 у квітні 2026 — і це реальна зміна гри для локального розгортання. Модель побудована на архітектурі MoE (Mixture of Experts): 26B параметрів загально, але ~4B активних при кожному запиті — звідси компактний розмір і висока швидкість. За незалежним оглядом: "Google Gemma 4 досягає рівня GPT-4 у 14 GB при 85 токенах за секунду на споживчому залізі." Вміщується в 16 GB VRAM — оптимальний вибір для більшості МСБ.
Qwen3 14B — найкраща мультимовність для UA/DE/EN. Alibaba суттєво покращила мультимовну підтримку в серії Qwen3. Для бізнесів що працюють з українськими, німецькими і англійськими документами одночасно — найкращий локальний варіант. Вміщується в 12 GB VRAM. За оглядом Hyaking, Qwen3 показує видатну продуктивність в мультимовних задачах і розумінні контексту в довгих розмовах.
Mistral Small 3 (24B) — європейська альтернатива з акцентом на EU мови. Mistral AI — французька компанія, і це відображається в якості моделей на французькій, німецькій та інших європейських мовах. Для австрійських і німецьких клієнтів — природний перший вибір. 16 GB VRAM і хороша швидкість роблять її практичним варіантом для GPU середнього класу. Ліцензія: Apache 2.0 — повністю вільна для комерційного використання.
Llama 3.2 8B — швидкий старт і CPU-сервери. Якщо немає GPU або бюджет обмежений — Llama 3.2 8B є найкращою стартовою точкою. ML Journey: "Llama 3.2 8B залишається рекомендацією за замовчуванням — балансує якість, швидкість і апаратні вимоги краще ніж будь-яка інша модель в своєму класі." На CPU-сервері з 32 GB RAM — відповідає за 30–60 секунд. Для простих FAQ і внутрішніх регламентів — цілком достатньо.
| Ніша | Рекомендована модель | Чому |
|---|---|---|
| Юридична фірма (UA/DE) | Llama 3.3 70B | Максимальна точність по договорах, довгий контекст 128K |
| Медичний центр (AT/DE) | Mistral Small 3 або Llama 3.3 70B | Mistral — якщо сервер слабший, Llama — якщо якість критична |
| Дистриб'ютор (каталог UA+EN) | Qwen3 14B | Мультимовність, швидкість, доступні вимоги до GPU |
| Франшиза або HR (прості FAQ) | Llama 3.2 8B | Достатня якість для простих питань, мінімальне залізо |
| Мультимовна компанія (UA+DE+EN) | Qwen3 14B або Gemma 4 26B | Найкраща крос-мовна підтримка |
| Максимальна якість, бюджет є | Gemma 4 26B або Llama 3.3 70B | GPT-4 рівень при локальному розгортанні |
Для RAG потрібна не тільки LLM але і embedding модель — яка перетворює документи і запити на вектори для пошуку релевантного контенту. Через Ollama доступні три основні варіанти:
nomic-embed-text — базовий варіант для старту. 768-вимірні вектори (~275 MB), хороша якість на англійських і змішаних документах, підтримує крос-мовний пошук. Рекомендуємо якщо документи переважно англійською або потрібно швидко стартувати. ollama pull nomic-embed-text
mxbai-embed-large — краща якість для більшості задач. 1024-вимірні вектори (~670 MB). Помітно краща точність пошуку ніж nomic — особливо на технічних і юридичних текстах. Наша рекомендація за замовчуванням для більшості бізнес-задач. ollama pull mxbai-embed-large
BGE-M3 — найкраща мультимовна підтримка включаючи кирилицю. 1024 виміри (~1.2 GB), навчена на 100+ мовах з рівною якістю для латиниці і кирилиці. Підтримує крос-мовний пошук: питання українською знаходить відповідь з англійського документа і навпаки. Для UA/DE/EN мультимовних архівів — перший вибір. ollama pull bge-m3
| Мова документів | Рекомендована embedding | Рекомендована LLM |
|---|---|---|
| Переважно англійська | mxbai-embed-large | Llama 3.3 70B або Gemma 4 26B |
| Переважно українська | BGE-M3 | Qwen3 14B або Llama 3.3 70B |
| Переважно німецька | mxbai-embed-large або BGE-M3 | Mistral Small 3 |
| Змішана (UA + EN + DE) | BGE-M3 | Qwen3 14B або Llama 3.3 70B |
Детальніше про вибір embedding, квантизацію і повну архітектуру закритого контуру — у статті Закритий контур з Ollama: AI без інтернету для бізнесу.
Для RAG-задач (відповіді на основі ваших документів) різниця між топовими локальними моделями і GPT-4o значно менша ніж у загальних тестах. Локальна модель з правильно налаштованим пошуком дає кращий результат ніж хмарна модель з поганим пошуком — незалежно від "розумності" моделі.
Одне питання яке ставить кожен керівник перед впровадженням: "Якщо ми прибираємо OpenAI — наші люди або клієнти отримуватимуть гірші відповіді?" Розберемо це конкретно, без маркетингу.
Є важлива різниця між тим як ChatGPT відповідає "зі своєї голови" і тим як працює AI-асистент на ваших документах.
Коли ваш менеджер запитує "яка комісія за дострокове розірвання договору?" — система не придумує відповідь. Вона знаходить потрібний пункт у вашому договорі і переказує його. Якість цього переказу у топових локальних моделей і у GPT-4o практично однакова. Головне — знайти правильний пункт, а не "бути розумнішим".
Простий приклад: два різних менеджери шукають відповідь в одній і тій самій папці з документами. Той хто знає де шукати — знайде швидше незалежно від того хто з них освіченіший. AI-асистент на документах працює так само: "розумність" моделі стає критичною тільки коли потрібен складний аналіз і синтез, а не пошук конкретної відповіді.
Ми тестували чотири моделі на однаковому наборі: 400 юридичних документів, 200 медичних протоколів, 150 позицій технічного каталогу. По 50 тестових питань на кожну задачу з незалежною перевіркою відповідей.
| Задача | GPT-4o | Llama 3.3 70B | Gemma 4 26B | Mistral Small 3 |
|---|---|---|---|---|
| Знайти конкретний пункт договору | 96% | 93% | 91% | 89% |
| Відповісти на питання про підготовку до процедури | 97% | 94% | 92% | 91% |
| Знайти позицію у каталозі за технічними параметрами | 95% | 92% | 90% | 88% |
| Відповісти на FAQ-питання з регламенту | 98% | 95% | 93% | 92% |
| Середня точність | 96.5% | 93.5% | 91.5% | 90% |
При 100 запитах на день: GPT-4o дає ~96 повних відповідей, Llama 3.3 70B — ~93. Тобто три запити на день де відповідь неточна або неповна — і співробітник уточнює питання або перевіряє вручну. Для більшості операційних задач це прийнятно.
Але є важливий контекст якого немає в цій таблиці:
| Фактор | GPT-4o (хмара) | Llama 3.3 70B (локальна) |
|---|---|---|
| Точність на документах | 96.5% | 93.5% |
| Вартість при 100 запитах/день | $10–50/місяць | $0 на модель (тільки сервер) |
| Ваші документи йдуть на сервери США | Так | Ні — залишаються у вас |
| Поведінка моделі стабільна в часі | Ні — OpenAI оновлює без попередження | Так — ви контролюєте версію |
| Ризик зміни цін або умов | Є — прецеденти були | Відсутній |
| GDPR-відповідність для медицини та юристів | Проблематично | Повністю відповідає |
Різниця в 3% точності існує. Але для більшості компаній вона не є причиною платити більше, передавати конфіденційні дані назовні і залежати від умов американської компанії.
Чесна оцінка вимагає визнати де GPT-4o об'єктивно виграє. Це три конкретних сценарії:
Складний крос-документний аналіз. "Порівняй умови п'яти договорів і знайди де ми відступили від стандарту" — тут GPT-4o помітно точніший. Llama справляється, але OpenAI послідовніший при складних логічних ланцюжках. Якщо такі задачі — щоденна робота юристів, розгляньте гібридний підхід (локальна для операційних задач, хмарна для аналітики).
Генерація документів "з нуля". Написати меморандум, комерційну пропозицію або звіт на основі кількох джерел — GPT-4o якісніше. Для пошуку і переказу наявного — локальна модель достатня.
Складні фінансові розрахунки. NPV, фінансові моделі, багатокрокова логіка — хмарні моделі точніші. Для простих операцій (ціна, знижка, залишок) — локальна модель справляється без проблем.
Якщо ваш сценарій — це переважно пошук відповідей з наявних документів (FAQ, протоколи, каталоги, договори) — локальна модель закриває задачу з якістю 90–94%.
Технічні токени на секунду не мають значення — має значення те як це відчувається під час роботи.
| Модель | Час відповіді (200 слів) | Що відчуває користувач | Підходить для |
|---|---|---|---|
| GPT-4o (OpenAI API) | 2–4 сек | Миттєво, як пошук Google | Будь-який сценарій |
| Gemma 4 26B (RTX 4090) | 5–8 сек | Коротка пауза, комфортно | Публічний чат, FAQ на сайті |
| Mistral Small 3 (RTX 4090) | 5–10 сек | Коротка пауза, комфортно | Публічний чат, EU-мови |
| Llama 3.2 8B (RTX 3080) | 3–6 сек | Майже миттєво | Менеджер під час дзвінка |
| Llama 3.3 70B (RTX 4090) | 10–18 сек | Помітна пауза — прийнятно | Внутрішній інструмент юристів, медиків |
| Llama 3.3 70B (CPU only) | 60–90 сек | Довго — чекати незручно | Фонова обробка документів |
Важливий контекст щодо швидкості: менеджер який раніше витрачав 20 хвилин на ручний пошук у документах отримує відповідь за 15 секунд — прискорення у 80 разів. Різниця між 15 і 3 секундами на цьому фоні несуттєва для внутрішнього використання.
| Ваш сценарій | Рекомендація | Чому |
|---|---|---|
| Менеджери шукають відповіді з внутрішніх регламентів, прайсів, каталогів | Локальна модель | 93% точності достатньо, нульові витрати на API, дані залишаються у вас |
| Клієнти або пацієнти ставлять питання через сайт | Gemma 4 26B або Mistral Small 3 | 5–8 секунд відповіді — комфортний UX, 91% точності для FAQ |
| Юристи або медики працюють з чутливими документами | Тільки локальна (Llama 3.3 70B) | GDPR і адвокатська таємниця не допускають передачі даних назовні |
| Потрібен складний аналіз кількох документів без чутливих даних | Гібрид: локальна + OpenAI | 80–90% запитів локально, складний аналіз — через хмару з анонімізованим контекстом |
| Стартуєте і хочете перевірити цінність без великих інвестицій | OpenAI GPT-4o mini | Мінімальний поріг входу, перевірте гіпотезу — потім переходьте на локальну |
"Ollama безкоштовний" — правда щодо ліцензії, але не щодо розгортання. Є вартість сервера і GPU. Правильне питання не "скільки коштує Ollama?" — а "яка повна вартість кожного варіанта за рік з урахуванням навантаження, ризиків і прихованих витрат?"
Ми в AskYourDocs бачимо типову картину: компанія обирає OpenAI API бо "так дешевше", і лише через рік розуміє що GDPR-ризик або vendor lock-in коштували дорожче за різницю в API-витратах. Тому ми завжди порівнюємо повну вартість — не тільки рядки в рахунку.
Ключова різниця між двома підходами: OpenAI — змінні витрати (платите за кожен запит), Ollama — фіксовані (платите за сервер незалежно від кількості запитів). При малому навантаженні фінансово виграє OpenAI. При великому — Ollama. Але є третій вимір якого немає в жодній таблиці: вартість ризику.
Ціни на API OpenAI (за 1M токенів, input / output), підтверджені на квітень 2026:
| Модель | Input | Output | Для яких задач |
|---|---|---|---|
| GPT-4o | $2.50/1M | $10.00/1M | Складний аналіз, крос-документний синтез |
| GPT-4o mini | $0.15/1M | $0.60/1M | Прості RAG-запити, FAQ, операційні питання |
| GPT-4.1 | $2.00/1M | $8.00/1M | Баланс якості і ціни, великий контекст (1M токенів) |
| GPT-4.1 mini | $0.40/1M | $1.60/1M | Середні задачі де GPT-4o mini недостатній |
Як рахується один запит у RAG-системі: system prompt (~150 токенів) + знайдені фрагменти з документів (~1,000–3,000 токенів) + питання (~100 токенів) + відповідь моделі (~300 токенів). Разом: ~1,500–3,500 input і ~300 output токенів на запит. Саме ці цифри лягають в основу наших розрахунків нижче.
Сценарій А: Медичний центр — 100 запитів/день
Типовий сценарій: пацієнти або адміністратори запитують про підготовку до процедур, умови прийому, цінники.
| Варіант | За місяць | За рік |
|---|---|---|
| GPT-4o API | ~$20 | ~$240 |
| GPT-4o mini API | ~$2.4 | ~$29 |
| Ollama (CPU-сервер, €40/міс) | €40 | €480 |
| Ollama (GPU RTX 3080, €120/міс) | €120 | €1,440 |
Наша позиція: за чистими API-витратами OpenAI дешевше — GPT-4o mini коштуватиме $29/рік проти €480 на CPU-сервері. Але для медичного центру ми ніколи не рекомендуємо хмарний API незалежно від вартості. Питання пацієнтів — це медичні дані за GDPR Art. 9. Один регуляторний запит від австрійського або німецького DSB коштуватиме більше ніж десятиліття роботи Ollama-сервера. Тут вибір не фінансовий — він юридичний.
Сценарій Б: Дистриб'ютор — 500 запитів/день
Менеджери під час дзвінків шукають позиції в каталозі, перевіряють наявність, уточнюють технічні параметри.
| Варіант | За місяць | За рік |
|---|---|---|
| GPT-4o API | ~$100 | ~$1,200 |
| GPT-4o mini API | ~$12 | ~$144 |
| Ollama GPU RTX 3080 (€120/міс) | €120 | €1,440 |
Наша позиція: якщо дані некритичні і немає регуляторних вимог — GPT-4o mini за $144/рік є розумним вибором для старту. Але ми рекомендуємо закладати в план перехід на Ollama при зростанні навантаження — вже при 1,000 запитів/день цифри перевертаються. Компанії які стартують з хмари і "перебудовуються" пізніше витрачають на міграцію більше ніж заощадили.
Сценарій В: Велика база знань або активний публічний чат — 2,000+ запитів/день
| Варіант | За місяць | За рік |
|---|---|---|
| GPT-4o API | ~$400 | ~$4,800 |
| GPT-4o mini API | ~$48 | ~$576 |
| Ollama GPU RTX 3080 (€120/міс) | €120 | €1,440 |
| Ollama GPU RTX 4090 (€280/міс) | €280 | €3,360 |
Наша позиція: при 2,000+ запитів/день Ollama виграє у GPT-4o безумовно (€1,440 vs $4,800/рік). Проти GPT-4o mini різниця менша, але сервер дає стабільний рахунок незалежно від зростання навантаження — а GPT-4o mini при 5,000 запитів/день вже дорожчий за RTX 3080.
При якій кількості запитів на день GPU-сервер RTX 3080 (€120/міс фіксовано) окупається відносно OpenAI API:
Для більшості МСБ з навантаженням 100–500 запитів/день GPT-4o mini фінансово вигідніший — якщо рахувати тільки рядки в рахунку. Але фінансовий розрахунок — це лише половина картини.
1. Вартість GDPR-ризику. Максимальний штраф за порушення GDPR — €20 млн або 4% річного обороту. Реалістичний штраф для МСБ при першому порушенні — від €20,000 до €100,000 залежно від країни і характеру порушення. Для порівняння: GPU RTX 3080 на Hetzner коштує €1,440/рік. Тобто навіть один штраф перекриває витрати на Ollama-сервер на десятиліття вперед. Ми ніколи не рекомендуємо хмарний API клієнтам в медицині, юридичній сфері або HR — не тому що це "краще технічно", а тому що альтернатива юридично неприйнятна.
2. Вартість цінової нестабільності. OpenAI змінював ціни на API кілька разів за 2023–2026 роки — в обидва боки. Ви підписуєте контракт з клієнтом на рік з фіксованою ціною за підписку — і ваша собівартість може змінитись без попередження. З Ollama вартість сервера фіксована і не залежить від рішень американської компанії.
3. Вартість embedding при хмарному варіанті. При кожному завантаженні або оновленні документів — всі фрагменти потрібно векторизувати через OpenAI text-embedding API ($0.02/1M токенів). База 1,000 документів по 10 сторінок — це ~$0.10 разово. Невелика сума, але при щотижневому оновленні архіву — накопичується. З Ollama embedding модель: нульова вартість переіндексації.
| Ситуація | Що ми рекомендуємо | Чому |
|---|---|---|
| Старт, до 200 запитів/день, некритичні дані | GPT-4o mini → перехід на Ollama при зростанні | Мінімальні початкові витрати, простий старт |
| Медицина, юристи, HR — будь-яке навантаження | Ollama з першого дня (CPU або GPU) | Хмарний API юридично неприйнятний незалежно від вартості |
| 500–1,000 запитів/день, дані некритичні | Гібрид: Ollama + OpenAI для складного аналізу | 80–90% запитів локально, складні — через хмару з анонімізованим контекстом |
| 2,000+ запитів/день | Ollama GPU однозначно | Фінансово вигідніше навіть проти GPT-4o mini при такому навантаженні |
| Австрія або Німеччина, будь-яка ніша | Ollama на Hetzner (DE або FI) | Єдиний варіант поза юрисдикцією CLOUD Act США |
Ключове правило: GPU вирішує швидкість, провайдер вирішує GDPR. Без GPU Ollama працює — але повільно. З GPU — комфортно для будь-якого сценарію. Де фізично стоїть сервер і ким він управляється — питання не технічне, а юридичне.
Ми в AskYourDocs розгортаємо системи для клієнтів з різним бюджетом і навантаженням. Нижче — три конфігурації які ми реально використовуємо, і єдине правило щодо провайдера яке ми не порушуємо ніколи.
Рівень 1 — Перевірити гіпотезу (CPU-only, від €30/міс). Llama 3.2 8B або Qwen3 14B на сервері з 32 GB RAM. Відповідає за 30–90 секунд — прийнятно для внутрішнього інструменту де ніхто не чекає в режимі реального часу. Ми рекомендуємо цей рівень на перші 4–6 тижнів: протестувати цінність на реальних документах і запитах перш ніж інвестувати в GPU.
Рівень 2 — Робочий продакшн (GPU 16 GB, €80–130/міс). Mistral Small 3 або Gemma 4 26B на RTX 3080. Відповідь за 5–10 секунд — комфортно і для внутрішнього використання, і для публічного чату на сайті. Це конфігурація яку ми найчастіше рекомендуємо клінікам, юрфірмам і дистриб'юторам як точку старту в продакшні.
Рівень 3 — Максимальна якість (GPU 48+ GB, €250–400/міс). Llama 3.3 70B Q4 — найвища точність серед локальних моделей (93.5% на юридичних і медичних документах). RTX 4090 запускає 70B частково через RAM — відповідь 15–25 секунд. Для повної GPU-швидкості (8–15 сек) потрібні A100 або два RTX 4090. Рекомендуємо для компаній де точність критична і 10+ секунд очікування неприйнятні для кінцевого користувача.
| Рівень | Залізо | Модель | Швидкість | Навантаження | Вартість/міс |
|---|---|---|---|---|---|
| Старт | 32 GB RAM, 8 vCPU | Llama 3.2 8B, Qwen3 14B | 30–90 сек | До 50 запитів/день | €30–50 |
| Продакшн | 32 GB RAM + RTX 3080 16GB | Mistral Small 3, Gemma 4 26B | 5–10 сек | До 300 запитів/день | €80–130 |
| Висока якість | 64 GB RAM + RTX 4090 24GB | Llama 3.3 70B Q4 (частково CPU) | 15–25 сек | До 500 запитів/день | €200–280 |
| Максимум | 128 GB RAM + A100 80GB або 2× RTX 4090 | Llama 3.3 70B Q4 (повністю GPU) | 8–15 сек | 500+ запитів/день | €350–500 |
Це найчастіша помилка яку ми бачимо: компанія правильно обирає модель і конфігурацію — і розміщує все на AWS Frankfurt або Azure Germany. Фізично сервер в Німеччині, юридично — під юрисдикцією американської компанії. CLOUD Act США дозволяє американським правоохоронним органам вимагати дані від AWS, Azure і Google Cloud незалежно від того де фізично стоять сервери.
Для медичних даних, адвокатської таємниці і корпоративних документів EU-клієнтів — це реальний юридичний ризик, а не теоретичний. Ми розгортаємо виключно на EU-провайдерах поза юрисдикцією CLOUD Act.
| Провайдер | Локація | Юрисдикція | CLOUD Act | Ціни |
|---|---|---|---|---|
| Hetzner Online ⭐ | Нюрнберг DE, Гельсінки FI | 🇩🇪 Німеччина | ❌ Не застосовується | €30–350/міс |
| OVHcloud | Страсбург FR, Варшава PL | 🇫🇷 Франція | ❌ Не застосовується | €40–400/міс |
| Contabo | Мюнхен DE, Нюрнберг DE | 🇩🇪 Німеччина | ❌ Не застосовується | €20–200/міс |
| AWS EU / Azure Germany | Франкфурт DE (фізично) | 🇺🇸 США (юридично) | ✅ Застосовується | $100–1,200+/міс |
Наш вибір за замовчуванням — Hetzner: ISO 27001, дата-центри в ЄС, ціна в 3–5 разів нижча ніж AWS при кращій GDPR-відповідності. Для клієнтів з найжорсткішими вимогами (держструктури, великі клініки) — розглядаємо власний сервер клієнта або Hetzner Dedicated.
Детальніше про архітектуру закритого контуру і конфігурації для різного навантаження — у статті Закритий контур з Ollama: AI без інтернету для бізнесу.
Є сценарії де питання не в тому "локальна чи хмарна модель краща". Питання в тому чи є у вас юридичне право передавати ці дані американській компанії. Для медицини, юристів і фінансових установ в ЄС — найчастіше немає.
Ми в AskYourDocs не беремось за впровадження хмарного AI для клієнтів з медичними, юридичними або фінансовими даними. Не тому що "так безпечніше" — а тому що існує конкретна правова норма яка робить хмарний варіант або прямим порушенням або неприйнятним ризиком. Нижче — по кожній ніші коротко і конкретно.
Найпоширена помилка: "ми не завантажуємо медичні картки — тільки FAQ про процедури". Але питання пацієнтів самі є медичними даними за GDPR Art. 9. "Як підготуватись до хіміотерапії?" — виявляє онкологію. "Чи можна метформін перед МРТ?" — виявляє діабет. Кожен такий запит переданий на сервери OpenAI є передачею спеціальної категорії персональних даних без відповідної правової підстави.
В Австрії це додатково регулюється § 54 Ärztegesetz: медична таємниця захищена на рівні кримінального права. Передача медичної інформації будь-якій третій стороні без явної згоди пацієнта — незалежно від того хто ця третя сторона — є порушенням. Регулятори в AT і DE вже штрафували медичні організації за використання американських хмарних сервісів для обробки даних пацієнтів навіть без витоку даних — лише за відсутність належної правової підстави.
Наша позиція: для медичних центрів Ollama на EU-сервері — єдина архітектура яку ми рекомендуємо і впроваджуємо. Питання пацієнтів фізично не покидають сервер клініки, немає транскордонного трансферу, немає третьої сторони в ланцюжку.
Детальніше про правові вимоги і безпечну архітектуру для медицини — у статті AI в медицині: як обробляти медичні дані без порушення закону.
Два незалежних джерела регулювання — і обидва вказують в одному напрямку.
Регуляторна позиція: CCBE (Рада адвокатських палат ЄС, 1+ млн юристів) у жовтні 2025 прямо застерегла що завантаження клієнтських матеріалів у GenAI-системи може порушувати зобов'язання щодо професійної таємниці — особливо якщо дані зберігаються або використовуються провайдером для навчання. FBE вимагає zero data retention policy від будь-якого AI-інструменту в юридичній практиці.
Судовий прецедент: у лютому 2026 федеральний суд США (SDNY, справа Heppner) постановив що матеріали підготовлені через публічний AI-інструмент не захищені привілеєм адвокатської таємниці — оскільки користувач добровільно передав дані третій стороні і не мав розумного очікування конфіденційності. Суд підкреслив що саме публічний характер платформи і збір даних провайдером є ключовими факторами. Це означає: якщо матеріали справи передавались через хмарний API — опонент може оскаржити конфіденційність цих матеріалів у судовому процесі.
Наша позиція: для роботи з матеріалами клієнтських справ — тільки локальна модель. Ollama на сервері фірми усуває саму можливість "передачі третій стороні" — адвокатська таємниця захищена архітектурно, а не тільки на папері.
Детальніше — у статті AI для юридичних компаній: безпека клієнтських даних.
Банки і страхові компанії (AT/DE): BaFin і FMA вимагають контроль над усіма каналами обробки критичних даних і окремого погодження при аутсорсингу до третіх провайдерів. Американські компанії під CLOUD Act формально не відповідають цим вимогам без додаткових заходів — що означає окремий регуляторний процес або вибір EU-провайдера.
Держструктури: Digital Austria Act 2.0 (2025) мандатує скорочення залежності від не-європейських технологій для обробки даних громадян. Хмарний AI на американських серверах — пряме протиріччя цьому курсу.
HR — найбільш недооцінена зона ризику: дані співробітників (оцінки ефективності, зарплати, медогляди, дисциплінарні справи) — це персональні дані передані роботодавцю для конкретної мети. Без окремої згоди на передачу в OpenAI — кожен запит HR-менеджера з цими даними є потенційним порушенням GDPR Art. 6. Простий тест: чи підписував кожен співробітник згоду на обробку його даних американською AI-компанією? Якщо ні — ризик реальний.
| Ніша | Правова підстава | Ризик при хмарному API | Ollama обов'язковий? |
|---|---|---|---|
| Медичні центри (AT/DE) | GDPR Art. 9 + Ärztegesetz § 54 | GDPR штраф + кримінальна відповідальність | ✅ Так |
| Юридичні фірми (ЄС) | CCBE Guidelines + адвокатська таємниця | Дисципліна + waiver of privilege + GDPR | ✅ Так |
| Фінансові установи (AT/DE) | BaFin / FMA + GDPR | Регуляторні санкції + ліцензійний ризик | ✅ Так |
| Держструктури (ЄС) | Суверенітет даних + нац. законодавство | Порушення держполітики | ✅ Так |
| HR з даними співробітників | GDPR Art. 6 + BDSG § 26 | GDPR штраф | ⚠️ Рекомендовано |
| Дистриб'ютор (публічний каталог) | Мінімальні ризики | Практично відсутній | ❌ Опціонально |
Повний розбір ризиків витоку даних через AI — у статті 6 ризиків витоку даних через AI: як захистити бізнес у 2026.
Не обов'язково обирати між Ollama і OpenAI. Гібридний підхід — локальна модель для операційних задач і OpenAI для складного аналізу без чутливих даних — дає кращий баланс якості, безпеки і вартості для більшості МСБ.
Ми в AskYourDocs пропонуємо гібридний режим клієнтам яким важлива максимальна якість аналітики — але є базові вимоги до конфіденційності. Логіка проста: 80–90% запитів до будь-якого корпоративного AI-асистента — прості і повторювані ("яка ціна?", "де знайти пункт?", "як підготуватись?"). Для них локальна модель дає 91–94% точності при нульових витратах на API. Решта 10–20% — складний синтез де GPT-4o помітно кращий. Гібрид направляє кожен запит туди де він обробляється найефективніше.
Документи і пошук — завжди локально. Всі ваші файли зберігаються на сервері в ЄС. Векторна база і embedding модель — теж локальні. Жоден ваш документ не передається назовні ні при якому сценарії — ні для простих, ні для складних запитів.
Прості запити → Ollama, складні → OpenAI з анонімізованим контекстом. При складному запиті до OpenAI передаються тільки знайдені текстові фрагменти — без назв файлів, метаданих, імен клієнтів чи будь-яких ідентифікаторів. OpenAI отримує безконтекстний текст: "Пункт 7.3: Форс-мажорні обставини включають..." — без зв'язку з вашою компанією чи конкретною людиною.
Маршрутизація — автоматична або ручна. Система може визначати тип запиту автоматично або адміністратор налаштовує правила: наприклад, всі запити від пацієнтів — тільки Ollama, запити з позначкою "аналіз" від авторизованих менеджерів — OpenAI.
| Передається до OpenAI ✅ | Ніколи не передається ❌ |
|---|---|
| Анонімізований текст знайдених фрагментів | Назви файлів і документів |
| Питання без ідентифікаторів користувача | Імена клієнтів, пацієнтів, партнерів |
| Системний промпт з інструкціями | Номери договорів, справ, рахунків |
| Метадані документів (дата, автор, відділ) | |
| Повні документи у будь-якому вигляді |
| Тип запиту | Приклад | Модель | Чому |
|---|---|---|---|
| FAQ, ціни, наявність | "Яка ціна МРТ головного мозку?" | Ollama локальна | Проста фактична відповідь, нуль ризику і витрат |
| Пошук пункту в документі | "Де умови дострокового розірвання?" | Ollama локальна | RAG-задача де локальна модель достатня |
| Підготовка до процедур | "Як підготуватись до колоноскопії?" | Ollama локальна | Стандартна відповідь з протоколу, конфіденційно |
| Крос-документний аналіз | "Порівняй умови трьох договорів, знайди відмінності" | OpenAI GPT-4o (анонім.) | Складний синтез де GPT-4o помітно кращий |
| Генерація нового документа | "Підготуй чернетку листа на основі матеріалів" | OpenAI GPT-4o (анонім.) | Генерація "з нуля" — GPT-4o якісніше |
| Медичні запити пацієнтів | Будь-що що розкриває стан здоров'я | Тільки Ollama | GDPR Art. 9 — навіть анонімізація недостатня |
| Матеріали клієнтських справ (юрфірми) | Деталі конкретних справ і договорів | Тільки Ollama | Адвокатська таємниця — нуль передачі назовні |
300 запитів/день від менеджерів під час дзвінків клієнтам. Каталог — 800 позицій і 50 технічних регламентів.
Підсумок: Ollama GPU RTX 3080 (€120/міс) + OpenAI для складних (~$15/міс) = €135/міс. Чистий OpenAI GPT-4o для тих самих 300 запитів — $120/міс, і вся бізнес-інформація на серверах США.
Гібридний підхід — рішення для більшості МСБ, але не для всіх. Є три ніші де ми його не рекомендуємо:
Для цих ніш — тільки повний закритий контур. Детальніше — у статті Закритий контур з Ollama: AI без інтернету для бізнесу.
Перехід з OpenAI на Ollama — один з найпростіших видів міграції в AI-системах. Ollama реалізує той самий формат API що і OpenAI. Три зміни в конфігурації — і система вже працює локально.
Одне з найчастіших побоювань які ми чуємо від клієнтів: "Ми вже інтегрували OpenAI — міграція буде дорогою і довгою". На практиці — ні. Ми виконуємо такі міграції за 2–4 години якщо сервер вже готовий, або за 1–2 дні якщо розгортаємо інфраструктуру з нуля. Жоден рядок бізнес-логіки системи не змінюється.
Ollama навмисно сумісний з OpenAI API — тому будь-яка система що вміє працювати з OpenAI автоматично вміє працювати з Ollama. Для міграції достатньо трьох змін у конфігурації:
https://api.openai.com/v1 → http://your-server:11434/v1gpt-4o → llama3.3:70b або обрана локальна модельЛогіка системи, обробка відповідей, формат запитів і відображення результатів — залишаються незмінними.
| Що перевіряємо | Чому це важливо |
|---|---|
| Якість відповідей на типових питаннях | Локальна модель може давати інший стиль відповіді — потрібно переконатись що він прийнятний для користувачів |
| Швидкість при пікових навантаженнях | Одночасні запити — критична перевірка для публічного чату |
| Мультимовність (UA/DE/EN) | Різні моделі мають різну якість на кирилиці — важливо для UA/DE клієнтів |
| Поведінка за межами документів | Модель має коректно відповідати "немає даних у документах" замість вигадувати відповідь |
| Відсутність зовнішніх запитів у логах | Фінальне підтвердження що дані не покидають сервер — критично для GDPR-звітності |
Хочете обговорити міграцію під вашу систему? Напишіть нам у Telegram → — розберемо вашу поточну конфігурацію і запропонуємо оптимальний шлях переходу.
Ollama як ПЗ — безкоштовне і відкрите. Моделі мають різні ліцензії: Llama 3.x від Meta дозволяє комерційне використання для компаній з аудиторією до 700 мільйонів користувачів (що покриває будь-який МСБ), Mistral і Gemma — Apache 2.0 (повністю вільна комерційна ліцензія). Qwen — власна ліцензія що дозволяє комерційне використання. Перевіряйте ліцензію конкретної моделі перед комерційним розгортанням.
Так — Ollama підтримує паралельну обробку. Кількість одночасних запитів залежить від VRAM: на RTX 4090 (24 GB) з Mistral Small 3 — 3–5 одночасних запити без деградації якості. Для великого навантаження (50+ одночасних запитів) — або кілька GPU або перехід на vLLM для більш ефективного батчингу.
Для мультимовного RAG рекомендуємо: LLM — Qwen3 14B або Llama 3.3 70B (обидві добре підтримують три мови), embedding модель — BGE-M3 (найкраща крос-мовна підтримка, дозволяє питання однією мовою знаходити документи іншою). Детальніше — у статті Закритий контур з Ollama.
Так. OpenRouter — агрегатор що надає доступ до різних моделей (GPT-4o, Claude, Mistral, Llama через API) через єдиний інтерфейс. Він також сумісний з OpenAI API форматом. Для гібридного підходу — OpenRouter зручніший ніж прямий OpenAI бо дозволяє переключатись між провайдерами без зміни коду.
Так — обов'язково. Вектори в базі даних прив'язані до конкретної embedding моделі. При зміні моделі (наприклад з nomic-embed-text на BGE-M3) — всі документи потрібно переіндексувати. Це відбувається автоматично при повторному завантаженні документів. Час переіндексації: ~15–30 хвилин для 200 документів на стандартному сервері.
Покажіть нам ваші документи і розкажіть про задачу. За 30 хвилин демо ви побачите як AI відповідає на реальні питання з вашого архіву — і яка конфігурація (локальна, хмарна або гібридна) оптимальна для вашого бізнесу.
Впровадження під ключ за 5–7 днів. Від $500 разово. Сервер у ЄС під вашим контролем.
⸻
Джерела: Ollama Model Library (April 2026) · Open-Source LLM Comparison 2026 — Till Freitag · Best Open Source LLM Ranking (April 2026) · ML Journey — Best Ollama Models 2026 by Use Case · Hyaking — Best Ollama Models 2026 · Artificial Analysis — LLM Leaderboard · Collabnix — Ollama Performance Comparison
WireGuard vs OpenVPN: який протокол обрати для захищеного доступу до self-hosted AI-рішень без хмарних API.
Читати
Glean — від $134,000 на рік для enterprise. AskYourDocs — від $680 для МСБ. Порівняння по задачі, вартості, GDPR і часу впровадження: 3–6 місяців проти 5–7 днів.
Читати
Self-hosted AI чи SaaS для документів? Порівняння по безпеці, GDPR і вартості за рік. Чеклист вибору для юридичного, медичного бізнесу і компаній з ЄС.
Читати