Переклад великих PDF — це workflow-система, а не виклик translation API

Ключове дослідницьке питання

Як побудувати надійну систему перекладу об’ємних або структурно складних PDF-документів (на сотні чи тисячі сторінок) з урахуванням OCR, відновлення верстки, термінологічної узгодженості та тривалих операцій?

Короткий висновок / Пряма відповідь

Центральна архітектура повинна повністю володіти конвеєром обробки документа (workflow), а не делегувати задачу монолітному API перекладу. Надійність забезпечується розбиттям на ізольовані кроки: прийом → класифікація сторінок → екстракція/OCR → структурна модель DocumentIR → контекстна сегментація → маршрутизація провайдерів → пам’ять перекладів/глосарії → QA → реконструкція верстки → валідація результату, а також обов’язковою підтримкою збереження прогресу (checkpoints) та ідемпотентності на кожному рівні.

Ключові висновки

  • PDF є форматом фіксованого візуального позиціонування, а не семантичним потоком тексту: переклад вимагає відновлення логічного дерева документа (DocumentIR).
  • Для великих документів вартість повного перезапуску є неприйнятною: система повинна бути відновлюваною (resumable) на рівні окремих сторінок та текстових блоків.
  • Якість перекладу критично залежить від ізоляції спеціальних токенів, формул та змінних перед передачею в нейромережевий провайдер.
  • Завершення перекладу тексту не дорівнює завершенню перекладу документа: етап реконструкції верстки (layout reconstruction) є самостійною інженерною задачею.
  • Маршрутизація між OCR та прямим вилученням тексту повинна відбуватися динамічно на рівні окремих регіонів або сторінок, а не всього файлу цілком.

Методологія та доказова база

Архітектурний аналіз багатоетапних конвеєрів обробки документів, декомпозиція специфікацій PDF на рівні об’єктних дерев, аналіз патернів відмовостійкості розподілених оркестраторів та верифікація поточних API-контрактів провайдерів перекладу й оптичного розпізнавання.

Аналітичний розбір

Оманлива абстракція прямого перекладу

У розмовах про автоматизацію перекладу часто виникає спрощена ментальна модель: ми передаємо вхідний бінарний файл у спеціалізований API, чекаємо кілька секунд і отримуємо ідентичний документ, у якому мова оригіналу бездоганно замінена на цільову мову.

Для коротких односторінкових текстових виписок або простих презентацій ця ілюзія може зберігатися. Проте щойно розмір документа перевищує кілька десятків сторінок, а його структура включає креслення, багаторівневі таблиці, математичні формули чи комбінацію друкованого та відсканованого тексту, наївна модель миттєво руйнується.

Головна причина полягає в самій природі формату PDF:

  • PDF — це мова візуального виведення, а не текстовий редактор. Усередині PDF-файлу немає понять «абзац», «колонка» чи «речення». Є лише команди позиціонування гліфів за координатами: «відобразити символ на позиції X, Y».
  • Порядок читання часто порушений. Текст, який візуально сприймається як єдина колонка, у внутрішньому потоці операторів може бути розділений колонтитулами, бічними врізками або малюнками.
  • Гібридні сторінки. Технічні каталоги чи звіти часто містять комбінацію векторних шрифтів, растрових підкладок та сканованих печаток, які вимагають комбінованого підходу до вилучення.

Коли інженерна команда намагається вирішити цю задачу виключно зовнішнім викликом сервісу перекладу документів, вона стикається з жорсткими обмеженнями: таймаутами HTTP-з’єднань, неконтрольованими спотвореннями верстки та повною відсутністю контролю над глосаріями.


Архітектурний конвеєр: повний контроль над життєвим циклом

Стійка система перекладу великих документів повинна проєктуватися як багатоетапний асинхронний конвеєр. Кожен крок цього процесу ізольований, детермінований і продукує версіоновані артефакти:

[Вхідний PDF]
       ↓
[1. Прийом та валідація файлу (Ingestion)]
       ↓
[2. Класифікація сторінок (Digital vs Scanned vs Hybrid)]
       ↓
[3. Екстракція тексту та оптичне розпізнавання (OCR)]
       ↓
[4. Побудова структурної моделі (Canonical DocumentIR)]
       ↓
[5. Сегментація на одиниці перекладу (Translation Units)]
       ↓
[6. Маршрутизація провайдерів та застосування пам'яті перекладів (TM)]
       ↓
[7. Автоматизований контроль якості (Automated QA)]
       ↓
[8. Реконструкція геометрії та верстки (Layout Reconstruction)]
       ↓
[9. Фінальна валідація вихідного артефакту]
       ↓
[Цільовий PDF]

1. Канонічне проміжне представлення (DocumentIR)

Серцем системи є відмова від роботи з сирими координатами PDF під час перекладу. Система формує внутрішню модель документа — DocumentIR (Intermediate Representation), яка зберігає:

  • Ідентичність та ієрархію: розділ → сторінка → структурний блок → рядок → сегмент;
  • Геометричні координати: bounding boxes кожного блоку для подальшої регенерації;
  • Типографічні властивості: гарнітура, розмір кегля, вирівнювання, інтерліньяж;
  • Метадані походження: чи отримано текст через парсинг шрифтових потоків, чи через OCR.

Маючи DocumentIR, система здатна маніпулювати змістом документа незалежно від формату візуалізації.


Відновлюваність (Resumability) як ключова вимога надійності

Якщо переклад документа на 800 сторінок переривається на 750-й сторінці через тимчасовий збій мережі або вичерпання ліміту викликів стороннього провайдера, неприпустимо починати весь процес спочатку. Це призводить не лише до втрати часу, але й до повторних фінансових витрат за API-запити.

Архітектура великого перекладача спирається на три непорушні принципи:

  1. Контрольні точки (Checkpoints): Результат обробки кожної сторінки та кожного етапу зберігається у сховищі стану. Документ розглядається як набір незалежних одиниць виконання.
  2. Ідемпотентність операцій: Повторний запуск обробки вже перекладеної сторінки повинен повертати існуючий результат без повторного списання квот і без дублювання записів.
  3. Гранулярний перезапуск (Granular Retries): Помилка перекладу складного креслення на одній сторінці не повинна блокувати генерацію решти розділів документа. Сторінка маркується для повторної спроби або ручного перегляду, тоді як основний потік продовжує виконання.

Автоматизований контроль якості (QA) як частина архітектури

У звичайних перекладах перевірка тексту часто покладається на людину. Проте у масштабних технічних специфікаціях або юридичних договорах відсутність автоматизованого контролю призводить до критичних інцидентів:

  • Цілісність змінних та плейсхолдерів: Якщо вихідний фрагмент містив технічний тег або посилання на змінну (наприклад, {max_pressure_bar}), система перевіряє, що модель перекладу не видалила, не спотворила і не переклала назву змінної.
  • Збереження числових значень та дат: Автоматичний парсер звіряє всі числа, формули та стандарти (ISO, ДСТУ) між оригінальним та перекладеним сегментами.
  • Виявлення пропусків (Under-translation): Нейромережеві моделі мають властивість «ковтати» фрагменти тексту під час обробки списків або складних таблиць. Порівняння довжини та кількості сутностей дозволяє миттєво локалізувати втрачений контент.

Реконструкція верстки (Layout Reconstruction)

Переклад тексту майже завжди супроводжується зміною його фізичного обсягу (текстове розширення або звуження). Наприклад, переклад з англійської на німецьку чи українську мову збільшує довжину тексту в середньому на 15–30%.

Якщо в оригіналі підпис під схемою займав рівно два рядки, перекладений варіант може зайняти три, перекривши сам малюнок.

Система реконструкції повинна мати динамічні алгоритми адаптації:

  • Пропорційне масштабування кегля (font-shrinking) у межах допустимих типографічних норм;
  • Автоматичне регулювання міжрядкового інтервалу;
  • Перерозподіл висоти комірок таблиць зі збереженням балансу сторінки.

Висновки

Переклад масштабних технічних документів — це задача оркестрації розподілених конвеєрів та управління даними, де мовна модель є лише одним зі змінних виконавчих модулів.

Головна цінність інженерного рішення полягає у створенні власної моделі представлення знань (DocumentIR), надійних механізмів фіксації прогресу та системи гарантій того, що складний документ вийде з конвеєра цілісним, точним та відтворюваним.

Відомі обмеження та граничні умови

Це дослідження документує концептуальний архітектурний проєкт (Big PDF Translator Architecture Study), а не готовий комерційний SaaS. Наведені показники лімітів сторонніх API верифіковані за офіційною документацією вендорів, проте фактична продуктивність у production залежить від виділених квот, мережевої затримки та конкретних параметрів інфраструктури.

Джерела та примітки

  1. [1]
  2. [2]
  3. [3]

Архітектурний консалтинг

Обговорити ці висновки стосовно вашої системи

Індивідуальні архітектурні аудити, перевірка надійності та проєктування рішень без неконтрольованої складності.