Выполнил: Барателиа Мирон Бесланович
Проверил: к.т.н. Игнатов Дмитрий Игоревич
В рамках данного проекта созданы инструменты для работы с абхазским языком, являющимся малоресурсным. Реализована двунаправленная модель абхазско-русского машинного перевода на основе архитектуры MarianMT, а также разработана языковая модель на основе модели Qwen2.5-0.5B, способная понимать и генерировать текст на абхазском языке, а так же на русском и английском. Основной сложностью является малоресурсность абхазского языка.
Результаты работы будут доступны на apsua.tech. Переводчик уже опубликован, LLM дорабатывается.
report.pdf: Итоговый отчет по исследовательскому проекту, содержащий детальное описание методологии, экспериментов и результатов.presentation.pdf: Презентация, обобщающая основные этапы и выводы проекта.translator/: Директория с финальной реализацией кода для обучения модели-переводчика.main.py: Главный скрипт для запуска процесса обучения.train.py: Модуль, содержащий логику цикла обучения.model.py: Модуль для инициализации модели MarianMT.data_utils.py: Модуль для загрузки, обработки и аугментации данных.callbacks.py: Модуль с пользовательскими коллбэками для Hugging Face Trainer.
llm/: Директория с кодом для обучения языковой модели.main.py: Точка входа для запуска обучения.train.py: Логика процесса обучения.model.py: Функции для токенизации и оценки модели.data_utils.py: Функции для загрузки и обработки данных.config.py: Конфигурационные параметры.
Логирование осуществляется с помощью Weights & Biases (wandb).