Опубликовано: 21.04.2026 | Источник: ZDNet – Enterprise Software

Gemma 4 в дипломе: локальные AI-решения без облака и зависимостей

Поддомен: AI/ML
Роль: Data/ML-инженер

Основной поисковый запрос: дипломная работа по локальным AI-моделям

LSI-запросы: open-source LLM, Gemma 4, on-device AI, квантование моделей, ONNX Runtime, Hugging Face Transformers, edge inference, метрики качества NLP, эффективность на Raspberry Pi, оффлайн-обработка текста и изображений

Ключевые сущности: Hugging Face Transformers, ONNX Runtime, OWASP (безопасность данных на устройстве), метрики качества NLP (BLEU, ROUGE, latency, throughput), ГОСТ 34.19-2018 (оформление диаграмм и схем)

Реальные вопросы студентов:
— Как доказать, что модель работает эффективно на слабом железе?
— Где взять данные для обучения или валидации, если модель уже предобучена?
— Как оформить архитектурную схему ИИ-системы по ГОСТ?
— Какие метрики считать при сравнении производительности на телефоне и Raspberry Pi?
— Можно ли использовать чужую модель и не получить претензии на защите?

Введение

Google открыла исходный код Gemma 4 под лицензией Apache 2.0 — это не просто обновление, а прорыв в доступности мощного ИИ на периферии. Теперь модель можно запускать оффлайн: на смартфонах, Raspberry Pi, в корпоративных сетях без выхода в облако. Для студента-ИТ это шанс сделать диплом не про очередной веб-сервис, а про реальную инженерную задачу — развертывание и оптимизацию AI «на краю».

Такой проект сразу выделится: вы покажете понимание edge AI, научитесь работать с современными фреймворками и сможете измерить производительность в реальных условиях. А ещё — обойдёте типичные риски: зависимость от API, стоимость инференса, проблемы с приватностью. Это не «ещё один чат-бот», а исследование, которое можно внедрить в промышленность, образование или медицину.

Темы ВКР

Основная часть

Как вписать Gemma 4 в главу 1: теоретический анализ

Не просто пересказывайте статью — покажите понимание контекста. Сравните Gemma 4 с Llama 3, Mistral, Phi-3. Упомяните лицензию Apache 2.0: она разрешает коммерческое использование, что важно для внедрения.

Обоснуйте выбор edge AI: приведите данные о росте IoT (по Gartner или Statista), угрозы приватности при использовании облачных API. Используйте диаграмму C4 — покажите контекст системы (C4 Level 1): пользователь, устройство, модель, отсутствие облака.

Пример описания схемы (для ГОСТ 34.19):
Рисунок 1.1 — Контекстная диаграмма системы на базе Gemma 4 (уровень C4)
Подпись должна быть курсивом, шрифт 12 pt, выравнивание по центру. Диаграмму можно построить в draw.io или Mermaid.

Глава 2: проектирование и реализация

Здесь вы переходите от теории к практике. Покажите pipeline развертывания:

1. Загрузка модели из Hugging Face Hub
2. Конвертация в ONNX для ускорения
3. Оптимизация: квантование, pruning
4. Запуск на целевом устройстве

Пример скрипта конвертации (Python):

# Конвертация Gemma 4 в ONNX (упрощённо)
from transformers import AutoTokenizer, AutoModelForCausalLM
from optimum.onnxruntime import ORTModelForCausalLM
from optimum.onnxruntime import ORTConfig

model_id = "google/gemma-4-2b-it"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

# Экспорт в ONNX
ort_config = ORTConfig("decoder", dtype="fp16", opset=13)
ort_model = ORTModelForCausalLM.from_pretrained(model_id, export=True, export_kwargs={"do_dynamic_axes": False})
ort_model.save_pretrained("./gemma-4-onnx")
tokenizer.save_pretrained("./gemma-4-onnx")

Для Android используйте ONNX Runtime Mobile — он поддерживает ARM64 и работает без root. Включите GPU-ускорение через Vulkan или Metal (на iOS).

Глава 3: тестирование и оценка эффективности

Здесь вы доказываете, что решение работает. Используйте метрики:

• Latency — время генерации одного токена (мс)
• Throughput — количество токенов в секунду
• Потребление памяти — в MB
• Температура CPU — критично для Raspberry Pi
• BLEU/ROUGE — если сравниваете качество ответов

Постройте сравнительную таблицу — это будет сильный аргумент на защите. Например:

Устройство       | Latency (средн.) | Память  | Температура
Raspberry Pi 4   | 320 мс           | 5.1 ГБ  | 68°C
Android (Pixel 6)| 210 мс           | 4.3 ГБ  | 45°C
MacBook Air M1   | 89 мс            | 3.8 ГБ  | 41°C

Для визуализации используйте Matplotlib или Plotly. Диаграммы — в приложение, ссылки на них — в текст.

Чему вы научитесь

• Работать с современными open-source LLM: загружать, оптимизировать, запускать локально
• Применять инструменты Hugging Face и ONNX для edge inference
• Строить архитектурные диаграммы по C4 и оформлять их по ГОСТ 34.19
• Измерять и интерпретировать метрики производительности ИИ
• Оформлять экспериментальную часть с доказательной базой

FAQ

Можно ли использовать Gemma 4 в дипломе, если она чужая?

Да, можно. Главное — не копировать, а исследовать. Вы не просто запускаете модель, а анализируете её поведение, оптимизируете, сравниваете. Это полноценная инженерная задача. Укажите источник в списке литературы (Hugging Face, статья ZDNet).

Какие данные использовать для тестов?

Возьмите публичные датасеты: WikiText, SQuAD, Alpaca. Или сгенерируйте свои промпты — например, 50 вопросов по IT. Главное — зафиксировать выбор и объяснить, почему он репрезентативен.

Как оформить код в приложении?

Код — в приложении, с нумерацией. Каждый листинг — с поясняющей подписью: Приложение А — Скрипт конвертации Gemma 4 в ONNX. Шрифт: Courier New, 10 pt. Не вставляйте весь код в основной текст — только фрагменты.

Как доказать, что работа соответствует ГОСТ?

Проверьте: титульный лист, оглавление, структура (введение, 3 главы, заключение, список литературы, приложения). Все рисунки и таблицы — с подписями и сквозной нумерацией. Используйте шаблон вуза или скачайте актуальный ГОСТ 7.32–2017.

Источник: Google's Gemma 4 model goes fully open-source and unlocks powerful local AI - even on phones (опубликовано 2026-04-02)