Google випустила програму для запуску ІІ-моделей з Hugging Face прямо на смартфоні та без інтернету

Є готові шаблони завдань, кожній пропонуються відповідні моделі.Google AI Edge Gallery

Google представила експериментальну програму Google AI Edge Gallery для локального використання ІІ-моделей на мобільних пристроях. Він вже доступний на Android і незабаром з'явиться на iOS. За допомогою програми користувачі можуть знаходити, завантажувати та запускати моделі з платформи Hugging Face прямо на своїх смартфонах. Додаток працює без підключення до інтернету – він використовує процесор пристрою для виконання завдань на кшталт генерації зображень, написання та редагування коду, а також відповіді на запитання.

Зображення: Google

В інтерфейсі доступні готові шаблони завдань, а також розділ Prompt Lab, що дозволяє настроювати команди на кшталт переформулювання тексту за допомогою гнучких параметрів. Для кожного завдання пропонуються відповідні моделі, включаючи, наприклад, Google Gemma 3n.

Зображення: Google

Продуктивність безпосередньо залежить від потужності пристрою та розміру обраної моделі: чим вона більша, тим довше виконується завдання. Google зазначає, що на сучасних смартфонах із потужним залізом процес буде відчутно швидше.

Програма випущена як альфа-версія та поширюється під ліцензією Apache 2.0. Завантажити його можна з GitHub – у тому числі у вигляді APK-файлу.

No votes yet.
Please wait...

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *