Локальные нейросети в браузере
Локальный режим Free AI Hub запускает поддерживаемую небольшую языковую модель на вашем устройстве через браузер. Для первого запуска нужен интернет: библиотека и веса загружаются из внешних источников. Затем возможность работы без сети зависит от загруженной модели и сохранённого кэша.
Как запустить модель на устройстве?
- Откройте панель выбора провайдера и выберите «В браузере».
- Выберите модель, учитывая указанный в интерфейсе размер загрузки.
- Подтвердите загрузку и дождитесь окончания инициализации.
- Начните с короткого запроса. Для слабого устройства выбирайте меньшую модель.
WebGPU, WASM и память
WebGPU может ускорить вычисления на поддерживаемом устройстве. При недоступности или ошибке WebGPU приложение может использовать WASM, но это медленнее. Большая модель требует больше памяти; нехватка памяти может прервать запуск или генерацию.
Можно ли отключить интернет?
Попробовать офлайн-режим стоит только после полной загрузки и успешного ответа. Браузер может очистить кэш, поэтому постоянная работа без сети не гарантирована. Онлайн-провайдеры в этом режиме не становятся локальными.
Приватность
Само вычисление локальной модели выполняется на устройстве. История и добровольное серверное сохранение сообщений регулируются настройками сайта. Перед чувствительной задачей проверьте выбранного провайдера и согласие на сохранение; не передавайте секреты.