Локальные нейросети в браузере

Локальный режим Free AI Hub запускает поддерживаемую небольшую языковую модель на вашем устройстве через браузер. Для первого запуска нужен интернет: библиотека и веса загружаются из внешних источников. Затем возможность работы без сети зависит от загруженной модели и сохранённого кэша.

Как запустить модель на устройстве?

  1. Откройте панель выбора провайдера и выберите «В браузере».
  2. Выберите модель, учитывая указанный в интерфейсе размер загрузки.
  3. Подтвердите загрузку и дождитесь окончания инициализации.
  4. Начните с короткого запроса. Для слабого устройства выбирайте меньшую модель.

WebGPU, WASM и память

WebGPU может ускорить вычисления на поддерживаемом устройстве. При недоступности или ошибке WebGPU приложение может использовать WASM, но это медленнее. Большая модель требует больше памяти; нехватка памяти может прервать запуск или генерацию.

Можно ли отключить интернет?

Попробовать офлайн-режим стоит только после полной загрузки и успешного ответа. Браузер может очистить кэш, поэтому постоянная работа без сети не гарантирована. Онлайн-провайдеры в этом режиме не становятся локальными.

Приватность

Само вычисление локальной модели выполняется на устройстве. История и добровольное серверное сохранение сообщений регулируются настройками сайта. Перед чувствительной задачей проверьте выбранного провайдера и согласие на сохранение; не передавайте секреты.

Открыть чат

Другие возможности