Устанавливаем нейросеть DeepSeek локально на компьютер. Блокировка или утечка данных больше не страшны!

Александр



Китайская нейросеть DeepSeek стала феноменально успешной и популярной, но не обошлось без скандалов — её разработчиков обвинили в краже технологий у OpenAI (создателя ChatGPT), а часть переписки пользователей с искусственным интеллектом оказалась в открытом доступе. Впрочем, можно установить DeepSeek на свой собственный компьютер, тогда нейросеть будет работать полностью приватно — без соединения с интернетом она не сможет передавать переписку посторонним людям.

Подписаться на iGuides в Telegram, чтобы узнать обо всем первым — t.me/iguides

Приложения DeepSeek выпущены на Android и iOS. Также можно пользоваться этой нейросетью в браузере на компьютере. В этих случаях её возможности шире (доступно как мышление, так и поиск в интернете), но есть риск утечки данных.

При локальном запуске DeepSeek вы получаете несколько преимуществ. Все введённые и полученные вами данные остаются с вами, никто не увидит, о чём вы общаетесь с нейросетью и какие ответы она вам предоставляет. Кроме того, вы не зависите от сторонней инфраструктуры, вам не страшны перебои в работе DeepSeek, которые могут быть вызваны неполадками на серверах или блокировками доступа со стороны провайдеров. DeepSeek можно использовать для решения очень сложных задач, в том числе в сферах математики и программирования.

Локальное использование DeepSeek на компьютере с Windows

Потребуются программы Ollama и Docker Desktop. Также можно использовать браузер для работы с DeepSeek в удобном и простом графическом интерфейсе (подойдёт любой браузер — Chrome, Safari, «Яндекс Браузер» и т. п.)

Скачайте Ollama, установите программу и запустите «Терминал» или командную строку, выполните команду ollama --version, чтобы убедиться, что программа установилась корректно.

Выполните команду ollama run deepseek-r1:1.5b для запуска языковой модели DeepSeek-R1.

Теперь можно начинать общение с DeepSeek через команды. Команда /? позволит посмотреть доступные опции, а команда /clear сбрасывает контекст общения.

DeepSeek в веб-интерфейсе

Для использования веб-интерфейса потребуется интеграция Open WebUI с помощью программы Docker Desktop. Во время установки выберите опцию Use WSL2 instead of Hyper-V, а затем в настройках убедитесь, что эта опция установлена по умолчанию (если нет — поставьте галочку).

Если на вашем компьютере не установлен компонент WSL2, Docker Desktop позволит поставить его. Он нужен для добавления подраздела Ubuntu, в котором работает DeepSeek. WSL2 также можно установить через «Терминал» или командную строку командой wsl --install.

Запустите Docker Desktop. При первом запуске программа предложит создать учётную запись.

Откройте «Терминал» или командную строку и выполните команду docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main



Подождите завершения скачивания файлов, а затем перезагрузите компьютер.

После этого Docker Desktop можно использовать в веб-интерфейсе в любом браузере. Нужно будет указать имя, адрес электронной почты и задать пароль для доступа к интерфейсу.



Запустите браузер и перейдите по адресу http://localhost:3000/

Через несколько секунд загрузится веб-интерфейс Docker Desktop. В верхней части экрана нажмите на «Выберите модель», впишите в поисковую строку "DeepSeek-R1" и нажмите «Загрузить DeepSeek-R1 с Ollama.com».



Подождите, пока языковая модель скачается на ваш компьютер. По завершении скачивания выберите эту модель, и можно начинать общаться с DeepSeek.



Локальный вариант DeepSeek, в отличие от мобильных приложений и веб-версии, не очень хорошо владеет русским языком. Более качественные результаты получаются, если общаться на английском.

Модель DeepSeek-R1 занимает менее 7 ГБ и специализируется на рассуждениях и логических задачах. Она является частью гораздо более обширной модели DeepSeek-V3, которую тоже можно скачать на ПК, но она займёт гораздо больше места — свыше 500 ГБ. Для её скачивания нужно при выборе модели вписать в поиск "DeepSeek-V3". DeepSeek работает локально на любых компьютерах, но лучше использовать машину с мощным процессором и высокопроизводительной видеокартой.

6
iGuides в Дзене —  dzen.ru/iguides
iGuides в Telegram — t.me/iguides
iGuides в VK —  vk.com/iguides
iGuides в Ok.ru — ok.ru/iguides

Рекомендации

Рекомендации

Будь в курсе последних новостей из мира гаджетов и технологий

Мы в соцсетях

Комментарии

tellurian
+2155
У меня второй день пишет занята и не работает 😢
31 января 2025 в 19:42
#

Читайте также