Как запускать модели ИИ локально в Windows без Интернета

Ключевые выводы

Вы можете использовать такие инструменты, как Ollama, чтобы использовать возможности моделей искусственного интеллекта с открытым исходным кодом прямо на вашем устройстве.
При локальном запуске этих моделей ИИ вы обойдете зависимость от облака и получите такие преимущества, как конфиденциальность и более быстрый вывод.

Как запускать модели искусственного интеллекта локально в Windows с помощью Ollama

Вы можете запускать модели искусственного интеллекта, такие как ChatGPT, локально на своем компьютере без подключения к Интернету. Множество сервисов помогут вам в этом процессе. Однако мы продемонстрируем это на примере Олламы.

Программы для Windows, мобильные приложения, игры - ВСЁ БЕСПЛАТНО, в нашем закрытом телеграмм канале - Подписывайтесь:)

Загрузите и установите Олламу

Шаг 1: Перейдите к Веб-сайт Олламы и нажмите кнопку Скачать кнопка.

Шаг 2: Выберите свой ОС и нажмите Скачать.

Шаг 3: Дважды щелкните загруженный файл > щелкните Установить > следуй за инструкции по установке.

После установки вы должны увидеть всплывающее окно с сообщением Оллама бежит.

Шаг 4: Запустите свой терминал. В Windows нажмите Окна + Ртип cmdи ударил Входить.

Шаг 5: Загрузите свою первую модель ИИ, используя команду ниже. Обязательно замените модель с актуальной моделью на Олламе; это могут быть Лама 3, Фи 3, Мистраль, Джемма и т. д. Будьте терпеливы; это может занять некоторое время.

Модель вытягивания Олламы

Как общаться с загруженными моделями на Ollama

Теперь, когда вы установили модель ИИ, вы можете с ней общаться. Это похоже на общение с искусственным интеллектом Gemini или ChatGPT через веб-интерфейсы. Следуйте инструкциям ниже.

Шаг 1: Запуск Терминал на вашем компьютере.

Шаг 2: Введите команда ниже. Вы можете заменить лама3 в команде для названия загруженной вами модели.

Оллама беги от Ламы3

Шаг 3: Наконец, введите приглашение и нажмите Входить как в ChatGPT или Gemini. После этого вы сможете взаимодействовать с ИИ.

Часто задаваемые вопросы

Можете ли вы запустить генеративный ИИ локально?

Да, вы можете, и в настоящее время стабильная диффузия является наиболее надежным средством. Такие инструменты, как Стабильный веб-интерфейс диффузии и Вызов AI предоставить доступ к Stable Diffusion для локальной генерации изображений.