Использование API для ChatGPT дает нам расширение возможностей работы с ним: переводчик текста, персональный помощник, работа с документами, кастомные клиент и многое другое. Данный способ позволяет получить доступ методом reverse-api к ChatGPT, без необходимости оплаты запросов и регистрации аккаунта.
Чтобы получить ко всему этому доступ, нам понадобится — актуальная версия FreeGPT c Github, и поддержка установки кастомного endpoint (openai api) сервера со стороны нужной нам программы.
О том, как работает FreeGPT, и о работе через встроенный webui я рассказывал в самом первом посте, связанным с проектом.
Итак, качаем самую актуальную версию FreeGPT. Вы можете как установить обычную версию самостоятельно, так и воспользоваться портативной версией, не требующей установки и запускающуюся в один клик. Портативные версии можно найти в релизах на Github проекта, они помечены припиской portable.
После загрузки/распаковки нам нужно запустить bat файл start_endpoint.bat или же start_portable_endpoint.bat, в зависимости от того, какая у вас версия программы — обычная или портативная.После запуска, у вас откроется окно консоли.
Адрес нашего Endpoint сервера — http://127.0.0.1:1337
Именно его мы и будем использовать в различных программах и плагинах вместо родного https://api.openai.com
Учтите, что называться он может по-разному: Endpoint, OpenAI API Server, API URL, Reverse API, и т.д.
Самое главное, что обычно по умолчанию это идет адрес https://api.openai.com и его нам надо заменить на наш http://127.0.0.1:1337
Давайте разберем на примере.
Возьмем программу ChatGPT Next. В настройках у нас есть графа Endpoint, где указан официальный API сервер OpenAI:
Пишем сюда наш адрес: http://127.0.0.1:1337 а в поле ключ указываем псевдо-ключ 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
На самом деле ключ указывать не обязательно, просто некоторые программы проверяют его наличие и отказываются работать без него. Именно по этому мы используем ключ заглушку. Вы можете указать тут абслютно любой ключ, который найдете в сети, или же воспользоваться генератором псевдо-ключей
Затем закрываем настройки и начинаем чат. Программа подхватила наш сервер и отправляет запросы на него, а тот, в свою очередь, отправляет запросы сайту-провайдеру. Это можно увидеть, открыв консоль нашего endpoint сервера:
Точно такой же принцип и в других программах, позволяющих устанавливать кастомный endpoint сервер. К примеру, вот программа и плагин для Chrome OpenAI Translator:
Или плагин помощник для Visual Studio Code:
Важный нюанс: работать будут только те модели, которые есть в FreeGPT. Если вы попытаетесь работать с моделями, не добавленными в FreeGPT, у вас будут лишь ошибки.
На данный момент, работают.
- ChatGPT-3.5-Turbo
- ChatGPT-3.5-Turbo-0613
- ChatGPT-3.5-Turbo-16k
- ChatGPT-3.5-Turbo-16k-0613
- ChatGPT-4-0613 (в экспериментальном режиме, нестабильно)
Больше информации по работе с FreeGPT, а также по различным популярным и интересным нейронным сетям, включая их портативные сборки, можно найти в моем телеграм канале.
