LLM的使用
LLM的使用
llm-workflow-engine
简介
反正就是把GPT放入Terminal了,可以shell编程。不过是基于API的,需要OPENAI_API_KEY
。
https://llm-workflow-engine.readthedocs.io/
安装
Installation — LLM Workflow Engine 0.18.1 documentation (llm-workflow-engine.readthedocs.io)
Python3.9以上的才行
1 | pip install --upgrade pip |
然后还要SQLite作为后端。
https://www.sqlite.org/download.html,
https://www.sqlite.org/2023/sqlite-dll-win64-x64-3430100.zip
下载下来后解压,把DLL放在C/Windows/System32
里面。
然后安装现成的环境(需要设置好proxy)
1 | pip install git+https://github.com/llm-workflow-engine/llm-workflow-engine |
然后在环境变量里面设置OPEN_API_KEY
变量,这个在官网里面找。
ChatGPT in shell⭐
terry3041/pyChatGPT: An unofficial Python wrapper for OpenAI’s ChatGPT API (github.com)
简介
这个不是使用API key的那种,是通过模拟ChatGPT网页版输入来实现的。
安装
首先需要有个Chrome。
然后在管理员界面里面:
1 | pip install -U pyChatGPT |
Obtaining session_token
- Go to https://chat.openai.com/chat and open the developer tools by
F12
. - Find the
__Secure-next-auth.session-token
cookie inApplication
>Storage
>Cookies
>https://chat.openai.com
. - Copy the value in the
Cookie Value
field.
Interactive mode
1 | python3 -m pyChatGPT |
Import as a module
1 | from pyChatGPT import ChatGPT |
其他
acheong08/ChatGPT: Reverse engineered ChatGPT API (github.com)
这是另外一个,但是已经被archived了,可能是太敏感了没有继续更新了。不建议试。
langchain
langchain-ai/langchain: ⚡ Building applications with LLMs through composability ⚡ (github.com)
Poe bot
我是没怎么搞懂如何用Poe的LLM搭建应用的。先把上次打开的网站记录一下。
ngrok | Unified Ingress Platform for Developers
poe-platform/fastapi_poe: A helper library for writing Poe API bots using FastAPI (github.com)
Introducing the Poe API - The Quora Blog - Quora
Quick start - Documentation (poe.com)
Samples and next steps - Documentation (poe.com)
langchain-ai/langchain-template-poe-fastapi (github.com)
OpenAI API
这就是OpenAI官方的接口。需要money购买API token。
如何通过Python调用chatGPT的api,并形成上下文详解 - 知乎 (zhihu.com)
- 本文作者: Taardis
- 本文链接: https://taardisaa.github.io/2023/09/21/LLM的使用/
- 版权声明: 本博客所有文章除特别声明外,均采用 Apache License 2.0 许可协议。转载请注明出处!