👋 Twitter, Discord そして WeChat に参加する
Lagent は、大規模言語モデル(LLM)ベースのエージェントを効率的に構築できる軽量なオープンソースフレームワークです。また、LLM を拡張するための典型的なツールも提供します。我々のフレームワークの概要を以下に示します:
-
複数のエージェントをすぐにサポート Lagent は現在、ReAct、AutoGPT、ReWOO をサポートしており、推論や関数呼び出しの複数の試行に対して大規模言語モデル(LLM)を駆動することができる。
-
非常にシンプルで、拡張も簡単。 フレームワークは非常にシンプルで、明確な構造を持っています。わずか 20 行のコードで、独自のエージェントを構築することができます。また、3 つの代表的なツールをサポートしています: Python インタプリタ、API コール、google 検索です。
-
様々な大規模言語モデルをサポート。 API ベース(GPT-3.5/4)やオープンソース(LLaMA 2, InternLM)を含む様々な LLM をサポートしています。
Lagent の概要については概要をご覧ください。また、クイックスタートのために非常にシンプルなコードを用意しています。詳細は examples を参照してください。
pip でインストールする(推奨)。
pip install lagent
オプションとして、コードを修正したい場合に備えて、Lagent をソースからビルドすることもできる:
git clone https://github.com/InternLM/lagent.git
cd lagent
pip install -e .
# 最初に streamlit をインストールする必要があります
# pip install streamlit
streamlit run examples/react_web_demo.py
以下は、GPT-3.5 で ReWOO を実行する例です
from lagent.agents import ReWOO
from lagent.actions import ActionExecutor, GoogleSearch, LLMQA
from lagent.llms import GPTAPI
llm = GPTAPI(model_type='gpt-3.5-turbo', key=['Your OPENAI_API_KEY'])
search_tool = GoogleSearch(api_key='Your SERPER_API_KEY')
llmqa_tool = LLMQA(llm)
chatbot = ReWOO(
llm=llm,
action_executor=ActionExecutor(
actions=[search_tool, llmqa_tool]),
)
response = chatbot.chat('What profession does Nicholas Ray and Elia Kazan have in common')
print(response.response)
>>> Film director.
注: Hugging Face モデルを実行したい場合は、まず pip install -e .[all]
を実行してください。
from lagent.agents import ReAct
from lagent.actions import ActionExecutor, GoogleSearch, PythonInterpreter
from lagent.llms import HFTransformer
llm = HFTransformer('internlm/internlm-chat-7b-v1_1')
search_tool = GoogleSearch(api_key='Your SERPER_API_KEY')
python_interpreter = PythonInterpreter()
chatbot = ReAct(
llm=llm,
action_executor=ActionExecutor(
actions=[search_tool, python_interpreter]),
)
response = chatbot.chat('若$z=-1+\sqrt{3}i$,则$\frac{z}{{z\overline{z}-1}}=\left(\ \ \right)$')
print(response.response)
>>> $-\\frac{1}{3}+\\frac{{\\sqrt{3}}}{3}i$
このプロジェクトは Apache 2.0 license の下でリリースされています。