深度学习系列62：Agent入门

大家好，欢迎来到IT知识分享网。

1 anget介绍和openai标准接口

标准接口示例如下，其中role包括：system（设定了 AI 的行为和角色，和背景），user（我们输入的问题或请求），assistant（自动生成）

import openai response = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=[ {"role": "system", "content": "你正在与一位科幻小说的专家交谈。"}, {"role": "user", "content": "我正在写一部科幻小说，故事发生在一个遥远的星球上，主人公是一个探险家。你有什么建议可以让我的故事更引人入胜吗？"}, ] ) print(response['choices'][0]['message']['content']) 

2 autogen

微软家的autogen默认撰写python代码来求解问题。

2.1 直接调用接口

autogen中可以参考下面的代码，OpenAIWrapper封装openai标准接口服务后，可以直接使用create方法调用本地LLM服务：

from autogen import OpenAIWrapper client = OpenAIWrapper(api_key="NULL", base_url="http://localhost:2600/v1", api_type="open_ai") question = '世界上最高峰是什么？' response = client.create(messages=[{"role": "user", "content": "<用户>%s<AI>"%question}], model="guff") print(client.extract_text_or_completion_object(response)) 

2.2 UserProxyAgent和AssistantAgent

from autogen import AssistantAgent, UserProxyAgent config_list = [{"model": "minicpm","base_url": "http://127.0.0.1:2600/v1","api_type": "open_ai","api_key": "NULL"}] assistant = AssistantAgent("assistant", llm_config={"config_list": config_list}) user_proxy = UserProxyAgent("user_proxy", code_execution_config={"work_dir": "coding","use_docker":False}) # 构造参与代理后，可以通过初始化步骤启动多代理对话会话，用户代理发起聊天 user_proxy.initiate_chat(assistant, message="给我讲个笑话。") 

下面的例子展示了如何使用这两个agent一步步完成任务：

from autogen import AssistantAgent, UserProxyAgent config_list = [{"model": "minicpm","base_url": "http://127.0.0.1:2600/v1","api_type": "open_ai","api_key": "NULL"}] assistant = AssistantAgent("assistant", llm_config= {"config_list": config_list,"temperature": 0.1,"max_tokens":16000,}) user_proxy = UserProxyAgent("user_proxy", code_execution_config={"work_dir": "coding", "use_docker": False}) user_proxy.initiate_chat(assistant, message="Plot a chart of NVDA and TESLA stock price change YTD.") 

3. Qwen-gen

3.1 使用方法