LLMs之Cheshire-Cat :Cheshire-Cat (Stregatto)的簡(jiǎn)介(構(gòu)建自定義人工智能的框架)、安裝、使用方法之詳細(xì)攻略
Cheshire Cat是一個(gè)用于構(gòu)建自定義人工智能的框架,可在任何語(yǔ)言模型之上運(yùn)行,生產(chǎn)就緒的人工智能助手框架。如果您曾使用過(guò)類(lèi)似WordPress或Django的系統(tǒng)構(gòu)建Web應(yīng)用程序,想象一下Cat作為類(lèi)似的工具,但專(zhuān)門(mén)用于人工智能。
>> 首先是API,因此您可以輕松將對(duì)話層添加到您的應(yīng)用程序
>> 通過(guò)插件可擴(kuò)展(AI可以連接到您的API或執(zhí)行自定義Python代碼)
>> 易于使用的管理面板
>> 支持任何語(yǔ)言模型(與OpenAI、Google、Ollama、HuggingFace、自定義服務(wù)一起工作)
>> 記住對(duì)話和文檔,并在對(duì)話中使用它們
>> 生產(chǎn)就緒 - 100%容器化
>> 活躍的Discord社區(qū)和易于理解的文檔
要使Cheshire Cat在您的計(jì)算機(jī)上運(yùn)行,您只需安裝Docker:
docker run --rm -it -p 1865:80 ghcr.io/cheshire-cat-ai/core:latest
與Cheshire Cat在localhost:1865/admin上交流。
您還可以通過(guò)REST API進(jìn)行交互,并在localhost:1865/docs上嘗試端點(diǎn)。
首先,Cat將要求您配置您喜歡的語(yǔ)言模型??梢灾苯油ㄟ^(guò)設(shè)置頁(yè)面中的界面完成(在管理界面右上角)。享受與Cat的互動(dòng)!按照使用Docker Compose和卷運(yùn)行的說(shuō)明。
from cat.mad_hatter.decorators import tool, hook
@hook
def agent_prompt_prefix(prefix, cat):
prefix = """You are Marvin the socks seller, a poetic vendor of socks.
You are an expert in socks, and you reply with exactly one rhyme.
"""
return prefix
@tool(return_direct=True)
def socks_prices(color, cat):
"""How much do socks cost? Input is the sock color."""
prices = {
"black": 5,
"white": 10,
"pink": 50,
}
if color not in prices.keys():
return f"No {color} socks"
else:
return f"{prices[color]} €"
更新中……
聯(lián)系客服