文号
933664
阅读
8830
回复
2
收藏
1
所有教程由网友发布,仅供参考,请谨慎采纳。科创不对教程的科学性、准确性、可靠性负责。
Termux简单脚本爽用cloudflare Workers AI REST API
2024/06/30
原创
IP:中国
摘要:简单的脚本接入api在termux上玩
关键词:大模型,部署,脚本

事前准备:  

  1. 流畅稳定的国际互联网环境 

  2. cloudflare账号 

  3. Termux或Linux


  老众所周知了,cloudflare作为赛博活佛能给广大网友嫖的东西实在太多了,但是就原生的cloudflare ai api的那个使用体验,可以说是极其难受,具体来说就是:  

 .../usr/worker $ curl -X POST \ ","content":"You are a friendly assista>   XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX \ >   -H "Authorization: Bearer (api key)" \ >   -d

   毕竟只是一个简陋的接口哈。GitHub上也有不少可以用的UI嘛。不过我这个人比较喜欢在命令行一类的东西上玩,所以啊,就…(瞎折腾)    

  所以我就火速让隔壁的deepseek给我码了一个可还行的脚本出来 

#!/bin/bash

# 默认的API URL和模型标识
API_URL="https://api.cloudflare.com/client/v4/accounts/(替换为账号ID)/ai/run/@cf/meta/llama-2-7b-chat-int8"
MODEL_ID="@cf/meta/llama-2-7b"
MASK_CONTENT="You are a friendly assistant that helps write stories"
#默认的,更改全部更改
# 函数:启动交互模式
start_interactive_mode() {
    echo "Koop 脚本已启动。输入 'koop end' 结束脚本。"
    while true; do
        read -p "想说些什么: " user_input
        if [[ "$user_input" == "koop end" ]]; then
            echo "Koop 脚本已结束。"
            break
        elif [[ "$user_input" == "koop now" ]]; then
            echo "当前模型是:$MODEL_ID"
        elif [[ "$user_input" == "koop uow" ]]; then
            echo "当前Mask是:$MASK_CONTENT"
        elif [[ "$user_input" == koop\ run* ]]; then
            new_model=$(echo "$user_input" | awk '{print $3}')
            MODEL_ID="$new_model"
            API_URL="https://api.cloudflare.com/client/v4/accounts/(替代为账号ID)/ai/run/$MODEL_ID"
            echo "模型已变更!"
        elif [[ "$user_input" == koop\ mask* ]]; then
            new_mask=$(echo "$user_input" | awk '{$1=""; $2=""; print $0}' | sed 's/^ *//')
            MASK_CONTENT="$new_mask"
            echo "Mask已变更!"
        else
            response=$(curl -s -X POST "$API_URL" \
                -H "Authorization: Bearer (替代为API key)" \
                -d '{"messages":[{"role":"system","content":"'"$MASK_CONTENT"'"},{"role":"user","content":"'"$user_input"'"}]}')
            echo "响应: $(echo "$response" | jq -r '.result.response')"
        fi
    done
}

# 主逻辑
if [[ "$1" == "sir" ]]; then
    start_interactive_mode
else
    echo "用法: ./koop.sh sir"
fi

其中的

账号ID:登录cloudflare,点击左边菜单,找到AI,点击WorkerAI,点击“使用REST API”,见“获取账户ID”。API key就是在此页面上点击创建 Workers AI API 令牌,点击创建API令牌,点击管理API令牌,见Global API Key


脚本使用

修改自己的信息上去

  打开termux用命令nano XXXXXXXXXXXX创建一个脚本,粘贴保存退出,输入命令chmod +x .sh确保脚本有执行权限,输入./XXXXXXXXXXXX sir启动脚本

脚本命令集

./XXXXXXX sir 启动脚本(脚本在当前目录时)
 koop end 结束脚本

koop run (newtxt)修改模型链接(自行查看脚本源码和cloudflare模型库)

koop now 查看当前模型链接

koop mask (newtxt)修改模型设定

koop uow 查看当前模型设定

效果图

IMG_20240630_225536.jpg

注意

可能需要挂VPN才能运行

重启脚本后模型链接和设定都会恢复默认状态

该脚本不具有上下文功能

IMG_20240630_231144.jpg


额,好像不太行啊,凑合着玩玩吧…

[ 修改于2年4个月前 - 2024/06/30 23:17:01 ]
2年4个月前IP:美国
933668
1楼

cloudflare Workers 还能免费搭建XX 只需要丢个JS脚本上去  测速最高可以达到330Mbps 实测去访问各种知名网站很流畅  不过用它自己去访问使用了cloudflare cdn的网站很大概率是过不去人机验证的了 比如chatgpt

image.png

引用
评论
Gdeestan作者
2年4个月前IP:中国
933842
2楼
引用章鱼wheat发表于1楼的内容
cloudflare Workers 还能免费搭建XX 只需要丢个JS脚本上去  测速最高可以达到330Mbps 实测去访问各种知名网站很流畅  不过用它自己去访问使用了cloudflare cdn的...

我怀疑cloudflare自己内部也有墙,我访问一些没有人机验证的网站也根本上不去。

引用
评论
笔记
{{note.content}}
{{n.user.username}}
{{fromNow(n.toc)}} {{n.status === noteStatus.disabled ? "已屏蔽" : ""}} {{n.status === noteStatus.unknown ? "正在审核" : ""}} {{n.status === noteStatus.deleted ? '已删除' : ''}}
  • 编辑
  • 删除
  • {{n.status === 'disabled' ? "解除屏蔽" : "屏蔽" }}
我也是有底线的