【部分失效】不用本地部署DeepSeek，免费使用70B蒸馏模型

小飞

January 31, 2025

60 views

3 comments

1907 words

网络技术

前言

教程来自up主 技术爬爬虾

网上有很多关于本地部署DeepSeek都不是真正的R1模型

因为是蒸馏模型，不如官方的聪明这是必然的

本期教程免费使用70B蒸馏模型，输出速度快，不用本地部署DeepSeek

教程

进入https://groq.com/官网，点击右上角DEV CONSOLE 需要国外上网环境

使用谷歌账户登录

右上角都是模型列表

这个deepseep-r1是基于llama蒸馏出的模型，参数70b

然后点击左侧API KEYS 点击下面创建key

复制KEY

打开Cherry studio官网(开源免费AI对话客户端)并安装https://cherry-ai.com/

进入软件点击左下角设置

模型服务选择Groq，填入刚才申请的key右上角启用模型

点击添加

复制我们的模型名字并添加

deepseek-r1-distill-llama-70b

点击助手，在最上方选中我们刚添加的模型就可以对话了

使用DENO会被ban！！！！！

~~由于Groq的api必须使用国外网络使用，所以我们得使用DENO把API中转至国内~~

~~打开项目地址https://github.com/tech-shrimp/deno-api-proxy~~

~~登录/注册 https://dash.deno.com/account/projects~~

~~点击右上角New Playground~~

~~打开项目文件main.ts并复制里面所有内容~~

async function handleRequest(request: Request): Promise<Response> {

  const url = new URL(request.url);
  const pathname = url.pathname;

  if (pathname === '/' || pathname === '/index.html') {
    return new Response('Proxy is Running！Details：https://github.com/tech-shrimp/deno-api-proxy', {
      status: 200,
      headers: { 'Content-Type': 'text/html' }
    });
  } 
  
  const targetUrl = `https://${pathname}`;

  try {
    const headers = new Headers();
    const allowedHeaders = ['accept', 'content-type', 'authorization'];
    for (const [key, value] of request.headers.entries()) {
      if (allowedHeaders.includes(key.toLowerCase())) {
        headers.set(key, value);
      }
    }

    const response = await fetch(targetUrl, {
      method: request.method,
      headers: headers,
      body: request.body
    });

    const responseHeaders = new Headers(response.headers);
    responseHeaders.set('Referrer-Policy', 'no-referrer');

    return new Response(response.body, {
      status: response.status,
      headers: responseHeaders
    });

  } catch (error) {
    console.error('Failed to fetch:', error);
    return new Response('Internal Server Error', { status: 500 });
  }
};

Deno.serve(handleRequest);